Ένα παρασκηνιακό δίκτυο νεαρών δημιουργών από το Πακιστάν και τη Σρι Λάνκα παράγει με εργαλεία τεχνητής νοημοσύνης ισλαμοφοβικό περιεχόμενο για βρετανικό κοινό. Το οικονομικό κίνητρο, ο αλγόριθμος και η υποχώρηση της εποπτείας της Meta δημιουργούν ένα εκρηκτικό μείγμα.
Πίσω από φαινομενικά «πατριωτικές» σελίδες στο Facebook, με σημαίες Union Jack και ονόματα όπως «Britain Today», κρύβεται μια νέα, κερδοφόρα βιομηχανία ψηφιακής προπαγάνδας. Βίντεο και εικόνες, παραγόμενα με εργαλεία τεχνητής νοημοσύνης, αναπαράγουν νοσταλγία για μια δήθεν «αγγλική» και «όμορφη» Βικτωριανή εποχή και ταυτόχρονα διαχέουν ωμό ρατσιστικό και ισλαμοφοβικό λόγο.
Το περιεχόμενο αυτό, που παρουσιάζεται ως φωνή «απλών Βρετανών», αποδεικνύεται ότι σχεδιάζεται και εκτελείται από νεαρούς επιχειρηματίες στη νότια Ασία, με μοναδικό κίνητρο το κέρδος.
Η νέα βιομηχανία «slop» και τα οικονομικά κίνητρα
Η έρευνα του Bureau of Investigative Journalism χαρτογραφεί δύο χαρακτηριστικά παραδείγματα από το Πακιστάν και τη Σρι Λάνκα. Οι δημιουργοί αυτοί αξιοποιούν το πρόγραμμα διαμοιρασμού διαφημιστικών εσόδων της Meta: όσο πιο πολύ «τρακάρει» το περιεχόμενο με τον αλγόριθμο –δηλαδή όσο περισσότερη οργή, φόβο και μίσος προκαλεί– τόσο περισσότερες προβολές και έσοδα αποφέρει.
Ένας Πακιστανός δημιουργός, ο οποίος δηλώνει ευσεβής μουσουλμάνος, ανέφερε ότι κερδίζει περίπου 1.500 δολάρια τον μήνα μόνο από μία σελίδα, ποσό πολλαπλάσιο του μέσου εισοδήματος στη χώρα του. Ο Σριλανκανός Geeth Sooriyapura ισχυρίστηκε ότι έχει αποκομίσει συνολικά 300.000 δολάρια από την παρουσία του στο Facebook, ενώ διαφημίζει και «ακαδημία περιεχομένου» από την οποία, σύμφωνα με τον ίδιο, έχουν «αποφοιτήσει» 2.500 άτομα.
Η υπόσχεση του λεγόμενου «παθητικού εισοδήματος» –να εγκαταλείψεις την παραδοσιακή εργασία και να ζεις από τις πλατφόρμες– τροφοδοτεί την εξάπλωση αυτής της οικονομίας «AI slop»: μαζικής παραγωγής φτηνής, προκλητικής ψηφιακής σαβούρας.
Generative AI και αποδυναμωμένη εποπτεία της Meta
Δύο δομικοί παράγοντες ενισχύουν το φαινόμενο. Πρώτον, η ευρεία διαθεσιμότητα εργαλείων γενετικής τεχνητής νοημοσύνης. Χρησιμοποιούνται για ιδέες, κείμενα, εικόνες και βίντεο, ακόμη και από δημιουργούς με περιορισμένη γνώση αγγλικών. Σε εκπαιδευτικό βίντεο του Sooriyapura προς τους μαθητές του, υποστηρίζεται ότι τα βίντεο AI μπορούν να κάνουν πολιτικό περιεχόμενο να γίνει viral «έως και δέκα φορές πιο γρήγορα».
Δεύτερον, η υποχώρηση της εποπτείας περιεχομένου από τη Meta και άλλες πλατφόρμες. Μαζικές περικοπές στις ομάδες trust & safety, που παρακολουθούσαν και αφαιρούσαν επιβλαβές υλικό, έχουν αφήσει κενά τα οποία καλύπτει πλέον η αυτοματοποίηση. Οι εταιρείες επικαλούνται την χρήση δικών τους συστημάτων AI για τον εντοπισμό παραπλανητικού ή μισαλλόδοξου περιεχομένου, όμως η πραγματικότητα δείχνει ότι τεράστιος όγκος χυδαίου υλικού παραμένει εύκολα προσβάσιμος.
Η έρευνα αναδεικνύει και την παθητικότητα της Meta: ένας από τους δημιουργούς εντοπίστηκε μέσα σε λίγες ώρες με βασικά εργαλεία OSINT, συνδέοντας ανώνυμες σελίδες μίσους με προσωπικούς λογαριασμούς όπου δημοσίευε θρησκευτικά κείμενα. Παρ’ όλα αυτά, οι σχετικές σελίδες αφαιρέθηκαν από τη Meta μόνο αφού ενημερώθηκε από τους δημοσιογράφους – και σε ορισμένες περιπτώσεις επανεμφανίστηκαν σύντομα.
Ηθικά διλήμματα και πολιτικές συνέπειες
Το αποτέλεσμα είναι μια τοξική ροή περιεχομένου που κανονικοποιεί φράσεις όπως «ο καρκίνος του Ισλάμ» ή θεωρίες περί «μεγάλης αντικατάστασης», δημιουργώντας ένα κλίμα εχθρότητας απέναντι σε μετανάστες και μουσουλμάνους στο Ηνωμένο Βασίλειο. Στα σχόλια κάτω από τα βίντεο, χρήστες ζητούν μαζικές απελάσεις, ονειρεύονται «εθνοτικό εμφύλιο» ή γελούν με σκηνές πνιγμού μεταναστών στη Μάγχη.
Η Meta απαντά τυπικά ότι διαθέτει «σαφείς κανόνες κοινότητας» και αφαιρεί λογαριασμούς που τους παραβιάζουν. Όμως όσο ο βασικός της επιχειρηματικός μοντέλο παραμένει ένα αλγοριθμικό feed που ανταμείβει τα πιο ακραία συναισθήματα με περισσότερη προβολή και χρήμα, η προσφορά νέων «sloperators» θα είναι ανεξάντλητη.
Σχόλιο 
: Η υπόθεση αναδεικνύει το βαθύ δομικό πρόβλημα του μοντέλου των μεγάλων πλατφορμών: όταν η εμπλοκή ταυτίζεται με το κέρδος, ο αλγόριθμος θα ευνοεί σταθερά το πιο τοξικό περιεχόμενο. Χωρίς σκληρές ρυθμιστικές παρεμβάσεις και πραγματικό κόστος για τις εταιρείες όταν αποτυγχάνουν να εφαρμόσουν τους ίδιους τους κανόνες τους, η βιομηχανία του μίσους με τη βοήθεια της τεχνητής νοημοσύνης θα συνεχίσει να επεκτείνεται, μετατρέποντας τις κοινωνικές πλατφόρμες σε εργοστάσια ριζοσπαστικοποίησης.
#Facebook #Meta #ΤεχνητήΝοημοσύνη #Ισλαμοφοβία #ΚοινωνικάΔίκτυα #Παραπληροφόρηση
