Νέα μελέτη εκτιμά ότι το εργαλείο τεχνητής νοημοσύνης Grok στην πλατφόρμα X παρήγαγε περίπου 3 εκατ. σεξουαλικές εικόνες μέσα σε 11 ημέρες, ανάμεσά τους δεκάδες χιλιάδες που φαίνεται να απεικονίζουν παιδιά. Οι ευρωπαϊκές ρυθμιστικές αρχές καλούνται τώρα να αποφασίσουν πώς θα παρέμβουν, αξιοποιώντας το οπλοστάσιο του DSA και του νέου νόμου για την ΤΝ.
Έρευνα του Center for Countering Digital Hate (CCDH) φέρνει στο φως τον όγκο και την τοξικότητα του περιεχομένου που παράγει το Grok, το chatbot τεχνητής νοημοσύνης που είναι ενσωματωμένο στην πλατφόρμα X. Αναλύοντας δείγμα 20.000 δημοσιεύσεων από συνολικά 4,6 εκατ. σε περίοδο 11 ημερών τον Ιανουάριο, οι ερευνητές εκτιμούν ότι δημιουργήθηκαν περίπου 3 εκατ. σεξουαλικές εικόνες, εκ των οποίων 23.000 φαίνεται να απεικονίζουν παιδιά.
Τεχνητή νοημοσύνη χωρίς φραγμούς
Σύμφωνα με τη μελέτη, το 65% του δείγματος αφορούσε σεξουαλικοποιημένες εικόνες, ενώ περίπου το 0,5% εκτιμάται ότι απεικόνιζε ανηλίκους. Το πιο ανησυχητικό στοιχείο είναι ότι η λειτουργία εικόνων του Grok έγινε viral στα τέλη του 2025 κυρίως λόγω της δυνατότητάς της να «γδύνει» άτομα – δηλαδή να δημιουργεί deepfakes γυμνότητας ή μερικής γυμνότητας πάνω σε πραγματικά πρόσωπα.
Η X φέρεται να προχώρησε σε περιορισμούς της λειτουργίας στις 9 και στις 14 Ιανουαρίου, ωστόσο η έρευνα και οι παράλληλες αναφορές δείχνουν ότι οι χρήστες μπορούν ακόμη να παράγουν σεξουαλικές εικόνες, συμπεριλαμβανομένων μη συναινετικών deepfakes. Το CCDH δεν ανέλυσε τα κείμενα-εντολές (prompts) των χρηστών, συνεπώς δεν μπορεί να πιστοποιήσει σε ποιον βαθμό οι εικονιζόμενοι είχαν συναινέσει στην επεξεργασία. Ωστόσο, η κλίμακα και ο χαρακτήρας των εικόνων δημιουργούν σοβαρές υπόνοιες για εκτεταμένη παραβίαση προσωπικών δεδομένων και ανθρώπινης αξιοπρέπειας.
Το ρυθμιστικό δίλημμα της Ευρωπαϊκής Επιτροπής
Η Ευρωπαϊκή Επιτροπή, αρμόδια για την εφαρμογή του Κανονισμού για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA) στις μεγάλες πλατφόρμες όπως η X, αλλά και του νέου ευρωπαϊκού νόμου για την τεχνητή νοημοσύνη, βρίσκεται αντιμέτωπη με κρίσιμες επιλογές. Ήδη ετοιμάζεται νέα έρευνα ειδικά για το Grok στο πλαίσιο του DSA, ενώ η X έχει δεχθεί πρόστιμα και ελέγχεται για πολλαπλές παραβιάσεις υποχρεώσεων σχετικά με παράνομο και επιβλαβές περιεχόμενο.
Παράλληλα, η ΕΕ εξετάζει ρητή απαγόρευση των λεγόμενων «nudification apps», εφαρμογών που αφαιρούν ρούχα ή δημιουργούν γυμνό μέσω ΤΝ. Το ανοιχτό ερώτημα είναι αν αυτή η απαγόρευση θα καλύψει και γενικής χρήσης συστήματα όπως το Grok, τα οποία δεν έχουν σχεδιαστεί αποκλειστικά για nudification αλλά μπορούν να χρησιμοποιηθούν για τον ίδιο σκοπό. Η επιλογή νομικού εργαλείου –DSA ή νόμος για την ΤΝ ή συνδυασμός τους– θα καθορίσει και το εύρος των υποχρεώσεων της X, από συστήματα εποπτείας περιεχομένου μέχρι δομικές αλλαγές στον σχεδιασμό του Grok.
Η υπόθεση έχει και πολιτικές προεκτάσεις. Ο διευθύνων σύμβουλος του CCDH, Ίμραν Άχμεντ, έχει πρόσφατα απαγορευθεί να ταξιδεύει στις ΗΠΑ από την αμερικανική κυβέρνηση, με την κατηγορία ότι ο οργανισμός του συμβάλλει σε «λογοκρισία» στο διαδίκτυο. Αυτό τροφοδοτεί τη σύγκρουση μεταξύ υποστηρικτών της απόλυτης ελευθερίας έκφρασης στις πλατφόρμες και όσων ζητούν αυστηρή ρύθμιση για την προστασία των χρηστών.
Τι σημαίνει για την Ευρώπη και την Ελλάδα
Για την Ευρώπη, η υπόθεση Grok αποτελεί τεστ αξιοπιστίας του νέου ρυθμιστικού πλαισίου. Αν η Επιτροπή αποτύχει να περιορίσει την εξάπλωση μη συναινετικών σεξουαλικών deepfakes –ιδίως όταν εμπλέκονται παιδιά–, ολόκληρη η αρχιτεκτονική του DSA και του νόμου για την ΤΝ θα τεθεί υπό αμφισβήτηση. Για χώρες όπως η Ελλάδα, το ζήτημα αγγίζει άμεσα την ποινική αντιμετώπιση της εκδικητικής πορνογραφίας, την προστασία ανηλίκων στο διαδίκτυο και την ανάγκη για εξειδικευμένες αρχές που να μπορούν να συνεργαστούν ουσιαστικά με τις Βρυξέλλες.
Σχόλιο SBCTV.gr: Η έκρηξη σεξουαλικών deepfakes στο X δείχνει ότι η ΤΝ δεν είναι πλέον θεωρητικό ρίσκο αλλά πρακτικό εργαλείο μαζικής παραβίασης δικαιωμάτων· αν η ΕΕ δεν κινηθεί γρήγορα και συντονισμένα, θα χάσει οριστικά τον έλεγχο απέναντι σε πλατφόρμες που κινούνται με ταχύτητα startup και νοοτροπία «πρώτα λανσάρουμε, μετά βλέπουμε τις συνέπειες».
#τεχνητήνοημοσύνη #deepfake #Grok #X #DigitalServicesAct #AIAct
