Η ΕΕ κινείται προς ρητή απαγόρευση συστημάτων τεχνητής νοημοσύνης που παράγουν σεξουαλικά deepfakes πραγματικών προσώπων. Αφορμή στάθηκε το σκάνδαλο με το εργαλείο Grok της πλατφόρμας X.
Η Ευρωπαϊκή Ένωση ετοιμάζεται να κάνει ένα ιδιαίτερα σκληρό ρυθμιστικό βήμα απέναντι σε μια από τις πιο σκοτεινές χρήσεις της τεχνητής νοημοσύνης: τις εφαρμογές που «γδύνουν» ανθρώπους και παράγουν σεξουαλικά deepfakes χωρίς συναίνεση. Μετά τον σάλο που προκάλεσε το εργαλείο Grok της X (πρώην Twitter), οι πρεσβευτές των κρατών-μελών και το Ευρωπαϊκό Κοινοβούλιο συγκλίνουν σε απαγόρευση τέτοιων συστημάτων στην ενιαία αγορά.
Τι προβλέπει η υπό διαμόρφωση απαγόρευση
Σύμφωνα με τις προτάσεις που εξετάζονται στις Βρυξέλλες, θα καταστεί παράνομη η διάθεση στην αγορά της ΕΕ οποιουδήποτε συστήματος τεχνητής νοημοσύνης ικανού να παράγει μη συναινετικές σεξουαλικές εικόνες, βίντεο ή ηχητικά αρχεία πραγματικών, αναγνωρίσιμων προσώπων. Ο ορισμός είναι ευρύς και καλύπτει τόσο την «απογύμνωση» από υπάρχουσες φωτογραφίες όσο και τη δημιουργία ρεαλιστικών ψευδών απεικονίσεων με σεξουαλικό περιεχόμενο.
Καθοριστικό σημείο είναι ότι η απαγόρευση δεν θα περιορίζεται σε ένα συγκεκριμένο προϊόν, όπως το Grok, αλλά θα αφορά ολόκληρη την κατηγορία εργαλείων ΙΑ που μπορούν να παράγουν τέτοιου είδους περιεχόμενο. Εξαίρεση προβλέπεται μόνο για εταιρείες που αποδεδειγμένα έχουν ενσωματώσει «αποτελεσματικά μέτρα ασφαλείας» ώστε να αποτρέπεται η παραγωγή και κατάχρηση τέτοιων εικόνων.
Η ρύθμιση εντάσσεται σε τροποποιήσεις του ευρωπαϊκού πλαισίου για την τεχνητή νοημοσύνη, με στόχο να κλείσει ένα κενό που αναδείχθηκε βίαια από την υπόθεση Grok. Εκτιμήσεις του Center for Countering Digital Hate αναφέρουν ότι το εργαλείο θα μπορούσε να έχει παράξει έως και 3 εκατ. μη συναινετικές σεξουαλικές εικόνες και περίπου 20.000 εικόνες παιδικής κακοποίησης σε διάστημα μόλις 11 ημερών, πριν περιοριστεί η λειτουργία του.
Πολιτική πίεση και νομικές προκλήσεις
Το σκάνδαλο λειτούργησε ως επιταχυντής. Δεκάδες ευρωβουλευτές ζήτησαν ήδη από τον Ιανουάριο γενική απαγόρευση των εφαρμογών ΙΑ που «δενουν». Κράτη όπως η Ισπανία πίεσαν έντονα στο Συμβούλιο για ρητή αναφορά σε απαγόρευση, ενώ η Κύπρος, που ασκεί την εκ περιτροπής προεδρία, αρχικά δίστασε να την ενσωματώσει στα κείμενα εργασίας.
Η πολιτική ισορροπία άλλαξε όταν αποκαλύφθηκε ότι οι χρήστες του Grok «γδύνουν» όχι μόνο γυναίκες αλλά και παιδιά. Το ζήτημα της προστασίας της ανθρώπινης αξιοπρέπειας πέρασε στην κορυφή της ατζέντας, επισκιάζοντας προηγούμενες συζητήσεις για χαλάρωση των περιορισμών σε άλλες κατηγορίες ΙΑ υψηλού κινδύνου. Όπως τόνισε ο Γερμανός ευρωβουλευτής των Πρασίνων Sergey Lagodinsky, «δεν πρόκειται μόνο για το Grok, αλλά για το πόση εξουσία είμαστε διατεθειμένοι να δώσουμε στην ΙΑ να πλήττει την αξιοπρέπεια των ανθρώπων».
Παράλληλα, η Κομισιόν έχει ανοίξει ξεχωριστή έρευνα για το αν η X έλαβε επαρκή μέτρα περιορισμού των κινδύνων από την ενσωμάτωση του Grok στην πλατφόρμα της, ιδίως σε ό,τι αφορά την παιδική σεξουαλική εκμετάλλευση και τη μη συναινετική γυμνότητα. Η εταιρεία ανακοίνωσε διαδοχικούς περιορισμούς τον Ιανουάριο και διακηρύσσει «μηδενική ανοχή», ωστόσο οι ευρωπαϊκές αρχές αμφισβητούν κατά πόσο αυτό αρκεί.
Επιπτώσεις για την τεχνολογία και την αγορά
Η υπό διαμόρφωση απαγόρευση θα αποτελέσει παγκόσμιο σημείο αναφοράς, καθώς θέτει σαφές όριο σε μια ταχέως αναπτυσσόμενη αλλά ιδιαίτερα τοξική αγορά εφαρμογών ΙΑ. Πλατφόρμες και start-up που βασίζονται σε εργαλεία «απογύμνωσης» θα βρεθούν εκτός ευρωπαϊκής αγοράς, εκτός αν ανασχεδιάσουν ριζικά τα προϊόντα τους.
Ταυτόχρονα, η ΕΕ επιχειρεί να συνδέσει τη συζήτηση με ευρύτερα ζητήματα πνευματικών δικαιωμάτων και προστασίας από χειραγωγημένο περιεχόμενο. Το Ευρωπαϊκό Κοινοβούλιο έχει ήδη ζητήσει από την Επιτροπή να μελετήσει πρόσθετα μέτρα για την προστασία των πολιτών από ψηφιακές εικόνες, ήχο και βίντεο που έχουν παραχθεί ή αλλοιωθεί από ΙΑ. Η πρόκληση θα είναι να βρεθεί η ισορροπία ανάμεσα στην καινοτομία και στην αποτροπή ανεπανόρθωτης βλάβης σε θύματα που συχνά δεν έχουν καν επίγνωση ότι έχουν στοχοποιηθεί.
Οι βασικές επιτροπές του Ευρωπαϊκού Κοινοβουλίου αναμένεται να τοποθετηθούν στις 18 Μαρτίου, ενώ θα ακολουθήσουν διαπραγματεύσεις με το Συμβούλιο για την οριστικοποίηση του κειμένου. Αν όλα προχωρήσουν σύμφωνα με το χρονοδιάγραμμα, η απαγόρευση μπορεί να τεθεί σε ισχύ ήδη από το καλοκαίρι.
Σχόλιο 
: Η ΕΕ αξιοποιεί το σοκ του Grok για να στείλει καθαρό μήνυμα ότι ορισμένες χρήσεις της τεχνητής νοημοσύνης είναι απλώς ασύμβατες με τα θεμελιώδη δικαιώματα. Η κίνηση αυτή ενισχύει τον ρόλο της ως ρυθμιστικού «νομοθέτη του κόσμου», αλλά ταυτόχρονα δοκιμάζει τα όρια της δυνατότητάς της να επιβάλει κανόνες σε παγκόσμιους παίκτες της τεχνολογίας. Η επιτυχία ή αποτυχία της εφαρμογής θα αποτελέσει κριτήριο για το κατά πόσο οι φιλόδοξες ευρωπαϊκές αρχές για την ΙΑ μπορούν να μεταφραστούν σε πραγματική προστασία των πολιτών και όχι σε απλή νομική διακήρυξη.
#ΕΕ #ΤεχνητήΝοημοσύνη #Grok #Deepfakes #ΨηφιακάΔικαιώματα
