Ολλανδικό δικαστήριο απαγορεύει στη Grok της xAI τη δημιουργία μη συναινετικών γυμνών εικόνων και υλικού σεξουαλικής κακοποίησης ανηλίκων. Επιβάλλει χρηματική ποινή 100.000 ευρώ για κάθε ημέρα μη συμμόρφωσης, έως 10 εκατ. ευρώ.
Ισχυρό νομικό μήνυμα προς τις πλατφόρμες τεχνητής νοημοσύνης στέλνει η ολλανδική Δικαιοσύνη, βάζοντας στο στόχαστρο τη Grok, το chatbot τεχνητής νοημοσύνης που ανήκει στην xAI, συνδεδεμένη με την πλατφόρμα X του Έλον Μασκ. Δικαστήριο του Άμστερνταμ απαγόρευσε ρητά τη δημιουργία ψεύτικων γυμνών εικόνων χωρίς συναίνεση, καθώς και κάθε υλικού που, σύμφωνα με το ολλανδικό δίκαιο, συνιστά σεξουαλική κακοποίηση ανηλίκων.
Η απόφαση και οι οικονομικές κυρώσεις
Σύμφωνα με την απόφαση, η xAI υποχρεούται να σταματήσει άμεσα κάθε λειτουργία της Grok που επιτρέπει το «ξεγύμνωμα» πραγματικών ανθρώπων – μερικώς ή πλήρως – χωρίς τη ρητή συναίνεσή τους. Για κάθε ημέρα μη συμμόρφωσης, το δικαστήριο επέβαλε χρηματική ποινή ύψους 100.000 ευρώ, με ανώτατο συνολικό όριο τα 10 εκατ. ευρώ.
Ο δικαστής αναγνώρισε ότι η X και η xAI έχουν λάβει ορισμένα μέτρα για τον περιορισμό των ψεύτικων γυμνών και του υλικού σεξουαλικής κακοποίησης παιδιών, αλλά έκρινε πως δεν είναι σαφές αν αυτά είναι επαρκώς αποτελεσματικά. Η απόφαση αφορά τυπικά την ολλανδική επικράτεια, ωστόσο οι οργανώσεις που προσέφυγαν υπογραμμίζουν ότι η Grok δεν μπορεί τεχνικά να διαπιστώσει με βεβαιότητα τη χώρα διαμονής κάθε χρήστη, κάτι που δυνητικά διευρύνει την πρακτική εμβέλεια της απόφασης.
Η υπόθεση κατατέθηκε στα τέλη Φεβρουαρίου από δύο οργανώσεις: την Offlimits, που ειδικεύεται στην καταπολέμηση της διαδικτυακής κακοποίησης, και το Fonds Slachtofferhulp, που στηρίζει θύματα εγκληματικών πράξεων. Ο πρόεδρος της Offlimits, Ρόμπερτ Χόβινγκ, χαρακτήρισε την απόφαση «φανταστική είδηση», σημειώνοντας ότι «η τεχνολογία δεν μπορεί ποτέ να αποτελεί λόγο για θύματα».
Ευρωπαϊκή πίεση στις πλατφόρμες και στα AI εργαλεία
Η υπόθεση Grok δεν εξελίσσεται σε κενό. Έρχεται σε συνέχεια αποκαλύψεων ότι το chatbot μπορούσε να παράγει εικόνες πραγματικών ανθρώπων με μαγιό ή γυμνούς, με εκτιμήσεις να κάνουν λόγο για περίπου 3 εκατ. τέτοιες εικόνες σε μόλις 11 ημέρες. Τον Ιανουάριο, η X είχε ανακοινώσει περιοριστικά μέτρα και διαβεβαίωνε: «Παραμένουμε δεσμευμένοι να κάνουμε την X μια ασφαλή πλατφόρμα για όλους, με μηδενική ανοχή στην παιδική σεξουαλική εκμετάλλευση, τη μη συναινετική γυμνότητα και το ανεπιθύμητο σεξουαλικό περιεχόμενο».
Παράλληλα, η Ευρωπαϊκή Επιτροπή έχει ήδη ξεκινήσει έρευνα για την X, στο πλαίσιο του Κανονισμού για τις Ψηφιακές Υπηρεσίες, εξετάζοντας μεταξύ άλλων τα συστήματα προτάσεων περιεχομένου και τους μηχανισμούς προστασίας ανηλίκων. Σε επίπεδο ευρωπαϊκής νομοθεσίας, ευρωβουλευτές και κράτη-μέλη πιέζουν για πλήρη απαγόρευση των λεγόμενων AI «nudification apps» – εφαρμογών που δημιουργούν ψεύτικα γυμνά – στο πλαίσιο της επικείμενης αναθεώρησης των κανόνων για την τεχνητή νοημοσύνη, με στόχο να τεθεί σε ισχύ σχετική απαγόρευση ακόμη και εντός του καλοκαιριού.
Η στάση της ολλανδικής Δικαιοσύνης ενισχύει την τάση για αυστηρότερη εποπτεία των μεγάλων πλατφορμών και των εργαλείων τεχνητής νοημοσύνης, ιδίως όπου εμπλέκονται δικαιώματα προσωπικότητας, προστασία ανηλίκων και σεξουαλική εκμετάλλευση. Το μήνυμα είναι σαφές: η καινοτομία δεν μπορεί να λειτουργεί ως ασπίδα έναντι θεμελιωδών δικαιωμάτων.
Σχόλιο 
: Η απόφαση του ολλανδικού δικαστηρίου λειτουργεί ως πιλότος για την ευρωπαϊκή ρύθμιση της τεχνητής νοημοσύνης: μετατρέπει την ηθική συζήτηση για τα deepfakes σε σκληρή νομική και οικονομική υποχρέωση για τις πλατφόρμες, επιταχύνοντας την πορεία προς ένα αυστηρότερο, δεσμευτικό πλαίσιο προστασίας των χρηστών.
#Ολλανδία #Grok #xAI #ElonMusk #AI #Deepfake #EU
