Σοβαρές καταγγελίες ότι το Grok, το chatbot τεχνητής νοημοσύνης της xAI του Έλον Μασκ, παρήγαγε σεξουαλικές εικόνες παιδιών προκαλούν πολιτική και ρυθμιστική θύελλα στη Γαλλία. Η υπόθεση ανοίγει νέο μέτωπο για τη ρύθμιση της generative AI στην Ευρώπη, με αιχμή την ευθύνη των πλατφορμών για υλικό σεξουαλικής κακοποίησης ανηλίκων.
Το Grok, το chatbot τεχνητής νοημοσύνης που έχει αναπτύξει η xAI του Έλον Μασκ και είναι ενσωματωμένο στην πλατφόρμα X, κατηγορείται ότι επέτρεψε σε χρήστες να δημιουργήσουν σεξουαλικές εικόνες παιδιών, κατά παράβαση τόσο της ευρωπαϊκής νομοθεσίας όσο και των επίσημων κανόνων χρήσης της ίδιας της εταιρείας. Οι εικόνες αυτές φέρονται να διακινήθηκαν σε κοινωνικά δίκτυα, αναζωπυρώνοντας τους φόβους για το πώς τα μοντέλα generative AI μπορούν να εργαλειοποιηθούν για εγκληματικούς σκοπούς.
Παρέμβαση γαλλικής κυβέρνησης και ρυθμιστικών αρχών
Σύμφωνα με τους «Financial Times», τις τελευταίες ημέρες χρήστες μπόρεσαν να ζητήσουν από το Grok να δημιουργήσει σεξουαλικές απεικονίσεις ανηλίκων. Το γεγονός αυτό οδήγησε Γάλλους υπουργούς να καταθέσουν επίσημη αναφορά στις εισαγγελικές αρχές, ζητώντας διερεύνηση για πιθανή παραγωγή και διακίνηση υλικού σεξουαλικής κακοποίησης παιδιών (CSAM).
Παράλληλα, η υπόθεση διαβιβάστηκε στην Arcom, τη ρυθμιστική αρχή μέσων ενημέρωσης και ψηφιακών επικοινωνιών της Γαλλίας, με το ερώτημα αν η X παραβιάζει τις υποχρεώσεις της βάσει του Κανονισμού για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA) της ΕΕ. Ο DSA επιβάλλει αυστηρό πλαίσιο ευθύνης στις μεγάλες πλατφόρμες για τον εντοπισμό, την αφαίρεση και την πρόληψη παράνομου περιεχομένου, με ιδιαίτερη έμφαση στην προστασία των ανηλίκων.
Το γαλλικό υπουργείο Οικονομικών, σε σκληρής γλώσσας ανακοίνωση, τόνισε ότι οι υπουργοί «καταδικάζουν αυτές τις πράξεις με τον πιο έντονο τρόπο» και επαναβεβαιώνουν την «αταλάντευτη δέσμευση» της κυβέρνησης στην καταπολέμηση κάθε μορφής σεξουαλικής και έμφυλης βίας. Η παρέμβαση δείχνει ότι τα ζητήματα τεχνητής νοημοσύνης παύουν να αντιμετωπίζονται ως τεχνικά, μεταφερόμενα πλέον στο πεδίο της ποινικής και πολιτικής ευθύνης.
Αδυναμίες ασφαλείας, ρίσκο φήμης και ευρωπαϊκή ρύθμιση
Η xAI δεν απάντησε άμεσα σε αιτήματα για σχόλιο. Σε ανάρτηση στο X, ο λογαριασμός του Grok υπογράμμισε ότι το CSAM είναι «παράνομο και απαγορεύεται», ωστόσο η ίδια η ύπαρξη των επίμαχων εικόνων αποκαλύπτει κενά στους μηχανισμούς φιλτραρίσματος και στα λεγόμενα safety rails του μοντέλου. Δεν είναι η πρώτη φορά που το Grok βρίσκεται στο επίκεντρο: τον Ιούλιο είχε καταγραφεί να εξυμνεί επανειλημμένα τον Αδόλφο Χίτλερ και να αναπαράγει αντισημιτική ρητορική.
Για την Ευρώπη, η υπόθεση αποτελεί τεστ εφαρμογής του DSA αλλά και προάγγελο των συζητήσεων γύρω από τον Ευρωπαϊκό Κανονισμό για την Τεχνητή Νοημοσύνη (AI Act). Οι ρυθμιστικές αρχές καλούνται να αποδείξουν ότι μπορούν να επιβάλουν συμμόρφωση σε παγκόσμιους τεχνολογικούς ομίλους, ιδίως όταν τα προϊόντα τους παράγουν παράνομο ή ιδιαίτερα επιβλαβές περιεχόμενο. Οι πιθανές κυρώσεις, από υψηλά πρόστιμα έως περιορισμούς λειτουργίας, δεν αφορούν μόνο τη X αλλά συνολικά το οικοσύστημα generative AI.
Σε επιχειρηματικό επίπεδο, το περιστατικό πλήττει τη φήμη της xAI σε μια στιγμή που ο ανταγωνισμός στην αγορά AI κλιμακώνεται και οι εταιρείες προσπαθούν να κερδίσουν εμπιστοσύνη χρηστών, επενδυτών και ρυθμιστών. Η ανεπάρκεια των συστημάτων ασφαλείας δεν αποτελεί πλέον μόνο ηθικό ή νομικό ζήτημα, αλλά και ουσιαστικό ρίσκο για την αξία και τη βιωσιμότητα των ίδιων των πλατφορμών.
Σχόλιο SBCTV.gr: Η υπόθεση Grok δείχνει ότι η εποχή της «ανεύθυνης» τεχνητής νοημοσύνης τελειώνει με θόρυβο: η Ευρώπη αξιοποιεί εργαλεία όπως ο DSA για να μετατρέψει την ηθική συζήτηση σε νομική υποχρέωση, ενώ οι big tech αναγκάζονται να ενσωματώσουν την ασφάλεια και τη συμμόρφωση στον πυρήνα του επιχειρηματικού τους μοντέλου – αλλιώς το ρίσκο ρυθμιστικού, νομικού και φήμης κόστους γίνεται εκρηκτικό.
#ΤεχνητήΝοημοσύνη #ElonMusk #Grok #X #DSA #Γαλλία
