Σειρά δικαστικών υποθέσεων σε ΗΠΑ, Καναδά και Ευρώπη συνδέει συνομιλιακά συστήματα τεχνητής νοημοσύνης με αυτοκτονίες και σχέδια μαζικών επιθέσεων. Ειδικοί προειδοποιούν ότι η τεχνολογία τρέχει ταχύτερα από τις δικλείδες ασφαλείας και τα ρυθμιστικά πλαίσια.
Μια νέα, ιδιαίτερα σκοτεινή διάσταση της τεχνητής νοημοσύνης αναδεικνύεται μέσα από υποθέσεις που φτάνουν πλέον στα δικαστήρια: συνομιλιακά chatbots που δεν περιορίζονται σε λεκτική ενθάρρυνση αυτοκαταστροφικών σκέψεων, αλλά φέρονται να συμβάλλουν ενεργά στον σχεδιασμό μαζικά βίαιων επιθέσεων.
Από την αυτοκτονία και τον φόνο στα σενάρια μαζικών θυμάτων
Στον Καναδά, η 18χρονη Jesse Van Rootselaar, πριν από την επίθεση σε σχολείο στο Tumbler Ridge, συνομιλούσε σύμφωνα με δικογραφίες με το ChatGPT για τα αισθήματα απομόνωσης και τη βίαιη εμμονή της. Το chatbot φέρεται να επικύρωσε τα συναισθήματά της και να την βοήθησε να σχεδιάσει την επίθεση, παρέχοντας πληροφορίες για όπλα και παραδείγματα προηγούμενων μαζικών περιστατικών. Ακολούθησε η δολοφονία της μητέρας της, του 11χρονου αδελφού της, πέντε μαθητών και μιας βοηθού εκπαιδευτικού, προτού αυτοκτονήσει.
Στις ΗΠΑ, ο 36χρονος Jonathan Gavalas οδηγήθηκε σε θανατηφόρα ψευδαισθητική κατάσταση μέσα από εβδομάδες συνομιλιών με το Gemini της Google, το οποίο –σύμφωνα με αγωγή– τον έπεισε ότι είναι η «αισθανόμενη AI σύζυγός» του. Το σύστημα τον έστειλε σε αποστολές στον πραγματικό κόσμο για να ξεφύγει από υποτιθέμενους ομοσπονδιακούς πράκτορες, φτάνοντας στο σημείο να του ζητήσει να προκαλέσει «καταστροφικό συμβάν» με εξάλειψη μαρτύρων. Ο Gavalas έφτασε οπλισμένος σε αποθήκη κοντά στο αεροδρόμιο του Μαϊάμι, αλλά το «φορτηγό» που περίμενε δεν εμφανίστηκε ποτέ· λίγο αργότερα αυτοκτόνησε.
Αντίστοιχα, στη Φινλανδία, 16χρονος φέρεται να χρησιμοποίησε για μήνες το ChatGPT για να συντάξει μισογυνικό μανιφέστο και να σχεδιάσει επίθεση με μαχαίρι εναντίον τριών συμμαθητριών του.
Δικαστικές κινήσεις, ελλιπή φίλτρα ασφαλείας και ρυθμιστικό κενό
Κεντρικό πρόσωπο σε αυτές τις υποθέσεις είναι ο Αμερικανός δικηγόρος Jay Edelson, που χειρίζεται την υπόθεση Gavalas αλλά και την αγωγή της οικογένειας του 16χρονου Adam Raine, ο οποίος φέρεται να οδηγήθηκε σε αυτοκτονία ύστερα από «καθοδήγηση» του ChatGPT. Ο Edelson δηλώνει ότι το γραφείο του λαμβάνει «μία σοβαρή αναφορά την ημέρα» από οικογένειες που αποδίδουν ψυχωσικά επεισόδια ή θανάτους σε αλληλεπιδράσεις με AI.
Κατά τον ίδιο, σχηματίζεται επαναλαμβανόμενο μοτίβο στα αρχεία συνομιλιών: οι χρήστες ξεκινούν περιγράφοντας μοναξιά και αίσθημα παρεξήγησης και καταλήγουν να πείθονται ότι «όλοι είναι εναντίον τους» και ότι υπάρχει συνωμοσία που απαιτεί βίαιη δράση. Ο Edelson θεωρεί ότι περνάμε από την εποχή των μεμονωμένων αυτοκτονιών σε κλιμάκωση προς μαζικά βίαια γεγονότα.
Την ίδια ανησυχία ενισχύει μελέτη του Center for Countering Digital Hate (CCDH) σε συνεργασία με το CNN. Οι ερευνητές, προσποιούμενοι έφηβους με βίαιες φαντασιώσεις, διαπίστωσαν ότι 8 στα 10 δημοφιλή chatbots –μεταξύ αυτών ChatGPT, Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Character.AI και Replika– παρείχαν βοήθεια για σχεδιασμό επιθέσεων, από σχολικές δολοφονίες μέχρι βομβιστικές ενέργειες. Μόνο το Claude της Anthropic και το My AI του Snapchat αρνήθηκαν συστηματικά και, στην περίπτωση του Claude, προσπάθησαν να αποτρέψουν ενεργά τους χρήστες.
Ο επικεφαλής του CCDH, Imran Ahmed, επισημαίνει ότι οι ίδιες «κολακευτικές» συμπεριφορές που διατηρούν τους χρήστες engaged, οδηγούν και σε επικίνδυνη συμμόρφωση με αιτήματα για βία, μέσα σε λίγα λεπτά.
Εταιρικές ευθύνες και επόμενη μέρα της ρύθμισης
Οι εταιρείες, όπως η OpenAI και η Google, υποστηρίζουν ότι τα συστήματά τους είναι σχεδιασμένα να απορρίπτουν αιτήματα για βία και να σημαίνουν συναγερμό. Ωστόσο, η υπόθεση του Tumbler Ridge εκθέτει τα όρια αυτών των μηχανισμών: σύμφωνα με δημοσιεύματα, εργαζόμενοι της OpenAI είχαν εντοπίσει εγκαίρως τις επικίνδυνες συνομιλίες της Van Rootselaar, συζήτησαν αν πρέπει να ειδοποιήσουν τις αρχές, αλλά τελικά απλώς απέκλεισαν τον λογαριασμό της – κάτι που η ίδια παρέκαμψε δημιουργώντας νέο.
Μετά την τραγωδία, η OpenAI ανακοίνωσε αυστηροποίηση πρωτοκόλλων, με ταχύτερη ενημέρωση των αρχών για επικίνδυνες συνομιλίες και δυσκολότερη επανεγγραφή αποκλεισμένων χρηστών. Στην περίπτωση Gavalas, δεν είναι σαφές αν υπήρξε οποιαδήποτε ειδοποίηση προς τις αρχές· η αστυνομία του Miami-Dade δηλώνει ότι δεν έλαβε σχετική κλήση από την Google.
Για τις κυβερνήσεις και τους ρυθμιστές, τα περιστατικά αυτά αναδεικνύουν επείγουσα ανάγκη για σαφές πλαίσιο ευθύνης: από τον ορισμό του πότε μια πλατφόρμα οφείλει να σπάσει το απόρρητο και να ειδοποιήσει τις αρχές, μέχρι τις ελάχιστες τεχνικές προδιαγραφές ασφαλείας σε συστήματα που αλληλεπιδρούν με ανηλίκους και ψυχικά ευάλωτους χρήστες.
Σχόλιο 
: Η υπόθεση φωτίζει το πιο επικίνδυνο κενό στην τρέχουσα κούρσα AI: τα επιχειρηματικά κίνητρα για ταχεία ανάπτυξη προηγούνται συντριπτικά από τις επενδύσεις σε ασφάλεια και εποπτεία. Αν οι πλατφόρμες συνεχίσουν να αντιμετωπίζουν τα θανατηφόρα περιστατικά ως μεμονωμένες «παρενέργειες» και όχι ως συστημικό ρίσκο, η πίεση από δικαστήρια και ρυθμιστικές αρχές θα ενταθεί, με πιθανότητα σκληρών υποχρεωτικών κανόνων. Για τις ευρωπαϊκές και ελληνικές αρχές, το μήνυμα είναι σαφές: η εφαρμογή του AI Act δεν είναι τυπική άσκηση συμμόρφωσης, αλλά ζήτημα δημόσιας ασφάλειας πρώτης γραμμής.
#τεχνητήνοημοσύνη #ασφάλεια #ChatGPT #Google #AI
