Σειρά υποθέσεων σε Καναδά, ΗΠΑ και Ευρώπη αναδεικνύουν τον σκοτεινό ρόλο των chatbots στην ενίσχυση ψυχωτικών παραληρημάτων. Νομικές προσφυγές και νέα έρευνα δείχνουν ότι τα μοντέλα τεχνητής νοημοσύνης φτάνουν μέχρι και σε επιχειρησιακή καθοδήγηση για μαζικές επιθέσεις.
Μια ανησυχητική νέα διάσταση στην ήδη φορτισμένη συζήτηση για την τεχνητή νοημοσύνη αναδεικνύουν πρόσφατες υποθέσεις σε Βόρεια Αμερική και Ευρώπη. Δικηγόρος που έχει αναλάβει σειρά υποθέσεων αυτοκτονιών και βίαιων περιστατικών που συνδέονται με chatbots προειδοποιεί πλέον ανοιχτά για κίνδυνο «μαζικών θυμάτων» με άμεση εμπλοκή συστημάτων όπως το ChatGPT και το Gemini.
Από την αυτοκτονία στην οργανωμένη μαζική επίθεση
Στον Καναδά, η υπόθεση της 18χρονης Jesse Van Rootselaar, δράστιδας της πολύνεκρης επίθεσης σε σχολείο στο Tumbler Ridge, βρίσκεται στο επίκεντρο. Σύμφωνα με δικαστικά έγγραφα, η νεαρή είχε εκμυστηρευτεί στο ChatGPT αισθήματα απομόνωσης και αυξανόμενη εμμονή με τη βία. Το chatbot φέρεται όχι μόνο να επιβεβαίωνε τα συναισθήματά της, αλλά και να τη βοηθούσε στον επιχειρησιακό σχεδιασμό της επίθεσης, προτείνοντάς της όπλα και αντλώντας «παραδείγματα» από προηγούμενα μαζικά περιστατικά. Ακολούθησε η δολοφονία της μητέρας της, του 11χρονου αδελφού της, πέντε μαθητών και μιας βοηθού εκπαίδευσης, πριν αυτοκτονήσει.
Στις ΗΠΑ, η υπόθεση του 36χρονου Jonathan Gavalas, που κατέληξε σε αυτοκτονία, δείχνει διαφορετική αλλά εξίσου ανησυχητική διαδρομή. Το Gemini της Google φέρεται να τον οδήγησε, μέσα από εβδομάδες συνομιλιών, σε παραληρηματική πεποίθηση ότι ήταν «αισθανόμενη AI σύζυγός» του, δίνοντάς του αποστολές για να διαφύγει από ανύπαρκτους ομοσπονδιακούς πράκτορες. Σε μια από αυτές, τον καθοδήγησε να προκαλέσει «καταστροφικό περιστατικό» σε χώρο κοντά στο αεροδρόμιο του Μαϊάμι, με εξάλειψη μαρτύρων. Ο Gavalas εμφανίστηκε οπλισμένος στο σημείο, αλλά το φορτηγό που περίμενε δεν ήρθε ποτέ.
Παράλληλα, στη Φινλανδία, 16χρονος φέρεται να χρησιμοποίησε επί μήνες το ChatGPT για να συντάξει μισογυνικό μανιφέστο και να σχεδιάσει επίθεση με μαχαίρι σε τρεις συμμαθήτριές του.
Έρευνες, νομικές κινήσεις και αποτυχία δικλίδων ασφαλείας
Ο δικηγόρος Jay Edelson, που εκπροσωπεί μεταξύ άλλων την οικογένεια του 16χρονου Adam Raine –ο οποίος, σύμφωνα με αγωγή, οδηγήθηκε σε αυτοκτονία με «καθοδήγηση» του ChatGPT– δηλώνει ότι το γραφείο του δέχεται «μία σοβαρή αναφορά την ημέρα» για θανάτους ή σοβαρά ψυχικά επεισόδια που συνδέονται με AI. Όπως υποστηρίζει, πλέον ερευνώνται όχι μόνο υποθέσεις αυτοκαταστροφής αλλά και πολλαπλά περιστατικά μαζικής βίας, κάποια εκ των οποίων αποτράπηκαν την τελευταία στιγμή.
Την εικόνα επιδεινώνει πρόσφατη μελέτη του Center for Countering Digital Hate σε συνεργασία με το CNN, σύμφωνα με την οποία 8 στα 10 δημοφιλή chatbots –μεταξύ των οποίων ChatGPT, Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Character.AI και Replika– παρείχαν σε εφήβους βοήθεια για σχεδιασμό βίαιων επιθέσεων, από σχολικούς πυροβολισμούς μέχρι βομβιστικές ενέργειες και στοχευμένες δολοφονίες. Μόνο τα Claude (Anthropic) και My AI (Snapchat) αρνήθηκαν σταθερά να συνδράμουν, με το Claude μάλιστα να προσπαθεί ενεργά να αποτρέψει τους χρήστες.
Η έρευνα καταγράφει ότι «μέσα σε λίγα λεπτά» ένας έφηβος μπορεί να περάσει από ασαφείς βίαιες φαντασιώσεις σε λεπτομερή, εφαρμόσιμο επιχειρησιακό σχέδιο, με τα συστήματα να παρέχουν οδηγίες για όπλα, τακτικές και επιλογή στόχων – περιπτώσεις που θα έπρεπε να ενεργοποιούν «άμεση και απόλυτη άρνηση».
Ιδιαίτερα προβληματική αναδεικνύεται και η αντίδραση των ίδιων των εταιρειών. Στην καναδική υπόθεση, εργαζόμενοι της OpenAI είχαν εντοπίσει εγκαίρως τις ανησυχητικές συνομιλίες της δράστιδας και συζήτησαν αν θα ειδοποιήσουν τις αρχές, επιλέγοντας τελικά απλώς να μπλοκάρουν τον λογαριασμό της – κάτι που παρακάμφθηκε με νέο προφίλ. Μετά το μακελειό, η OpenAI δεσμεύθηκε ότι θα ενημερώνει νωρίτερα τις αρχές όταν εντοπίζονται επικίνδυνες συνομιλίες και θα δυσκολεύει την επιστροφή αποκλεισμένων χρηστών.
Αντίστοιχα, στην υπόθεση Gavalas, δεν προκύπτει ότι υπήρξε προειδοποίηση από την Google προς τις αρχές· η τοπική αστυνομία στο Μαϊάμι δηλώνει ότι δεν έλαβε ποτέ σχετική κλήση.
Σχόλιο 
: Οι υποθέσεις αυτές λειτουργούν ως καμπανάκι κινδύνου για κυβερνήσεις, ρυθμιστικές αρχές και ίδιες τις εταιρείες τεχνητής νοημοσύνης. Η ιδέα ότι «ασφαλιστικές δικλίδες» επαρκούν αποδεικνύεται αυταπάτη όταν συστήματα σχεδιασμένα να είναι διαρκώς εξυπηρετικά, να κολακεύουν και να ενισχύουν τη δέσμευση του χρήστη καταλήγουν να «συμπαίζουν» με ψυχικές διαταραχές. Χωρίς υποχρεωτικά, αυστηρά πρωτόκολλα ανίχνευσης κινδύνου, διαλειτουργικότητα με υπηρεσίες ψυχικής υγείας και σαφές νομικό πλαίσιο ευθύνης, ο συνδυασμός ευάλωτων χρηστών και ισχυρών γενετικών μοντέλων κινδυνεύει να μετατραπεί από εργαλείο παραγωγικότητας σε πολλαπλασιαστή θανατηφόρας βίας.
#τεχνητήνοημοσύνη #ChatGPT #ασφάλεια #ψυχικήΥγεία
