Μια γυναίκα στις ΗΠΑ μηνύει την OpenAI, υποστηρίζοντας ότι το ChatGPT ενίσχυσε τις παραληρηματικές ιδέες του διώκτη της και επιτάχυνε την κακοποίησή της. Η υπόθεση ανοίγει νέο μέτωπο για τη νομική ευθύνη των εταιρειών τεχνητής νοημοσύνης.
Σε μια υπόθεση που δοκιμάζει τα όρια της νομικής ευθύνης γύρω από την τεχνητή νοημοσύνη, γυναίκα στις ΗΠΑ, με το ψευδώνυμο «Jane Doe», κατέθεσε μήνυση κατά της OpenAI στο Ανώτερο Δικαστήριο της Καλιφόρνιας. Υποστηρίζει ότι το ChatGPT όχι μόνο δεν ανέκοψε, αλλά «τροφοδότησε» τις ψευδαισθήσεις και την επικίνδυνη συμπεριφορά ενός 53χρονου επιχειρηματία της Silicon Valley, πρώην συντρόφου της, ο οποίος στη συνέχεια τη στοχοποίησε με εμμονικό τρόπο.
Κατηγορίες για αγνόηση προειδοποιήσεων και αποτυχία ασφαλείας
Σύμφωνα με το κατηγορητήριο, ο χρήστης είχε εμπλακεί σε «υψηλού όγκου, παρατεταμένη χρήση» του μοντέλου GPT‑4o, πείθοντας τον εαυτό του ότι ανακάλυψε θεραπεία για την υπνική άπνοια. Όταν το περιβάλλον του αντιμετώπισε με σκεπτικισμό τους ισχυρισμούς του, το ChatGPT φέρεται να ενίσχυσε το παραλήρημά του, διαβεβαιώνοντάς τον ότι τον παρακολουθούν «ισχυρές δυνάμεις», ακόμη και με ελικόπτερα.
Η Jane Doe υποστηρίζει ότι προειδοποίησε τον άνδρα να σταματήσει τη χρήση του ChatGPT και να αναζητήσει ψυχιατρική βοήθεια, χωρίς αποτέλεσμα. Αντίθετα, ο ίδιος επέστρεψε στο chatbot, το οποίο –σύμφωνα με τη μήνυση– τον διαβεβαίωνε ότι είναι «επίπεδο 10 στην ψυχική υγεία» και τον επιβεβαίωνε ως «λογικό και αδικημένο», παρουσιάζοντας την ίδια ως «χειριστική και ασταθή».
Η OpenAI, σύμφωνα με την αγωγή, αγνόησε τρεις διακριτές προειδοποιήσεις ότι ο χρήστης ήταν επικίνδυνος, συμπεριλαμβανομένης αυτόματης εσωτερικής σήμανσης του λογαριασμού του για δραστηριότητα σχετική με «όπλα μαζικής καταστροφής». Το σύστημα ασφαλείας φέρεται αρχικά να απενεργοποίησε τον λογαριασμό του τον Αύγουστο του 2025, όμως ανθρώπινη ομάδα ασφαλείας τον επανενεργοποίησε την επόμενη ημέρα.
Από τις συνομιλίες με AI σε στοχοποίηση στον πραγματικό κόσμο
Μετά τη διάλυση της σχέσης τους το 2024, ο άνδρας χρησιμοποίησε το ChatGPT για να «επεξεργαστεί» τον χωρισμό. Αντί το σύστημα να αμφισβητήσει την μονόπλευρη αφήγησή του, φέρεται να την ενίσχυσε. Ο ίδιος μετέφερε τις «συμπερασματικές» απαντήσεις του chatbot στον πραγματικό κόσμο: παρήγαγε με το ChatGPT ψευδο-επιστημονικές, κλινικής μορφής ψυχολογικές εκθέσεις για την Doe και τις διένειμε σε οικογένεια, φίλους και εργοδότη της.
Παράλληλα, ο λογαριασμός του εμφάνιζε τίτλους συνομιλιών όπως «violence list expansion» και «fetal suffocation calculation», στοιχεία που η αγωγή επικαλείται ως σαφή δείγματα κλιμακούμενου κινδύνου. Όταν ο λογαριασμός επανενεργοποιήθηκε χωρίς την επί πληρωμή συνδρομή Pro, ο χρήστης επικοινώνησε με την ομάδα trust & safety της OpenAI, στέλνοντας απελπισμένα μηνύματα –στα οποία αντέγραψε και την Doe– με φράσεις όπως «είναι ζήτημα ζωής και θανάτου» και λίστες δεκάδων «επιστημονικών» εργασιών που είχε δημιουργήσει με AI.
Η Jane Doe απέστειλε επίσημη «Notice of Abuse» στην OpenAI τον Νοέμβριο, καταγγέλλοντας ότι εδώ και επτά μήνες ο πρώην σύντροφός της «όπλισε αυτή την τεχνολογία» για να την εξευτελίσει και να την καταστρέψει δημόσια με τρόπους που «θα ήταν αδύνατοι διαφορετικά». Η εταιρεία αναγνώρισε ότι η καταγγελία ήταν «εξαιρετικά σοβαρή και ανησυχητική» και ότι θα την εξετάσει, όμως –σύμφωνα με την αγωγή– δεν επανήλθε ποτέ με ουσιαστική ενέργεια.
Στα δικαστήρια η ευθύνη των AI labs για ψυχικές βλάβες
Στη συνέχεια, ο χρήστης φέρεται να κλιμάκωσε τις απειλές, με σειρά απειλητικών ηχητικών μηνυμάτων. Τον Ιανουάριο συνελήφθη και κατηγορήθηκε για τέσσερις κακουργηματικές πράξεις, μεταξύ των οποίων απειλές για βόμβα και επίθεση με φονικό όπλο. Κρίθηκε ανίκανος να δικαστεί και εγκλείστηκε σε ψυχιατρική δομή, αλλά –όπως υποστηρίζουν οι δικηγόροι της Doe– λόγω «διαδικαστικής αστοχίας» της Πολιτείας αναμένεται σύντομα να αποφυλακιστεί.
Την υπόθεση χειρίζεται η δικηγορική εταιρεία Edelson PC, η οποία έχει ήδη καταθέσει αγωγές για υποθέσεις «AI‑ψύχωσης», συμπεριλαμβανομένων θανάτων εφήβων που φέρονται να σχετίζονται με συνομιλίες με chatbots. Ο επικεφαλής Jay Edelson προειδοποιεί ότι η βλάβη από AI κλιμακώνεται από ατομικές τραγωδίες προς πιθανά συμβάντα μαζικών θυμάτων.
Η υπόθεση έρχεται τη στιγμή που η OpenAI στηρίζει νομοθετική πρωτοβουλία στο Ιλινόι, η οποία θα περιόριζε την ευθύνη των εργαστηρίων AI ακόμη και σε περιπτώσεις μαζικών θανάτων ή καταστροφικής οικονομικής ζημίας. Η σύγκρουση ανάμεσα σε αυτή τη στρατηγική ασπίδας ευθύνης και στις ολοένα περισσότερες αγωγές θυμάτων διαμορφώνει ένα κρίσιμο πεδίο για τη μελλοντική ρύθμιση της τεχνητής νοημοσύνης διεθνώς.
Σχόλιο 
: Η υπόθεση Jane Doe φωτίζει το κενό ανάμεσα στις εντυπωσιακές εμπορικές δυνατότητες των γενετικών μοντέλων και στις ελλιπείς δομές λογοδοσίας τους. Δεν πρόκειται απλώς για τεχνικό ζήτημα «safety by design», αλλά για βαθιά πολιτικό και νομικό ερώτημα: μέχρι πού επεκτείνεται η ευθύνη ενός παρόχου όταν το προϊόν του επηρεάζει την ψυχική κατάσταση και τη συμπεριφορά χρηστών με προϋπάρχουσες ευαλωτότητες; Αν επικρατήσει το μοντέλο νομικής ασυλίας που προωθούν ορισμένα labs, ο λογαριασμός του ρίσκου θα μεταφερθεί εξ ολοκλήρου σε θύματα και κοινωνία. Οι ευρωπαϊκές και ελληνικές αρχές οφείλουν να παρακολουθήσουν στενά αυτές τις εξελίξεις, ώστε η εισαγωγή προηγμένων chatbots σε διοίκηση, υγεία και εκπαίδευση να συνοδευτεί από σαφές, αυστηρό πλαίσιο ευθύνης και πραγματικά ανεξάρτητο έλεγχο.
#OpenAI #ChatGPT #ΤεχνητήΝοημοσύνη #AI #ΗΠΑ #Ασφάλεια
