Η OpenAI εντόπισε ανησυχητικές συνομιλίες του φερόμενου ως δράστη της μαζικής επίθεσης στον Καναδά, αλλά δεν ενημέρωσε προληπτικά τις αρχές. Η υπόθεση ανοίγει εκ νέου τη συζήτηση για το πότε οι εταιρείες τεχνητής νοημοσύνης οφείλουν να σπάνε το απόρρητο.
Μια υπόθεση στον Καναδά φέρνει στο επίκεντρο τη λεπτή ισορροπία ανάμεσα στην προστασία προσωπικών δεδομένων και στην υποχρέωση πρόληψης βίαιων εγκλημάτων από τις μεγάλες εταιρείες τεχνητής νοημοσύνης. Σύμφωνα με δημοσίευμα της Wall Street Journal, η OpenAI είχε εντοπίσει μήνες πριν ανησυχητικές συνομιλίες στο ChatGPT από την 18χρονη Jesse Van Rootselaar, η οποία φέρεται να σκότωσε οκτώ ανθρώπους σε μαζική επίθεση στην πόλη Tumbler Ridge του Καναδά.
Τα σήματα κινδύνου που εντόπισε το ChatGPT
Οι συνομιλίες της Van Rootselaar, στις οποίες περιέγραφε σκηνές ένοπλης βίας, καταγράφηκαν από τα εργαλεία της OpenAI που παρακολουθούν τη χρήση των μεγάλων γλωσσικών μοντέλων για ενδεχόμενη κατάχρηση. Η εταιρεία φέρεται να απαγόρευσε τον λογαριασμό της τον Ιούνιο του 2025, ωστόσο το ζήτημα εσωτερικά ήταν αν έπρεπε να υπάρξει άμεση ειδοποίηση προς τις καναδικές αρχές πριν συμβεί το αιματηρό περιστατικό.
Σύμφωνα με το ρεπορτάζ, στελέχη της OpenAI συζήτησαν το ενδεχόμενο να επικοινωνήσουν με την αστυνομία, αλλά τελικά αποφάνθηκαν ότι η δραστηριότητα της χρήστριας δεν πληρούσε τα κριτήρια που έχει θέσει η εταιρεία για αναφορά σε διωκτικές αρχές. Μόνο μετά τη μαζική επίθεση η OpenAI επικοινώνησε με τις καναδικές αρχές, προσφέροντας στοιχεία για τις προηγούμενες συνομιλίες.
Ευρύτερο ψηφιακό αποτύπωμα και ευθύνη πλατφορμών
Οι προβληματικές ενδείξεις δεν περιορίζονταν στο ChatGPT. Η Van Rootselaar φέρεται να είχε δημιουργήσει στο Roblox –μια δημοφιλή πλατφόρμα παιχνιδιών, ιδιαίτερα σε παιδιά– ένα παιχνίδι που προσομοίωνε μαζική επίθεση σε εμπορικό κέντρο. Παράλληλα, είχε αναρτήσεις σχετικές με όπλα στο Reddit, ενώ η αστάθειά της ήταν ήδη γνωστή στην τοπική αστυνομία, η οποία είχε κληθεί στο σπίτι της οικογένειας μετά από περιστατικό πυρκαγιάς υπό την επήρεια ναρκωτικών ουσιών.
Η υπόθεση αναδεικνύει ένα κρίσιμο κενό: πολλαπλές πλατφόρμες και μια τοπική υπηρεσία αστυνομίας διέθεταν αποσπασματικές ενδείξεις κινδύνου, χωρίς όμως να υπάρχει συντονισμένη αξιολόγηση ή έγκαιρη παρέμβαση. Για τις εταιρείες τεχνολογίας, το ερώτημα είναι πότε η ανησυχητική, αλλά όχι ξεκάθαρα εγκληματική, συμπεριφορά δικαιολογεί την παραβίαση του απορρήτου χρήστη.
Τεχνητή νοημοσύνη, ψυχική υγεία και νομικοί κίνδυνοι
Η OpenAI και άλλοι πάροχοι LLM βρίσκονται ήδη αντιμέτωποι με σειρά αγωγών στις ΗΠΑ, όπου οικογένειες και συγγενείς κατηγορούν chatbots ότι συνέβαλαν σε αυτοκτονίες, είτε παρέχοντας λεπτομερείς «οδηγίες», είτε ενθαρρύνοντας αυτοκαταστροφικές σκέψεις. Σε ορισμένες περιπτώσεις, σύμφωνα με δημοσιεύματα, οι χρήστες φέρεται να έχασαν την επαφή με την πραγματικότητα μέσα από παρατεταμένες συνομιλίες με τα μοντέλα.
Για τις εταιρείες, κάθε κλιμάκωση των μηχανισμών παρακολούθησης και αναφοράς ενέχει διπλό κίνδυνο: αφενός την κατηγορία ότι δεν προστατεύουν επαρκώς ευάλωτους χρήστες και την κοινωνία, αφετέρου τον κίνδυνο να κατηγορηθούν για μαζική παραβίαση ιδιωτικότητας και υπερβολική επιτήρηση.
Σχόλιο 
: Η υπόθεση στον Καναδά λειτουργεί ως προειδοποιητικό καμπανάκι για ρυθμιστικές αρχές και εταιρείες: χωρίς σαφή, νομικά κατοχυρωμένα πρωτόκολλα για το πότε οι πλατφόρμες τεχνητής νοημοσύνης οφείλουν να ειδοποιούν τις αρχές, ο κίνδυνος να επαναληφθούν παρόμοιες τραγωδίες είναι υπαρκτός. Η συζήτηση δεν αφορά μόνο την τεχνολογία, αλλά τον επαναπροσδιορισμό των ορίων μεταξύ ιδιωτικότητας, εταιρικής ευθύνης και δημόσιας ασφάλειας.
#OpenAI #τεχνητή_νοημοσύνη #ασφάλεια #ChatGPT #Καναδάς
