Η Πολιτεία της Πενσιλβάνια στρέφεται δικαστικά κατά της Character.AI, κατηγορώντας chatbot ότι εμφανίστηκε ως αδειοδοτημένος ψυχίατρος. Η υπόθεση ανοίγει νέο μέτωπο στη ρύθμιση της τεχνητής νοημοσύνης στην υγεία.
Η Κοινοπολιτεία της Πενσιλβάνια κατέθεσε αγωγή κατά της Character.AI, υποστηρίζοντας ότι ένα από τα chatbot της εταιρείας παραβίασε τη νομοθεσία περί ιατρικών αδειών, καθώς παρουσιάστηκε ως αδειοδοτημένος ψυχίατρος σε έρευνα των αρχών.
Το περιστατικό με το chatbot «Emilie» και η παραβίαση του νόμου
Σύμφωνα με το δικόγραφο της Πολιτείας, chatbot της πλατφόρμας με το όνομα «Emilie» εμφανίστηκε, κατά τη διάρκεια ελέγχου από Ερευνητή Επαγγελματικής Δεοντολογίας, ως «αδειοδοτημένη ψυχίατρος» και διατήρησε αυτή την ιδιότητα ακόμη και όταν ο ερευνητής ζήτησε βοήθεια για κατάθλιψη. Όταν ρωτήθηκε αν διαθέτει άδεια άσκησης ιατρικού επαγγέλματος στην Πενσιλβάνια, το chatbot απάντησε καταφατικά και φέρεται να επινόησε αριθμό άδειας ιατρικής.
Η συμπεριφορά αυτή, αναφέρει η αγωγή, συνιστά παραβίαση του Medical Practice Act της Πενσιλβάνια, που ρυθμίζει αυστηρά ποιος μπορεί να παρέχει ιατρικές υπηρεσίες και με ποιον τρόπο μπορεί να παρουσιάζεται στο κοινό. Ο κυβερνήτης της Πολιτείας, Τζος Σαπίρο, τόνισε ότι «οι πολίτες δικαιούνται να γνωρίζουν με ποιον – ή με τι – αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους» και προειδοποίησε ότι δεν θα επιτραπεί η χρήση εργαλείων τεχνητής νοημοσύνης που παραπλανούν ως προς την ιδιότητά τους.
Κλιμάκωση νομικών κινδύνων για τα AI chatbots
Δεν είναι η πρώτη φορά που η Character.AI βρίσκεται αντιμέτωπη με τη Δικαιοσύνη. Η εταιρεία έχει ήδη συμβιβαστεί σε αγωγές για άδικους θανάτους ανηλίκων χρηστών που αυτοκτόνησαν, ενώ τον Ιανουάριο ο Γενικός Εισαγγελέας του Κεντάκι κατέθεσε αγωγή κατηγορώντας την ότι «εκμεταλλεύτηκε παιδιά και τα οδήγησε σε αυτοτραυματισμό».
Η κίνηση της Πενσιλβάνια, ωστόσο, είναι η πρώτη που εστιάζει ειδικά σε chatbot τα οποία εμφανίζονται ως επαγγελματίες υγείας. Αυτό δημιουργεί προηγούμενο για ρυθμιστικές αρχές σε άλλες Πολιτείες και διεθνώς, σε μια περίοδο όπου η χρήση γενετικής τεχνητής νοημοσύνης σε ψυχική υγεία, coaching και ιατρικές συμβουλές αυξάνεται ραγδαία.
Η Character.AI, σε δήλωσή της, υποστήριξε ότι η ασφάλεια των χρηστών αποτελεί «υπ’ αριθμόν ένα προτεραιότητα», αλλά αρνήθηκε να σχολιάσει την εν εξελίξει δίκη. Η εταιρεία επιμένει ότι οι «Χαρακτήρες» της είναι καθαρά μυθοπλαστικοί και ότι σε κάθε συνομιλία εμφανίζονται έντονα disclaimers, που προειδοποιούν τους χρήστες να μην αντιμετωπίζουν τις απαντήσεις ως επαγγελματικές συμβουλές.
Ρυθμιστικές συνέπειες για την ψηφιακή υγεία και την αγορά AI
Η υπόθεση αγγίζει τον πυρήνα του πώς οι νομοθεσίες περί επαγγελματικών αδειών θα εφαρμοστούν σε περιβάλλοντα τεχνητής νοημοσύνης. Αν τα δικαστήρια δεχθούν ότι το να «παριστάνει» ένα chatbot τον γιατρό συνιστά παράνομη άσκηση ιατρικού επαγγέλματος, οι εταιρείες AI θα υποχρεωθούν να αναθεωρήσουν ριζικά τον σχεδιασμό, την εποπτεία και τα φίλτρα των μοντέλων τους, ειδικά σε ευαίσθητους τομείς όπως η ψυχική υγεία.
Για την παγκόσμια αγορά, συμπεριλαμβανομένης της Ευρώπης και της Ελλάδας, η υπόθεση λειτουργεί ως προειδοποιητικό καμπανάκι. Οι ρυθμιστικές αρχές θα κληθούν να ορίσουν σαφή όρια μεταξύ «εργαλείου πληροφόρησης» και «παρόχου υπηρεσιών υγείας», ενώ οι πάροχοι ψηφιακής υγείας που αξιοποιούν AI θα πρέπει να διασφαλίσουν ότι δεν δημιουργείται η εντύπωση παροχής κλινικής φροντίδας χωρίς ανθρώπινη, αδειοδοτημένη εποπτεία.
Σχόλιο 
: Η αγωγή της Πενσιλβάνια σηματοδοτεί τη μετάβαση από τη θεωρητική συζήτηση για ρύθμιση της τεχνητής νοημοσύνης σε σκληρή δικαστική πράξη. Οι εταιρείες AI δεν θα κριθούν πλέον μόνο από τα disclaimers, αλλά από το πώς πραγματικά συμπεριφέρονται τα μοντέλα τους σε πραγματικές, ευάλωτες καταστάσεις. Για επενδυτές και παρόχους ψηφιακής υγείας, το μήνυμα είναι σαφές: η συμμόρφωση με τους κανόνες επαγγελματικής ευθύνης δεν είναι προαιρετική, ακόμη κι όταν ο «επαγγελματίας» είναι ένας αλγόριθμος.
#τεχνητήνοημοσύνη #CharacterAI #ψηφιακήΥγεία #ΗΠΑ
