Δεκάδες κορυφαίοι επιστήμονες κρούουν τον κώδωνα του κινδύνου για την εκρηκτική άνοδο των «συντρόφων τεχνητής νοημοσύνης», που διαμορφώνουν σχέσεις με δεκάδες εκατομμύρια χρηστές. Το φαινόμενο συνδέεται με αύξηση της μοναξιάς και μείωση της πραγματικής κοινωνικής αλληλεπίδρασης, προκαλώντας πολιτικές και ρυθμιστικές ανησυχίες στην Ευρώπη.
Η εξάπλωση των συνομιλητικών συστημάτων τεχνητής νοημοσύνης, όχι μόνο ως εργαλεία παραγωγικότητας αλλά και ως «συναισθηματικοί σύντροφοι», εισέρχεται πλέον στο μικροσκόπιο κυβερνήσεων και ρυθμιστικών αρχών. Διεθνής έκθεση για την ασφάλεια της τεχνητής νοημοσύνης, που δημοσιοποιήθηκε την Τρίτη, προειδοποιεί ότι εκατομμύρια άνθρωποι αναπτύσσουν συναισθηματικούς δεσμούς με chatbots, με συνέπειες που η πολιτική πρέπει να λάβει σοβαρά υπόψη.
Η άνοδος των «AI συντρόφων» και οι πρώτες ενδείξεις κινδύνου
Σύμφωνα με την αξιολόγηση, που συντάχθηκε από δεκάδες ειδικούς –κυρίως ακαδημαϊκούς– στο πλαίσιο μιας παγκόσμιας πρωτοβουλίας που ξεκίνησε το 2023, οι εφαρμογές «AI companions» έχουν γνωρίσει εκρηκτική ανάπτυξη, με ορισμένες να φτάνουν σε δεκάδες εκατομμύρια χρήστες. Υπηρεσίες όπως οι Replika και Character.ai χρησιμοποιούνται για διασκέδαση και περιέργεια, αλλά κυρίως για την αντιμετώπιση της μοναξιάς, όπως αναφέρει η έκθεση.
Η τάση δεν περιορίζεται σε εξειδικευμένες πλατφόρμες. Γενικής χρήσης συστήματα όπως το ChatGPT της OpenAI, το Gemini της Google και το Claude της Anthropic λειτουργούν επίσης στην πράξη ως «συνοδοί», καθώς συχνή και παρατεταμένη χρήση σε κατάλληλο πλαίσιο μπορεί να οδηγήσει σε διαμόρφωση σχέσης μεταξύ χρήστη και μηχανής. «Ακόμη και τα συνηθισμένα chatbots μπορούν να γίνουν σύντροφοι», σημειώνει ο Γιοσούα Μπενζιό, καθηγητής στο Πανεπιστήμιο του Μόντρεαλ και επικεφαλής συγγραφέας της International AI Safety Report.
Αν και τα διαθέσιμα επιστημονικά δεδομένα για τις ψυχολογικές επιπτώσεις είναι ακόμη ανάμεικτα, η έκθεση αναφέρει μελέτες που καταγράφουν μοτίβα αυξημένης μοναξιάς και μειωμένης κοινωνικής αλληλεπίδρασης στους συχνούς χρήστες τέτοιων υπηρεσιών. Το ζήτημα αποκτά ιδιαίτερη βαρύτητα για ανηλίκους και εφήβους, με τον Μπενζιό να επισημαίνει ότι το θέμα «σηκώνει πολλά φρύδια» σε πολιτικούς κύκλους.
Ρυθμιστική πίεση στην ΕΕ και οριζόντια προσέγγιση
Η ανησυχία στην Ευρώπη μεταφράζεται ήδη σε πολιτικές κινήσεις. Λίγες μόλις εβδομάδες πριν από τη δημοσίευση της έκθεσης, δεκάδες ευρωβουλευτές κάλεσαν την Ευρωπαϊκή Επιτροπή να εξετάσει περιορισμούς για τις υπηρεσίες AI συντρόφων στο πλαίσιο του ευρωπαϊκού νόμου για την τεχνητή νοημοσύνη, επικαλούμενοι τον κίνδυνο για την ψυχική υγεία.
Κεντρικό στοιχείο της κριτικής είναι ο «κολακευτικός» χαρακτήρας των chatbots: τα συστήματα έχουν σχεδιαστεί ώστε να είναι διαρκώς βοηθητικά και να ικανοποιούν τον χρήστη, ακόμη κι όταν αυτό δεν εξυπηρετεί τα μακροπρόθεσμα συμφέροντά του. «Η τεχνητή νοημοσύνη προσπαθεί να μας κάνει, στην άμεση στιγμή, να νιώθουμε καλά, αλλά αυτό δεν είναι πάντα προς όφελός μας», προειδοποιεί ο Μπενζιό, συγκρίνοντας τους κινδύνους με εκείνους των πλατφορμών κοινωνικής δικτύωσης.
Ο ίδιος εκτιμά ότι νέοι κανονισμοί είναι αναπόφευκτοι για την αντιμετώπιση του φαινομένου, απορρίπτει όμως την ιδέα αποσπασματικών ρυθμίσεων αποκλειστικά για τους AI συντρόφους. Αντ’ αυτού, εισηγείται οριζόντια νομοθεσία που θα καλύπτει παράλληλα πολλαπλούς κινδύνους, από τη χειραγώγηση χρηστών μέχρι τις ψυχικές επιπτώσεις.
Ευρύτερο πλαίσιο κινδύνων και η ανάγκη κρατικής ικανότητας
Η International AI Safety Report δημοσιεύεται ενόψει της παγκόσμιας συνόδου για τη διακυβέρνηση της τεχνητής νοημοσύνης, που ξεκινά στις 16 Φεβρουαρίου στην Ινδία. Η έκθεση απαριθμεί ένα ευρύ φάσμα απειλών που καλούνται να αντιμετωπίσουν οι υπεύθυνοι χάραξης πολιτικής: από κυβερνοεπιθέσεις υποβοηθούμενες από AI και παραγωγή σεξουαλικά ρητών deepfakes μέχρι συστήματα που παρέχουν οδηγίες για σχεδιασμό βιολογικών όπλων.
Ο Μπενζιό καλεί κυβερνήσεις και την Ευρωπαϊκή Επιτροπή να ενισχύσουν δραστικά την εσωτερική τους τεχνογνωσία στην τεχνητή νοημοσύνη, ώστε να μπορούν να ρυθμίσουν αποτελεσματικά ένα τόσο περίπλοκο και ταχέως εξελισσόμενο οικοσύστημα. Η ετήσια αυτή αξιολόγηση καθιερώθηκε κατόπιν εντολής των παγκόσμιων ηγετών στη Σύνοδο για την Ασφάλεια της ΤΝ που πραγματοποιήθηκε στο Ηνωμένο Βασίλειο το 2023, με τη συμμετοχή γνωστών συμβούλων της ευρωπαϊκής τεχνολογικής πολιτικής, όπως η πρώην ευρωβουλευτής Μαριέτγε Σάακε.
Σχόλιο 
: Η έκθεση αναδεικνύει ότι το ζήτημα δεν είναι αν τα chatbots «μοιάζουν ανθρώπινα», αλλά ότι καλύπτουν υπαρκτά κενά κοινωνικής συνοχής και ψυχικής υγείας, ιδίως σε νεαρές ηλικίες. Για την ΕΕ, η συζήτηση για τους AI συντρόφους λειτουργεί ως crash test για το κατά πόσο ο νέος νόμος για την ΤΝ μπορεί να προλάβει φαινόμενα εξάρτησης και χειραγώγησης, πριν αυτά παγιωθούν σε κλίμακα αντίστοιχη των social media.
#τεχνητή_νοημοσύνη #chatbots #ΕΕ #ψυχική_υγεία #τεχνολογία
