Η υπόσχεση της τεχνητής νοημοσύνης «πιάνει τόπο» μόνο όταν τα οφέλη μοιράζονται από την ανθρωπότητα. Ακούγεται αυτονόητο, αλλά στην πράξη είναι μια ωραία διακήρυξη χωρίς δεσμεύσεις: την υπέγραψαν η ΕΕ και δεκάδες χώρες σε πρόσφατη διεθνή σύνοδο. Το θέμα είναι ότι στις Βρυξέλλες η πολιτική τάση πάει αλλού: προς την “απλοποίηση”, που συχνά σημαίνει κόψιμο υποχρεώσεων. Και μέσα σε αυτό το κύμα, ένα κρίσιμο κομμάτι κινδυνεύει να γίνει υποσημείωση: ο γραμματισμός στην τεχνητή νοημοσύνη.
Με απλά λόγια, μιλάμε για τις γνώσεις που χρειάζεται ένας πολίτης, ένας εργαζόμενος, μια επιχείρηση και μια δημόσια υπηρεσία για να παίρνουν ενημερωμένες αποφάσεις όταν χρησιμοποιούν ή αγοράζουν εργαλεία τεχνητής νοημοσύνης. Αν αυτό από υποχρέωση μετατραπεί σε «εθελοντικό», και αν το βάρος περάσει από τους παρόχους και τους χρήστες στους κρατικούς μηχανισμούς, τότε έχουμε το κλασικό ευρωπαϊκό μοντέλο: πολλή καλή πρόθεση, λίγη εκτελεστότητα και μηδενική λογοδοσία όταν κάτι σπάσει.
Και κάτι θα σπάσει. Όχι επειδή η τεχνητή νοημοσύνη είναι “κακή”, αλλά επειδή είναι ισχυρή, περίπλοκη και εκπαιδεύεται σε δεδομένα που κουβαλούν μεροληψίες: από το πώς συλλέχθηκαν, από το πού συλλέχθηκαν, από το ποιοι “φαίνονται” και ποιοι εξαφανίζονται μέσα στους αριθμούς. Χωρίς γραμματισμό, ο χρήστης δεν έχει εργαλεία ελέγχου. Χωρίς εργαλεία ελέγχου, δεν υπάρχει πραγματική ευθύνη.
Το πιο ωμό παράδειγμα είναι όταν το κράτος εφαρμόζει «έξυπνα» συστήματα σε κοινωνικές πολιτικές. Στην Ολλανδία αποκαλύφθηκε ότι μοντέλο μηχανικής μάθησης για επιδόματα παιδικής φροντίδας είχε σημαδέψει λάθος πάνω από 30.000 περιπτώσεις. Αργότερα, το Άμστερνταμ δοκίμασε πιο προσεγμένο σύστημα, που αφαιρούσε “ευαίσθητες” μεταβλητές για να μειώσει την ανθρώπινη μεροληψία. Παρ’ όλα αυτά, σε πιλοτικούς ελέγχους βγήκαν νέα προβλήματα και το εργαλείο αποσύρθηκε. Το μάθημα είναι απλό: ακόμα και καλοσχεδιασμένα συστήματα μπορούν να παράγουν απρόβλεπτες στρεβλώσεις, αν δεν υπάρχουν άνθρωποι που να ξέρουν τι να ρωτήσουν και τι να αμφισβητήσουν.
Το πρόβλημα γίνεται χειρότερο με τα σημερινά μεγάλα γλωσσικά μοντέλα που τροφοδοτούν τους δημοφιλείς συνομιλητές. Η κλίμακα και η πολυπλοκότητα κάνουν τον έλεγχο πολύ δύσκολο. Δεν αρκεί να ξεχωρίζεις το συνθετικό περιεχόμενο ή να καταλαβαίνεις ότι η τεχνητή νοημοσύνη έχει όρια. Πρέπει να ξέρεις πότε αυτά τα όρια στενεύουν επικίνδυνα, ειδικά όταν μπαίνουμε στην εποχή των “πρακτόρων” τεχνητής νοημοσύνης: συστημάτων που παίρνουν πρόσβαση σε αρχεία, προσωπικά δεδομένα και ολοένα περισσότερο στο διαδίκτυο, ώστε να σχεδιάζουν και να εκτελούν εργασίες αυτόνομα — μέχρι και διαπραγμάτευση αγοράς αυτοκινήτου.
Σε τέτοια οικοσυστήματα, η ασφάλεια δεν είναι “επιλογή”. Είναι προϋπόθεση. Κι όμως, πρόσφατα είδαμε το κλασικό σενάριο: μια πλατφόρμα τύπου φόρουμ, γεμάτη αυτόνομους πράκτορες, άφησε εκτεθειμένα προσωπικά δεδομένα δεκάδων χιλιάδων χρηστών λόγω σχεδόν ανύπαρκτης ασφάλειας — όχι επειδή δεν υπήρχαν προειδοποιήσεις, αλλά επειδή η υλοποίηση έτρεξε πιο γρήγορα από την κατανόηση. Αυτό είναι το “προσεχώς” όταν η τεχνολογία αναπτύσσεται με ρυθμό αγοράς, αλλά η κοινωνία με ρυθμό εγκυκλίου.
Ακόμα πιο ανησυχητικό είναι όταν η τεχνητή νοημοσύνη χρησιμοποιείται για κατάχρηση: εργαλεία που παράγουν γυμνές εκδοχές εικόνων γυναικών και παιδιών, προκαλώντας έρευνες και αντιδράσεις. Η επιβολή κανόνων εκ των υστέρων δεν αρκεί. Χρειάζεται ενημερωμένο κοινό που ξέρει τι να απορρίψει, τι να καταγγείλει και — κυρίως — τι να μην “δοκιμάσει για πλάκα”.
Και εδώ έρχεται η ευρωπαϊκή αντίφαση: σημαντικό ποσοστό επιχειρήσεων ήδη χρησιμοποιεί τεχνητή νοημοσύνη, αλλά μεγάλο μέρος του πληθυσμού δεν έχει ούτε βασικές ψηφιακές δεξιότητες. Η ΕΕ λέει ότι το έχει ως προτεραιότητα, διατηρεί αποθετήριο πρωτοβουλιών, κάνει εκστρατείες. Όμως η πραγματικότητα είναι ότι η αγορά κινείται γρήγορα, οι οργανισμοί υιοθετούν, και η κοινωνία μένει πίσω.
Αν η Ευρώπη θέλει ανταγωνιστικό πλεονέκτημα χωρίς να θυσιάσει την εμπιστοσύνη, η στρατηγική δεν μπορεί να είναι μόνο “επενδύσεις και τα βλέπουμε”. Θέλει οικοσύστημα με βάση την εμπιστοσύνη, και αυτό χτίζεται με τρία πράγματα: τεχνική υποδομή, πρόσβαση σε ποιοτικά δεδομένα, και μαζικό γραμματισμό. Σε όρους βιομηχανικής πολιτικής, αυτό μεταφράζεται σε στήριξη ανοιχτών τεχνολογιών, υπολογιστική ισχύ κοντά σε ερευνητικά κέντρα και καθαρή ενέργεια, και αξιοποίηση ευρωπαϊκών δεδομένων υψηλής ποιότητας ώστε η Ένωση να “τρέχει από πίσω” αποτελεσματικά, παίρνοντας αξία από επενδύσεις αιχμής που γίνονται αλλού, χωρίς να μένει απλός καταναλωτής.
Το πρόβλημα είναι ότι το διεθνές πλαίσιο δεν βοηθά. Οι πρόσφατες σύνοδοι έγειραν το κέντρο βάρους από τη ρύθμιση προς την υιοθέτηση και την επένδυση. Οι ΗΠΑ δείχνουν απροθυμία για διεθνή διακυβέρνηση, ενώ η Ευρώπη κινείται σε συμφωνίες συνεργασίας, δεξιοτήτων και “συνδεσιμότητας” με αγορές ταλέντου. Όλα αυτά έχουν αξία. Αλλά δεν υποκαθιστούν το θεμέλιο: δεσμευτικές, εφαρμόσιμες απαιτήσεις για γραμματισμό στην τεχνητή νοημοσύνη — όχι ως ωραίο πρόγραμμα, αλλά ως όρος λειτουργίας της αγοράς και του κράτους.
Αν συνεχιστεί η «απλοποίηση» όπως γίνεται συνήθως, ο γραμματισμός θα μείνει σε εθελοντικές καμπάνιες και σε καλές προθέσεις. Και τότε, όταν έρθει το επόμενο σκάνδαλο, όλοι θα κάνουν ότι έπεσαν από τα σύννεφα — τα οποία, ειρωνικά, θα τα έχει φτιάξει ένα μοντέλο.
SBC Editorial
Η Ευρώπη δεν έχει πρόβλημα ταλέντου. Έχει πρόβλημα εκτέλεσης. Όταν οι Βρυξέλλες “απλοποιούν” υποχρεώσεις, δεν κάνουν μεταρρύθμιση — κάνουν απορρύθμιση με κουστούμι. Η τεχνητή νοημοσύνη θα μπει παντού έτσι κι αλλιώς. Το ερώτημα είναι αν οι πολίτες, οι επιχειρήσεις και το κράτος θα έχουν τη γνώση να την ελέγξουν. Χωρίς δεσμευτικό γραμματισμό, η εμπιστοσύνη δεν θα χτιστεί· θα καταναλωθεί. Και η εμπιστοσύνη είναι το μόνο “κεφάλαιο” που δεν αναπληρώνεται με επιδοτήσεις.
