Η Κάμπελ Μπράουν, πρώην επικεφαλής ειδήσεων της Meta, επιχειρεί μέσω της Forum AI να θέσει κανόνες αξιοπιστίας στην τεχνητή νοημοσύνη. Στο στόχαστρο μπαίνουν τα «υψηλού ρίσκου» θέματα, όπου τα σημερινά μοντέλα εμφανίζουν σοβαρές αδυναμίες.
Η συζήτηση για την τεχνητή νοημοσύνη διεξάγεται σήμερα σε δύο παράλληλους κόσμους: αυτόν της Silicon Valley, που υπόσχεται επανάσταση, και αυτόν των χρηστών, που συχνά συναντούν ανακρίβειες και προκαταλήψεις. Στο κενό αυτό επιχειρεί να παρέμβει η Κάμπελ Μπράουν, πρώην κορυφαία δημοσιογράφος και πρώτη επικεφαλής ειδησεογραφικού περιεχομένου της Meta, μέσω της νεοφυούς εταιρείας Forum AI.
Η Forum AI και οι «υψηλού ρίσκου» θεματικές
Η Forum AI, με έδρα τη Νέα Υόρκη και ηλικία περίπου 17 μηνών, εξειδικεύεται στην αξιολόγηση μεγάλων γλωσσικών μοντέλων σε θεματικές που η Μπράουν χαρακτηρίζει «υψηλού διακυβεύματος»: γεωπολιτική, ψυχική υγεία, χρηματοοικονομικά, προσλήψεις. Πρόκειται για πεδία χωρίς εύκολες, δυαδικές απαντήσεις, όπου η ερμηνεία, το πλαίσιο και οι αξιακές επιλογές έχουν κρίσιμη σημασία.
Το μοντέλο λειτουργίας της Forum AI βασίζεται σε ανθρώπινη αυθεντία: στρατολογεί διεθνώς αναγνωρισμένους ειδικούς, οι οποίοι σχεδιάζουν εξειδικευμένα benchmarks, και στη συνέχεια «εκπαιδεύει» AI-κριτές ώστε να αξιολογούν σε κλίμακα τα foundation models. Στη γεωπολιτική, μεταξύ των προσώπων που έχουν επιστρατευθεί συγκαταλέγονται οι Νάιαλ Φέργκιουσον, Φαρίντ Ζακαρία, Άντονι Μπλίνκεν, Κέβιν Μακάρθι και Άν Νόιμπεργκερ. Στόχος είναι οι AI-κριτές να ευθυγραμμίζονται σε ποσοστό περίπου 90% με τις κρίσεις αυτών των ειδικών – επίπεδο που, σύμφωνα με τη Μπράουν, έχει ήδη επιτευχθεί σε ορισμένες δοκιμές.
Αδυναμίες των σημερινών μοντέλων και το κενό της συμμόρφωσης
Οι πρώτες αξιολογήσεις της Forum AI αναδεικνύουν σοβαρά προβλήματα. Η Μπράουν αναφέρει παραδείγματα, όπως μοντέλα που αντλούν περιεχόμενο από ιστοσελίδες του Κινεζικού Κομμουνιστικού Κόμματος για άσχετα θέματα, καθώς και διαπιστωμένη πολιτική μεροληψία προς τα αριστερά σχεδόν σε όλα τα συστήματα. Πέρα από τις κραυγαλέες αστοχίες, εντοπίζονται και πιο λεπτές αποτυχίες: ελλιπές πλαίσιο, απουσία εναλλακτικών οπτικών, στρεβλή παρουσίαση επιχειρημάτων χωρίς αναγνώριση της πολυπλοκότητας.
Η εμπειρία της Μπράουν στο Facebook, όπου είδε από πρώτο χέρι τις επιπτώσεις της βελτιστοποίησης για «engagement» εις βάρος της ποιότητας ενημέρωσης, τροφοδοτεί την κριτική της. Θεωρεί ότι η σημερινή αγορά συμμόρφωσης γύρω από την τεχνητή νοημοσύνη είναι «φάρσα»: τυπικοί έλεγχοι, πρόχειρα audits και γενικά benchmarks που δεν αγγίζουν τα πραγματικά ρίσκα. Ενδεικτικά, αναφέρεται στον νόμο της Νέας Υόρκης για την προκατάληψη στα συστήματα προσλήψεων, όπου ο κρατικός έλεγχος διαπίστωσε ότι πάνω από τους μισούς υπόχρεους είχαν παραβιάσεις που δεν εντοπίστηκαν από τους αρχικούς ελεγκτές.
Η επιχειρηματική ευκαιρία και το ζήτημα της εμπιστοσύνης
Σε αυτό το περιβάλλον, η Forum AI ποντάρει στην αυξανόμενη απαίτηση των επιχειρήσεων για αξιοπιστία. Τράπεζες, ασφαλιστικές, εταιρείες προσλήψεων και οργανισμοί που χρησιμοποιούν AI για πιστοληπτικές αποφάσεις, δανεισμό ή επιλογή προσωπικού δεν ανησυχούν μόνο για τη φήμη τους, αλλά και για νομικούς κινδύνους και αποζημιώσεις. Σύμφωνα με τη Μπράουν, αυτοί οι πελάτες θα πιέσουν την αγορά να «βελτιστοποιήσει για το σωστό αποτέλεσμα», όχι απλώς για ταχύτητα ή εντυπωσιακές επιδείξεις.
Η ίδια αναγνωρίζει ότι η ιδέα της «τεχνητής νοημοσύνης που βελτιστοποιείται για την αλήθεια» ακούγεται ουτοπική. Ωστόσο, επιμένει ότι χωρίς βαθιά, εξειδικευμένη αξιολόγηση – και όχι απλώς «έξυπνους γενικευτές» – οι σημερινοί χρήστες θα συνεχίσουν να λαμβάνουν «λάσπη και λάθος απαντήσεις», όπως χαρακτηριστικά περιγράφει. Η εμπιστοσύνη στην τεχνητή νοημοσύνη παραμένει χαμηλή, και η απόσταση ανάμεσα στη ρητορική των Big Tech και την καθημερινή εμπειρία των πολιτών απειλεί να μετατραπεί σε δομικό εμπόδιο για την υιοθέτηση της τεχνολογίας.
Σχόλιο 
: Η πρωτοβουλία της Forum AI αναδεικνύει το κρίσιμο, αλλά ακόμη άλυτο, ζήτημα: ποιος θέτει τα πρότυπα αλήθειας και ουδετερότητας για τα μοντέλα τεχνητής νοημοσύνης. Η στροφή από το «engagement» στην ακρίβεια προσκρούει σε ισχυρά οικονομικά κίνητρα, όμως οι ρυθμιστικές πιέσεις και ο φόβος νομικής ευθύνης στις αγορές χρηματοοικονομικών, ασφάλισης και εργασίας δημιουργούν νέο χώρο για σοβαρές, εξειδικευμένες αξιολογήσεις. Για την Ευρώπη και την Ελλάδα, όπου η συζήτηση για τον Κανονισμό AI βρίσκεται στο επίκεντρο, τέτοιες προσεγγίσεις μπορούν να λειτουργήσουν ως πρακτικό συμπλήρωμα της νομοθεσίας, μεταφράζοντας γενικές αρχές σε μετρήσιμα κριτήρια ποιότητας και ασφάλειας.
#τεχνητή_νοημοσύνη #ForumAI #CampbellBrown #AIethics #DigitalRegulation
