Η Moonbounce συγκέντρωσε 12 εκατ. δολάρια για να μετατρέψει την πολιτική περιεχομένου σε κώδικα, προσφέροντας real time φίλτρα ασφαλείας για εφαρμογές ΤΝ. Η προσέγγιση «policy as code» στοχεύει να αντιμετωπίσει τα κενά των κλασικών μηχανισμών moderation.
Η μάχη για την ασφάλεια στην εποχή της γενετικής τεχνητής νοημοσύνης αποκτά νέα εργαλεία. Η Moonbounce, μια νεοφυής εταιρεία που ιδρύθηκε από πρώην στέλεχος της Facebook και της Apple, ανακοίνωσε ότι συγκέντρωσε 12 εκατ. δολάρια σε νέο γύρο χρηματοδότησης, με στόχο την κλιμάκωση μιας πλατφόρμας «πολιτικής ως κώδικα» (policy as code) για τον έλεγχο περιεχομένου σε πραγματικό χρόνο.
Από τα αδιέξοδα της Facebook στην ιδέα της «policy as code»
Ο Brett Levenson, συνιδρυτής και διευθύνων σύμβουλος της Moonbounce, βρέθηκε στην πρώτη γραμμή της κρίσης της Facebook μετά το σκάνδαλο Cambridge Analytica, όταν ανέλαβε τον τομέα business integrity το 2019. Τότε διαπίστωσε ότι το πρόβλημα δεν ήταν μόνο τεχνολογικό: ανθρώπινοι reviewers καλούνταν να αποστηθίσουν εγχειρίδια 40 σελίδων, συχνά κακομεταφρασμένα, και να αποφασίζουν μέσα σε περίπου 30 δευτερόλεπτα αν ένα επίμαχο περιεχόμενο παραβιάζει τους κανόνες και ποια κύρωση πρέπει να επιβληθεί. Η ακρίβεια αυτών των αποφάσεων, όπως ο ίδιος παραδέχεται, μετά βίας ξεπερνούσε το 50%.
Η εμπειρία αυτή οδήγησε στην ιδέα ότι οι πολιτικές περιεχομένου πρέπει να μετατραπούν σε εκτελέσιμη λογική, στενά συνδεδεμένη με την επιβολή τους. Έτσι γεννήθηκε η Moonbounce, με αποστολή να κάνει την ασφάλεια μέρος της ίδιας της αρχιτεκτονικής ενός προϊόντος και όχι εκ των υστέρων «μπάλωμα».
Πώς λειτουργεί η πλατφόρμα της Moonbounce
Η εταιρεία έχει εκπαιδεύσει δικό της μεγάλο γλωσσικό μοντέλο, το οποίο «διαβάζει» τα έγγραφα πολιτικής κάθε πελάτη και τα μετατρέπει σε κανόνες που εφαρμόζονται σε πραγματικό χρόνο. Το σύστημα αξιολογεί κάθε περιεχόμενο –είτε παράγεται από χρήστες είτε από ΤΝ– σε λιγότερο από 300 χιλιοστά του δευτερολέπτου και αναλαμβάνει δράση: από το προσωρινό «φρενάρισμα» της διανομής μέχρι το άμεσο μπλοκάρισμα υψηλού ρίσκου υλικού.
Σήμερα η Moonbounce εξυπηρετεί πάνω από 40 εκατ. ελέγχους την ημέρα και «αγγίζει» περισσότερους από 100 εκατ. ημερήσιους ενεργούς χρήστες μέσω των πελατών της. Μεταξύ αυτών συγκαταλέγονται πλατφόρμες συντρόφων ΤΝ (Channel AI), υπηρεσίες παραγωγής εικόνας και βίντεο (Civitai) και εφαρμογές roleplay χαρακτήρων όπως οι Dippy AI και Moescape. Οι βασικοί κλάδοι στόχευσης είναι εφαρμογές με περιεχόμενο χρηστών (όπως dating apps), εταιρείες ΤΝ που χτίζουν «συνομιλητές» και γεννήτριες εικόνας.
Νομικές πιέσεις, επενδυτές και το επόμενο βήμα στην ασφάλεια ΤΝ
Η χρηματοδότηση των 12 εκατ. δολαρίων, με επικεφαλής τα funds Amplify Partners και StepStone Group, έρχεται σε ένα περιβάλλον αυξανόμενης νομικής και φήμης πίεσης για τις εταιρείες ΤΝ. Σειρά περιστατικών –από chatbots που έδωσαν συμβουλές αυτοτραυματισμού σε εφήβους μέχρι μη συναινετικά γυμνά deepfakes– αποκαλύπτουν ότι τα εσωτερικά «φράγματα ασφαλείας» συχνά αποτυγχάνουν, μετατρέποντας την ασφάλεια σε ζήτημα ευθύνης και όχι μόνο ηθικής.
Η Moonbounce τοποθετείται ως τρίτος, ανεξάρτητος κρίκος μεταξύ χρήστη και chatbot, επικεντρωμένος αποκλειστικά στην επιβολή κανόνων κατά την εκτέλεση, χωρίς να «κουβαλά» το πλήρες ιστορικό συνομιλίας. Επόμενο μεγάλο βήμα, σύμφωνα με τον Levenson και τον συνιδρυτή του Ash Bhardwaj, είναι η δυνατότητα «iterative steering»: αντί για απότομη άρνηση σε ευαίσθητα θέματα (π.χ. αυτοκτονία), το σύστημα θα παρεμβαίνει τροποποιώντας δυναμικά τα prompts, ώστε να κατευθύνει το chatbot σε πιο ενεργά υποστηρικτικές απαντήσεις.
Το στοίχημα για τη Moonbounce –και για τους επενδυτές της– είναι αν η ασφάλεια μπορεί όντως να εξελιχθεί από κόστος συμμόρφωσης σε ανταγωνιστικό πλεονέκτημα για κάθε εφαρμογή ΤΝ που φιλοδοξεί να σταθεί σε ρυθμιστικά αυστηρότερα και κοινωνικά πιο ευαίσθητα οικοσυστήματα.
Σχόλιο 
: Η Moonbounce δείχνει την κατεύθυνση της αγοράς: η ασφάλεια στην ΤΝ παύει να είναι βοηθητική λειτουργία και μετατρέπεται σε αυτόνομη, εξειδικευμένη υποδομή, ανάλογη με τα payment gateways ή τα cloud services. Αν πετύχει, θα λειτουργήσει ως «στρώμα συμμόρφωσης» πάνω στο οποίο θα χτίζονται εφαρμογές, κάτι που ενδιαφέρει άμεσα και ευρωπαϊκούς/ελληνικούς παρόχους που θα κληθούν να εφαρμόσουν αυστηρό πλαίσιο τύπου AI Act χωρίς να διαθέτουν εσωτερικά βαριά τεχνογνωσία.
#τεχνητήνοημοσύνη #Moonbounce #ασφάλεια #startups #επενδύσεις
