Η OpenAI παρουσιάζει το «Lockdown Mode», μια νέα λειτουργία που περιορίζει τις δυνατότητες του ChatGPT για να μειώσει τον κίνδυνο διαρροής ευαίσθητων δεδομένων μέσω prompt injection επιθέσεων. Το εργαλείο στοχεύει σε οργανισμούς και χρήστες με αυξημένες απαιτήσεις ασφάλειας.
Η OpenAI ανακοίνωσε μια νέα λειτουργία ασφαλείας για το ChatGPT με την ονομασία «Lockdown Mode», η οποία στοχεύει στη μείωση του κινδύνου διαρροής ευαίσθητων δεδομένων από επιθέσεις prompt injection. Πρόκειται για κακόβουλες οδηγίες που κρύβονται σε ιστοσελίδες ή άλλα αρχεία και επιχειρούν να παρακάμψουν τους κανόνες του συστήματος, επηρεάζοντας τις απαντήσεις του μοντέλου.
Τι αλλάζει με την ενεργοποίηση του Lockdown Mode
Με την ενεργοποίηση του Lockdown Mode, ορισμένες κρίσιμες λειτουργίες του ChatGPT απενεργοποιούνται ή περιορίζονται σημαντικά. Συγκεκριμένα, διακόπτεται η ζωντανή περιήγηση στο διαδίκτυο, επιτρέποντας μόνο πρόσβαση σε προσωρινά αποθηκευμένο (cached) περιεχόμενο. Παράλληλα, μπλοκάρεται η ανάκτηση και εμφάνιση εικόνων από τον ιστό, αν και παραμένει δυνατή η δημιουργία εικόνων μέσω του ίδιου του συστήματος.
Επιπλέον, απενεργοποιούνται λειτουργίες όπως το «deep research» και το «agent mode», δηλαδή πιο αυτόνομα ή πολυσταδιακά σενάρια χρήσης, στα οποία το μοντέλο μπορεί να εκτελεί αλληλουχίες ενεργειών και να διασταυρώνει πολλαπλές πηγές. Ο στόχος είναι να περιοριστούν τα κανάλια μέσω των οποίων ένα κρυμμένο prompt μπορεί να επηρεάσει τη συμπεριφορά του συστήματος ή να οδηγήσει σε ακούσια αποκάλυψη εμπιστευτικών πληροφοριών.
Περιορισμοί, στόχευση και επιπτώσεις για επιχειρήσεις
Η ίδια η OpenAI αναγνωρίζει ότι ακόμη και με το Lockdown Mode ενεργό, το ChatGPT δεν καθίσταται πλήρως άτρωτο. Κακόβουλες οδηγίες μπορούν να υπάρχουν σε ήδη αποθηκευμένο περιεχόμενο ή σε αρχεία που ανεβάζει ο χρήστης και να επηρεάσουν την ακρίβεια ή τον τόνο των απαντήσεων. Ωστόσο, η κρίσιμη διαφορά είναι ότι μειώνεται η πιθανότητα να διαρρεύσουν ευαίσθητα δεδομένα προς τα έξω μέσω αυτών των επιθέσεων.
Η λειτουργία δεν απευθύνεται στη μαζική βάση χρηστών, αλλά σε άτομα και οργανισμούς που χειρίζονται ευαίσθητες πληροφορίες και θέλουν αυστηρότερους φραγμούς απέναντι στον κίνδυνο «data exfiltration». Το Lockdown Mode ξεκινά να διατίθεται σε self-serve λογαριασμούς ChatGPT Business καθώς και σε επιλεγμένους προσωπικούς λογαριασμούς, ενισχύοντας το αφήγημα ότι τα μεγάλα γλωσσικά μοντέλα μπαίνουν πλέον στην εποχή της «enterprise-grade» ασφάλειας.
Σχόλιο 
: Η κίνηση της OpenAI δείχνει ότι η εμπορική υιοθέτηση της τεχνητής νοημοσύνης περνά αναγκαστικά μέσα από αυστηρότερα μοντέλα διαχείρισης κινδύνου. Για επιχειρήσεις, τράπεζες, υγεία και δημόσιο τομέα, τέτοιες λειτουργίες είναι προϋπόθεση για σοβαρή ενσωμάτωση εργαλείων AI σε κρίσιμες διαδικασίες, ακόμη κι αν συνεπάγονται περιορισμό δυνατοτήτων προς όφελος της ασφάλειας.
#OpenAI #ΤεχνητήΝοημοσύνη #ΑσφάλειαΔεδομένων #Κυβερνοασφάλεια
