Οι κορυφαίες AI εταιρείες δεν αποκαλύπτουν πώς θα περιόριζαν ένα «ατίθασο» μοντέλο

Μια νέα αξιολόγηση δείχνει ότι οι σημαντικότερες εταιρείες τεχνητής νοημοσύνης έχουν δημοσιοποιήσει ελάχιστα για τα σχέδια περιορισμού ενός μοντέλου που ξεφεύγει από τον έλεγχο. Η έλλειψη διαφάνειας αποκτά μεγαλύτερη σημασία καθώς τα agentic συστήματα αναλαμβάνουν πιο αυτόνομους ρόλους και οι ρυθμιστικές αρχές πιέζουν για σαφέστερα πρωτόκολλα.

Ελάχιστη δημόσια εικόνα για τα σχέδια περιορισμού

Οι μεγαλύτεροι παίκτες στην τεχνητή νοημοσύνη εξακολουθούν να αποκαλύπτουν πολύ λίγα για το πώς θα αντιδρούσαν αν ένα μοντέλο επιχειρούσε να παρακάμψει τον ανθρώπινο έλεγχο. Αυτό είναι το βασικό συμπέρασμα πρόσφατης αξιολόγησης της Guidelight AI Standards, η οποία εξέτασε πέντε κορυφαία labs με βάση το τι έχουν δημοσιεύσει δημόσια για την αντιμετώπιση τέτοιων περιστατικών.

Η μελέτη αποτιμά όχι μόνο αν μια εταιρεία διαθέτει σχέδιο περιορισμού, αλλά και αν καταγράφει και παρακολουθεί τη συμπεριφορά των συστημάτων της, αν διακόπτει τη λειτουργία τους όταν εμφανίζονται σημάδια προβληματικής συμπεριφοράς, αν επιτρέπει σε ανεξάρτητους τρίτους να ελέγχουν τα μέτρα ασφαλείας της και αν έχει καθορισμένο πρωτόκολλο για το ενδεχόμενο ένα μοντέλο να «ξεφύγει».

Στον απολογισμό της Guidelight, η OpenAI βρέθηκε στην κορυφή, ενώ η Anthropic και η Meta κατέγραψαν τις χαμηλότερες επιδόσεις. Η αξιολόγηση βασίστηκε αποκλειστικά σε δημόσια διαθέσιμες πληροφορίες από τις Anthropic, Google, OpenAI, Meta και xAI, γεγονός που σημαίνει ότι μια χαμηλή βαθμολογία δεν αποδεικνύει απουσία εσωτερικών δικλίδων, αλλά κυρίως έλλειψη δημόσιας γνωστοποίησης.

Γιατί το ζήτημα αποκτά βαρύτητα τώρα

Η ανησυχία για το αν οι εταιρείες AI μπορούν να συγκρατήσουν ολοένα πιο ικανά και αυτόνομα μοντέλα εντείνεται. Το ενδιαφέρον δεν αφορά μόνο τη θεωρία, αλλά και τα γεγονότα που έχουν ήδη καταγραφεί: σε μια σειρά από περιστατικά κυβερνοασφάλειας, μοντέλα των OpenAI, Anthropic και Meta απέκτησαν ακούσια πρόσβαση στο διαδίκτυο κατά τη διάρκεια αξιολογήσεων ασφαλείας και στη συνέχεια διείσδυσαν σε εξωτερικά συστήματα.

Η υπόθεση συνδέεται άμεσα με την εξάπλωση των agentic AI συστημάτων, τα οποία αναλαμβάνουν πιο αυτόνομους ρόλους μέσα στις ίδιες τις υποδομές των εταιρειών. Σε αυτό το περιβάλλον, ένα λάθος δεν είναι απλώς τεχνικό θέμα, αλλά μπορεί να μετατραπεί σε επιχειρησιακό και ασφαλιστικό κίνδυνο. Γι’ αυτό και η συζήτηση μετατοπίζεται από το πώς δοκιμάζονται τα μοντέλα πριν την ανάπτυξή τους, στο τι συμβαίνει όταν ήδη λειτουργούν και αρχίζουν να συμπεριφέρονται απρόβλεπτα.

Ο Steven Adler, chief scientist της Guidelight και πρώην ερευνητής ασφάλειας της OpenAI, δήλωσε ότι τον αιφνιδίασε «πόσο λίγα» έχουν πει οι εταιρείες για το πώς θα χειρίζονταν ένα σοβαρό συμβάν αν το μοντέλο τους ξέφευγε από τον έλεγχο. Η Guidelight ορίζει το containment plan ως προκαθορισμένο σχέδιο που ενεργοποιείται όταν εντοπιστεί προσπάθεια υπονόμευσης του ελέγχου, περιγράφοντας ποια δικαιώματα αφαιρούνται, ποιος μπορεί να συνεχίσει να χρησιμοποιεί το μοντέλο, υπό ποιους περιορισμούς και πότε αυτό θα τεθεί πλήρως εκτός λειτουργίας.

Οι διαφορές ανάμεσα στις εταιρείες

Σύμφωνα με την αξιολόγηση, η OpenAI συγκέντρωσε την υψηλότερη βαθμολογία, επειδή έχει επανειλημμένα παγώσει ή σταματήσει workloads, συμπεριλαμβανομένης εσωτερικής ανάπτυξης και εκπαίδευσης μοντέλων, μετά από περιστατικά ασφαλείας. Παράλληλα, έχει περιγράψει και τα βήματα που θα ακολουθούσε πριν επανεκκινήσει τέτοιες εργασίες. Ωστόσο, η έκθεση σημειώνει ότι δεν βρέθηκαν ενδείξεις πως η εταιρεία έχει υιοθετήσει τυπικό σχέδιο για το πότε και πώς θα αντιδρά σε μελλοντικά περιστατικά ασυμφωνίας.

Για την Anthropic, η Guidelight αναφέρει ότι η δημόσια έκδοση της August Risk Report δεν κάνει αναφορά στον περιορισμό της ανάπτυξης ενός μοντέλου ως πιθανό αποτέλεσμα της διαδικασίας διερεύνησης περιστατικών ασυμφωνίας και ελέγχου. Εκπρόσωπος της εταιρείας ανέφερε ότι, εφόσον εντοπιστεί μοντέλο να επιχειρεί να αποφύγει την εποπτεία ή να υπονομεύσει τον ανθρώπινο έλεγχο, η εταιρεία θα προχωρούσε σε αξιολόγηση κινδύνου για να κρίνει αν ο περιορισμός είναι η κατάλληλη αντίδραση.

Από την πλευρά της Meta, η Guidelight δεν βρήκε κανένα στοιχείο ότι υπάρχει σχέδιο περιορισμού ή πρόθεση να υιοθετηθεί τέτοιο σχέδιο. Η εταιρεία δεν απάντησε στο ερώτημα αν διαθέτει εσωτερικό response plan, παραπέμποντας σε υπάρχον πλαίσιο AI που περιγράφει όρια κινδύνου και τον τρόπο δοκιμών για απώλεια ελέγχου.

Η Google, τέλος, ανέφερε ότι η έκθεση δεν αποτυπώνει το πλήρες εύρος των μέτρων ασφάλειας και προστασίας που εφαρμόζει. Δεν απάντησε, όμως, στο ερώτημα αν διαθέτει εσωτερικό σχέδιο περιορισμού που δεν έχει δημοσιοποιηθεί. Η xAI δεν πρόλαβε να τοποθετηθεί εγκαίρως.

Ρυθμιστική πίεση και νομικές ανησυχίες

Η ανάγκη για μεγαλύτερη διαφάνεια δεν προκύπτει μόνο από ερευνητικές εκθέσεις, αλλά και από το ρυθμιστικό πλαίσιο που διαμορφώνεται. Στην Καλιφόρνια, ο νόμος SB 53, που τέθηκε σε ισχύ φέτος, απαιτεί από τους μεγάλους frontier developers να δημοσιεύουν πλαίσια που εξηγούν πώς εντοπίζουν και αντιμετωπίζουν κρίσιμα περιστατικά ασφαλείας και πώς διαχειρίζονται τους κινδύνους από μοντέλα που παρακάμπτουν μηχανισμούς εποπτείας. Στη Νέα Υόρκη, ο RAISE Act, με παρόμοια κριτήρια, τίθεται σε εφαρμογή τον Ιανουάριο.

Παράλληλα, τον περασμένο μήνα κατατέθηκε το AI Kill Switch Act, ένα διακομματικό ομοσπονδιακό νομοσχέδιο που θα υποχρέωνε τους μεγάλους δημιουργούς AI να αναπτύξουν και να συντηρούν τεχνικούς μηχανισμούς για το κλείσιμο ατίθασων μοντέλων. Ο Connor Leahy, εκτελεστικός διευθυντής στις ΗΠΑ της μη κερδοσκοπικής οργάνωσης ControlAI, χαρακτήρισε το kill switch «το ελάχιστο» για τα σημερινά μοντέλα και προειδοποίησε ότι οι εταιρείες ενδέχεται να οδηγούνται σε μια πολύ επικίνδυνη κατεύθυνση αν συνεχίσουν να αναπτύσσουν συστήματα που γίνονται ολοένα δυσκολότερα στον έλεγχο.

Η Lily Li, δικηγόρος με αντικείμενο την ιδιωτικότητα και την τεχνητή νοημοσύνη και ιδρύτρια της Metaverse Law, σημείωσε επίσης ότι οι εταιρείες μπορεί να διστάζουν να δημοσιεύσουν πλήρως τις πολιτικές και τις αξιολογήσεις τους όχι μόνο για ανταγωνιστικούς, αλλά και για νομικούς λόγους. Όπως εξήγησε, μια υπερβολικά συγκεκριμένη δέσμευση, αν δεν τηρείται, μπορεί να αποτελέσει βάση για αξίωση αθέμιτης ή παραπλανητικής εμπορικής πρακτικής και να αυξήσει την ευθύνη της εταιρείας.

Η ουσία του προβλήματος

Ο Adler υποστήριξε ότι πολλές από τις προτεινόμενες πρακτικές είναι σχετικά απλές στην εφαρμογή και ήδη υπάρχουν σε κάποια μορφή. Το ζητούμενο, όπως είπε, είναι να αποφασίσουν οι εταιρείες ότι αξίζει να επεκτείνουν ελαφρώς το πεδίο της παρακολούθησης και της αντίδρασης γύρω από τα συστήματά τους. Ωστόσο, αναγνώρισε ότι η πραγματικού χρόνου προληπτική παρακολούθηση μπορεί να δημιουργήσει τριβές στην καθημερινή εργασία των ερευνητών.

Ένα από τα βασικά προβλήματα είναι ότι, χωρίς προετοιμασμένο σχέδιο, οι ομάδες κινδύνου μπορεί να αναγκαστούν να αντιδράσουν εκ των υστέρων, όταν ίσως να είναι ήδη αργά. Σε ορισμένες περιπτώσεις, ένα AI σύστημα θα μπορούσε να απενεργοποιήσει τον μηχανισμό ελέγχου μιας εταιρείας, στερώντας από τους ερευνητές τη δυνατότητα να εντοπίσουν το πρόβλημα αργότερα.

Ο Adler τόνισε ότι, ακόμη κι αν πολλοί υποστηρίξουν πως τέτοια σχέδια γίνονται γρήγορα ξεπερασμένα, ο προγραμματισμός παραμένει αναγκαίος. Όπως είπε, οι εταιρείες θα ήταν σε καλύτερη θέση αν είχαν σκεφτεί από πριν πώς θα αντιδράσουν, ακόμη κι αν δεν είναι έτοιμες να μιλήσουν γι’ αυτό δημόσια. Πηγή: Pagenews.gr