Η Anthropic απενεργοποιεί δύο κορυφαία μοντέλα AI μετά από εντολή των ΗΠΑ για λόγους εθνικής ασφάλειας

Η αμερικανική κυβέρνηση μπλοκάρει την πρόσβαση στα προηγμένα μοντέλα τεχνητής νοημοσύνης Fable 5 και Mythos 5, με την Anthropic να κάνει λόγο για περιορισμένο τεχνικό ζήτημα και να εκφράζει τη διαφωνία της με την απόφαση.

Σημαντικές εξελίξεις καταγράφονται στον τομέα της τεχνητής νοημοσύνης, καθώς η Anthropic ανακοίνωσε ότι προχωρά στην απενεργοποίηση των προηγμένων μοντέλων τεχνητής νοημοσύνης Fable 5 και Mythos 5, έπειτα από σχετική οδηγία της αμερικανικής κυβέρνησης που επικαλείται λόγους εθνικής ασφάλειας.

Η απόφαση ελήφθη μετά από παρέμβαση του Bureau of Industry and Security (BIS), της αρμόδιας αμερικανικής υπηρεσίας που επιβλέπει τους ελέγχους εξαγωγών τεχνολογιών υψηλής στρατηγικής σημασίας.

Σύμφωνα με την Anthropic, η κυβερνητική οδηγία απαιτεί την άμεση αναστολή πρόσβασης στα συγκεκριμένα μοντέλα για όλους τους αλλοδαπούς χρήστες, είτε βρίσκονται εντός είτε εκτός των Ηνωμένων Πολιτειών, συμπεριλαμβανομένων ακόμη και αλλοδαπών εργαζομένων της ίδιας της εταιρείας.

Ανησυχία για πιθανό «jailbreak» των συστημάτων ασφαλείας

Η κυβέρνηση των ΗΠΑ φέρεται να θεωρεί ότι έχει εντοπιστεί μέθοδος παράκαμψης των δικλίδων ασφαλείας του μοντέλου Fable 5, γνωστή στον χώρο της τεχνητής νοημοσύνης ως «jailbreak».

Οι τεχνικές jailbreak επιτρέπουν σε ορισμένες περιπτώσεις την παράκαμψη περιορισμών ασφαλείας που έχουν ενσωματωθεί σε ένα μοντέλο AI, δίνοντας τη δυνατότητα παραγωγής περιεχομένου ή εκτέλεσης λειτουργιών που κανονικά θα μπλοκάρονταν από το σύστημα.

Η Anthropic υποστηρίζει ότι η συγκεκριμένη αδυναμία ήταν ήδη γνωστή στην εταιρεία και χαρακτηρίζεται περιορισμένης έκτασης, χωρίς να επιτρέπει πλήρη παράκαμψη των μηχανισμών προστασίας.

Η θέση της Anthropic

Σε ανακοίνωσή της, η εταιρεία τόνισε ότι πριν από την εμπορική διάθεση του Fable 5 πραγματοποιήθηκαν εκτεταμένοι έλεγχοι ασφαλείας σε συνεργασία με κυβερνητικές υπηρεσίες των Ηνωμένων Πολιτειών, οργανισμούς του Ηνωμένου Βασιλείου και ανεξάρτητες ομάδες αξιολόγησης.

Όπως υποστηρίζει, αφιερώθηκαν χιλιάδες ώρες δοκιμών χωρίς να εντοπιστεί τρόπος πλήρους παράκαμψης των προστατευτικών μηχανισμών του μοντέλου.

Η μοναδική μέθοδος που της κοινοποιήθηκε από την αμερικανική κυβέρνηση αφορά, σύμφωνα με την εταιρεία, την ικανότητα του μοντέλου να αναλύει συγκεκριμένο λογισμικό και να προτείνει διορθώσεις σε πιθανές αδυναμίες κώδικα.

Η Anthropic σημειώνει ότι αντίστοιχες δυνατότητες προσφέρονται ήδη από άλλα δημόσια διαθέσιμα μοντέλα τεχνητής νοημοσύνης, συμπεριλαμβανομένων ανταγωνιστικών συστημάτων που χρησιμοποιούνται ευρέως από επαγγελματίες κυβερνοασφάλειας.

Οι περιορισμοί στις τεχνολογίες αιχμής

Η υπόθεση εντάσσεται στο ευρύτερο πλαίσιο των αμερικανικών περιορισμών στις εξαγωγές προηγμένων τεχνολογιών τεχνητής νοημοσύνης και επεξεργαστών υψηλών επιδόσεων.

Τα τελευταία χρόνια οι Ηνωμένες Πολιτείες έχουν αυστηροποιήσει τους ελέγχους σε τεχνολογίες αιχμής, ιδιαίτερα απέναντι σε χώρες όπως η Κίνα, η Ρωσία και το Ιράν, εκφράζοντας ανησυχίες για πιθανή στρατιωτική ή κυβερνοεπιχειρησιακή αξιοποίηση τους.

Η Anthropic ξεκαθάρισε ότι θα συμμορφωθεί πλήρως με την κυβερνητική εντολή, ωστόσο διαφωνεί με την απόφαση απόσυρσης δύο μοντέλων που χρησιμοποιούνται από εκατοντάδες εκατομμύρια χρήστες παγκοσμίως, θεωρώντας ότι το συγκεκριμένο τεχνικό ζήτημα δεν δικαιολογεί τόσο δραστικά μέτρα.

Παράλληλα, η εταιρεία υπογράμμισε ότι η πλήρης προστασία απέναντι σε κάθε πιθανή τεχνική παράκαμψη αποτελεί έναν εξαιρετικά δύσκολο στόχο για ολόκληρη τη βιομηχανία της τεχνητής νοημοσύνης και όχι αποκλειστικά για έναν μόνο πάροχο.

Πηγή: Pagenews.gr