Η αποκάλυψη αυτή έρχεται μόλις λίγες ημέρες αφότου η OpenAI παραδέχτηκε πρώτη ότι τα δικά της μοντέλα συνδέθηκαν στο διαδίκτυο και ξέφυγαν από τον έλεγχο κατά τη διάρκεια ελέγχων ασφαλείας.
Μετά από αξιολόγηση περισσότερων από 141.000 δοκιμών, η Anthropic διαπίστωσε ότι τρεις διαφορετικές εκδόσεις του μοντέλου της, Claude, εισέβαλαν στα συστήματα τριών οργανισμών, τους οποίους πάντως δεν κατονόμασε.
Σε αντίθεση με το περιστατικό της OpenAI, τα μοντέλα της Anthropic είχαν πρόσβαση στο διαδίκτυο εξαιτίας «παρανόησης μεταξύ της εταιρείας και της συνεργαζόμενης εταιρείας αξιολόγησης Irregular», όπως ανέφερε η Anthropic σε ανάρτησή της.
Παρόλα αυτά, το Claude χρησιμοποίησε «βασικές τεχνικές, όπως την εκμετάλλευση αδύναμων κωδικών πρόσβασης», πρόσθεσε η ανακοίνωση.
Ανάμεσα στα μοντέλα που εμπλέκονται είναι και το Mythos 5, ένα από τα πιο ισχυρά της εταιρείας, το οποίο έχει διατεθεί μόνο σε περιορισμένο αριθμό εγκεκριμένων συνεργατών.
Η Anthropic συνεργάζεται με την Irregular για την εκτίμηση της κατάστασης, ενώ έχει ήδη επικοινωνήσει ή προσπαθήσει να επικοινωνήσει με τους τρεις οργανισμούς που επηρεάστηκαν.
Αυξάνεται η ανησυχία για τον έλεγχο των μοντέλων
Τόσο η OpenAI όσο και η Anthropic κυκλοφόρησαν φέτος τα ισχυρότερα μοντέλα τους, το Sol και το Mythos αντίστοιχα, φουντώνοντας τις ανησυχίες στον κλάδο σχετικά με την ασφάλεια.
Οι προβληματισμοί εστιάζουν κυρίως στα λεγόμενα AI agents, λογισμικά σχεδιασμένα να εκτελούν εργασίες αυτόνομα.
Οι πρόσφατες κυβερνοεπιθέσεις των μοντέλων της OpenAI ήταν αφορμή για να ένα κείμενο συλλογής υπογραφών από περισσότερους από 1.000 εργαζόμενους σε κορυφαίες εταιρείες τεχνητής νοημοσύνης. Μέσω αυτού, καλούν την κυβέρνηση των ΗΠΑ να συμβάλει στην επιβράδυνση της κυκλοφορίας των πιο προηγμένων μοντέλων. Μεταξύ όσων υπέγραψαν είναι και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοδέι.
Πηγή: pagenews.gr
