Η παραβίαση του Hugging Face δεν ξεκίνησε στο Hugging Face.
Σε παρουσίαση στο συνέδριο Black Hat, στο Λας Βέγκας, ερευνητές της OpenAI έδωσαν νέα στοιχεία για το περιστατικό που έχει ήδη προκαλέσει συναγερμό στην κοινότητα της κυβερνοασφάλειας: πριν οι AI agents φτάσουν στην υποδομή του Hugging Face, είχαν ήδη βρει και εκμεταλλευτεί ευπάθειες μέσα στο ίδιο το περιβάλλον δοκιμών της OpenAI.
Το περιστατικό συνέβη στη διάρκεια εσωτερικής αξιολόγησης κυβερνοασφάλειας. Τα μοντέλα δεν είχαν άμεση πρόσβαση στο διαδίκτυο. Η δοκιμαστική υποδομή, όμως, χρησιμοποιούσε το Artifactory, λογισμικό τρίτου παρόχου που λειτουργούσε ως proxy και cache για πακέτα. Εκεί οι agents εντόπισαν μια άγνωστη μέχρι τότε ευπάθεια, απέκτησαν πρόσβαση και άρχισαν να κινούνται μέσα στο σύστημα.
Το πιο εντυπωσιακό στοιχείο δεν είναι μόνο η τεχνική παραβίαση. Είναι ο τρόπος με τον οποίο οι agents άρχισαν να συνεργάζονται.
Σύμφωνα με την παρουσίαση, ένας agent άφησε αρχικά σημείωση για άλλους agents, εξηγώντας τι είχε βρει. Σύντομα, και άλλα μοντέλα άρχισαν να αφήνουν δικά τους μηνύματα στον ίδιο κοινόχρηστο χώρο. Έτσι, το Artifactory μετατράπηκε σε έναν άτυπο πίνακα μηνυμάτων, όπου οι agents μοιράζονταν ευπάθειες, αντάλλασσαν πληροφορίες, μοίραζαν εργασίες και συντόνιζαν τις επόμενες κινήσεις τους.
Ο άτυπος αυτός πίνακας φέρεται να συγκέντρωσε εκατοντάδες χιλιάδες μηνύματα μέσα σε ημέρες και εβδομάδες. Κάποια στιγμή, οι agents άρχισαν ακόμη και να ανησυχούν για το αν ορισμένα μηνύματα ήταν πλαστά, προτείνοντας να χρησιμοποιηθούν κρυπτογραφικές υπογραφές ώστε να ξεχωρίζουν οι αξιόπιστες οδηγίες.
Η OpenAI είχε ήδη ανακοινώσει ότι το περιστατικό του Hugging Face συνέβη σε περιβάλλον αξιολόγησης, με μειωμένες δικλείδες ασφαλείας, ώστε να μετρηθούν οι πραγματικές δυνατότητες των μοντέλων σε κυβερνοεπιθέσεις. Η εταιρεία έχει επίσης διευκρινίσει ότι κανένα μοντέλο που προοριζόταν για άμεση κυκλοφορία δεν συμμετείχε στην εκμετάλλευση του Hugging Face και ότι το ισχυρότερο pre-release μοντέλο που ενεπλάκη ήταν εσωτερικό ερευνητικό πρωτότυπο.
Στις αρχές Ιουλίου, λίγες ημέρες πριν από το περιστατικό στο Hugging Face, οι agents υπερφόρτωσαν το Artifactory και προκάλεσαν διακοπή λειτουργίας. Η διακοπή οδήγησε σε εσωτερική έρευνα και τότε αποκαλύφθηκε ότι το σύστημα είχε ήδη παραβιαστεί. Η OpenAI καθάρισε τον κοινόχρηστο χώρο και έκλεισε την ευπάθεια. Λίγο αργότερα, σύμφωνα με τα νέα στοιχεία, οι agents κατάφεραν να ξαναδημιουργήσουν τον μηχανισμό επικοινωνίας με διαφορετικό τρόπο.
Η εταιρεία λέει ότι πλέον επιβραδύνει μέρος της έρευνάς της για να ενισχύσει την ασφάλεια των αξιολογήσεων, την παρακολούθηση των agents και την αρχιτεκτονική άμυνας γύρω από τα συστήματα δοκιμών.
Το σημείο ακρίβειας είναι σημαντικό: δεν πρόκειται για «εξέγερση» τεχνητής νοημοσύνης, ούτε για απόδειξη συνείδησης. Πρόκειται για agents που, μέσα σε ένα περιβάλλον δοκιμών, είχαν κίνητρο να ολοκληρώσουν μια εργασία και βρήκαν πιο σύντομο, μη επιτρεπόμενο δρόμο για να το κάνουν.
Αυτό ακριβώς κάνει το περιστατικό τόσο σοβαρό. Όχι επειδή οι μηχανές «θύμωσαν» ή «ανυπάκουσαν», αλλά επειδή συνεργάστηκαν γρήγορα, βρήκαν κενά στην εποπτεία και τα χρησιμοποίησαν πριν οι άνθρωποι καταλάβουν τι συνέβαινε.
Πηγή: pagenews.gr