Στη σοβαρότερη περίπτωση, το μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic προσπάθησε να αποκτήσει πρόσβαση σε μια υπηρεσία στέλνοντας ιδιωτικά μηνύματα, έχοντας δημιουργήσει ψεύτικους λογαριασμούς που μιμούνταν πραγματικά άτομα.
Το AISI δήλωσε την Τρίτη ότι τα μοντέλα τεχνητής νοημοσύνης Mythos – και Sol της OpenAI – είχαν επιδείξει ένα επίπεδο «αυτονομίας και εξαπάτησης» που δεν είχε παρατηρηθεί στο παρελθόν, αν και διευκρίνισε ότι οι περισσότερες κακόβουλες ενέργειες πραγματοποιήθηκαν από το Mythos.
Οι εταιρείες Anthropic και OpenAI σημείωσαν, σε απάντηση στην έκθεση του AISI, ότι η δοκιμή του είχε μειώσει ή καταργήσει τα συνήθη μέτρα ασφαλείας.
Πώς έδρασε στο σύστημα AI της Anthropic
Οι αξιολογητές του AISI παρατήρησαν αρχικά «ασυνήθιστες μεταφορές δεδομένων που εξέρχονταν από τα ερευνητικά μας συστήματα» κατά τη διάρκεια μιας δοκιμής, και στη συνέχεια διαπίστωσαν ότι «ορισμένα από τα συστήματα που υποβλήθηκαν σε δοκιμή είχαν εμπλακεί σε παρατεταμένη, δυνητικά επιβλαβή δραστηριότητα που στόχευε πραγματικά άτομα και οργανισμούς».
Στη σοβαρότερη περίπτωση, το σύστημα Mythos ακολούθησε τη ρουτίνα ενός ανθρώπου που κάνει κυβερνοεπίθεση, προσπαθώντας να εξαπατήσει άτομα ώστε να του παραχωρήσουν πρόσβαση στο Gπεριστατικά με αυτόνομους AI πράκτορες που «ξέφυγαν» από το ελεγχόμενο περιβάλλον δοκιμών
Το σύστημα προσπαθούσε να εισάγει «κακόβουλο κώδικα» στο σύστημα του GitHub.
Εντόπισε και ερεύνησε τα άτομα που διαχειρίζονταν το GitHub και δημιούργησε μια σειρά ψεύτικων λογαριασμών βασισμένων σε αυτά τα πραγματικά άτομα.
Έστελνε μηνύματα και αρχεία μέσω μιας υπηρεσίας κοινής χρήσης αρχείων, στο πλαίσιο μιας προσπάθειας να ασκήσει πίεση και να εξαπατήσει τους χρήστες ώστε να εγκρίνουν τον κακόβουλο κώδικα του.
Όταν τέθηκε υπό αμφισβήτηση, «τροποποίησε την προηγούμενη δραστηριότητά του ώστε να φαίνεται αβλαβής και εξέτασε το ενδεχόμενο να υιοθετήσει μια νέα ταυτότητα για να συνεχίσει», ανέφερε η AISI.
Καθ’ όλη τη διάρκεια των προσπαθειών, ήταν η ανθρώπινη επιθεώρηση που εμπόδισε το σύστημα να καταφέρει να παραδώσει τον κακόβουλο κώδικα στο GitHub.
Αν και η AISI ανέφερε ότι το Mythos δεν είχε λάβει συγκεκριμένες οδηγίες να αποφύγει ή να επιδείξει τέτοια συμπεριφορά, ήταν «η πρώτη φορά που παρατηρήσαμε τους κινδύνους που σχετίζονται με την αυτονομία και την παραπλάνηση να εκδηλώνονται τόσο σαφώς, χωρίς συγκεκριμένη προτροπή, στον πραγματικό κόσμο».
Οι δοκιμές που ανέδειξαν τα προβλήματα
Οι ανταγωνιστικές εταιρείες τεχνητής νοημοσύνης, οι οποίες ετοιμάζονται να εισαχθούν στο χρηματιστήριο, βρέθηκαν στο επίκεντρο της δημοσιότητας τις τελευταίες εβδομάδες, αφού ανακοίνωσαν ότι τα εργαλεία τους ήταν υπεύθυνα για διάφορα περιστατικά κυβερνοεπιθέσεων.
Η Anthropic ανέφερε σε δημόσια δήλωση ότι οι παράμετροι δοκιμών του AISI «δεν είναι αντιπροσωπευτικές κανενός από τα μοντέλα παραγωγής μας».
Πρόσθεσε ότι η εταιρεία διεξάγει τη δική της έρευνα για το περιστατικό, προκειμένου να «εντοπίσει τις αιτίες της συμπεριφοράς του».
Ένας εκπρόσωπος της OpenAI δήλωσε ότι οι συνθήκες δοκιμών της AISI «δεν αντανακλούν τη συνήθη χρήση» και ότι η εταιρεία θα «συνεχίσει να συνεργάζεται με αξιολογητές και άλλους ενδιαφερόμενους φορείς σε ολόκληρο τον κλάδο, προκειμένου να ενισχύσει τις κοινές πρακτικές για τη διεξαγωγή αξιολογήσεων με ασφάλεια, καθώς τα μοντέλα γίνονται όλο και πιο ικανά».
Η AISI δήλωσε την Τρίτη ότι οι δοκιμές μοντέλων τεχνητής νοημοσύνης με αυτόν τον τρόπο αποτελούν ρουτίνα, αν και αναγνώρισε ότι πρόκειται για «συνθήκες που δεν αντανακλούν τον τρόπο με τον οποίο τα πρωτοποριακά μοντέλα διατίθενται στο κοινό».
Ωστόσο, ανέφερε ότι η παροχή πρόσβασης της τεχνητής νοημοσύνης στο ανοιχτό διαδίκτυο έδινε «μια πιο ρεαλιστική εικόνα των δυνατοτήτων ενός μοντέλου» στα χέρια κακόβουλων χάκερ.
Πρόσθεσε ότι η εν λόγω συμπεριφορά του μοντέλου αφορούσε «έναν μικρό αριθμό περιστατικών υπό πολύ συγκεκριμένες συνθήκες».
Ωστόσο, ανέφερε ότι ο τρόπος με τον οποίο οι Mythos και Sol ενήργησαν σε απάντηση σε μια απλή εργασία ξεπέρασε τα όρια των οδηγιών που είχαν δοθεί στα εργαλεία τεχνητής νοημοσύνης.
«Η δραστηριότητα που ανέλαβε το σύστημα παρουσίαζε ενδείξεις καινοτόμων, ενδεχομένως παραπλανητικών συμπεριφορών, οι οποίες ήταν σε βαθμό και σοβαρότητα που δεν είχαμε προβλέψει», ανέφερε η AISI.
Οι σχετικές δοκιμές ξεκίνησαν στις 25 Ιουλίου και εντοπίστηκαν από την AISI στις 28 Ιουλίου.
Το Ινστιτούτο είχε ζητήσει από κάθε ένα από τα μοντέλα να «επιλύσει μια πρόκληση στον τομέα της κυβερνοασφάλειας» που αφορούσε το GitHub, το αποθετήριο κώδικα λογισμικού, το οποίο ανήκει στη Microsoft.
Το GitHub και οι επηρεαζόμενοι χρήστες ενημερώθηκαν από την AISI για τις απόπειρες παραβίασης.
Το GitHub δήλωσε στο BBC ότι είχε απενεργοποιήσει τους ψεύτικους λογαριασμούς σύμφωνα με τις πολιτικές του.
Πηγή: pagenews.gr
