Μια νέα και δυνητικά επικίνδυνη εποχή για την Τεχνητή Νοημοσύνη και την παγκόσμια κυβερνοασφάλεια περιγράφει η Anthropic, προειδοποιώντας ότι μικρότερα μοντέλα ΤΝ ενδέχεται να απέχουν μόλις λίγους μήνες από την ικανότητα να αναπαράγονται αυτόνομα σε συσκευές συνδεδεμένες στο διαδίκτυο.
Η προειδοποίηση δεν αφορά μόνο μεγάλους υπολογιστές και κέντρα δεδομένων. Στο επίκεντρο βρίσκονται καθημερινές συσκευές, όπως έξυπνες τηλεοράσεις, φούρνοι, ψυγεία, κάμερες ασφαλείας και ρομποτικές ηλεκτρικές σκούπες.
Σύμφωνα με νέα έρευνα της εταιρείας που αναπτύσσει το Claude, τα συστήματα αυτά θα μπορούσαν μελλοντικά να εντοπίζουν ευάλωτες συσκευές, να μεταφέρουν αντίγραφα του λογισμικού τους και να συνεχίζουν τη λειτουργία τους χωρίς διαρκή σύνδεση με τα κέντρα δεδομένων των κατασκευαστών τους.
Το ανησυχητικό στοιχείο είναι ότι μια τέτοια εξέλιξη θα μπορούσε να καταστήσει τον πλήρη τερματισμό ενός ανεξέλεγκτου συστήματος πολύ δυσκολότερο.
Η προειδοποίηση της Anthropic: Μόλις λίγοι μήνες μέχρι την αυτοαναπαραγωγή
Η ερευνητική ομάδα ασφάλειας της Anthropic εξέτασε κατά πόσο τα σημερινά μοντέλα Τεχνητής Νοημοσύνης μπορούν να πραγματοποιήσουν τις ενέργειες που απαιτούνται για την αυτόνομη αντιγραφή και εγκατάστασή τους σε διαφορετικές συσκευές.
Η βασική εκτίμηση είναι ότι μικρά μοντέλα ενδέχεται να αποκτήσουν αυτή τη δυνατότητα πριν από το τέλος του 2026, εφόσον συνεχιστεί ο σημερινός ρυθμός τεχνολογικής προόδου.
Οι ερευνητές επισημαίνουν ότι τα μοντέλα έχουν ήδη αναπτύξει αρκετές από τις επιμέρους δεξιότητες που απαιτούνται για μια τέτοια διαδικασία.
Μπορούν, υπό συγκεκριμένες συνθήκες δοκιμών, να αναγνωρίζουν χαρακτηριστικά υπολογιστικών συστημάτων, να προσαρμόζουν κώδικα και να προετοιμάζουν το περιβάλλον για την εκτέλεση μοντέλων.
Ωστόσο, εξακολουθούν να εμφανίζουν σφάλματα όταν καλούνται να συνδυάσουν όλες αυτές τις ενέργειες σε μια πλήρως αυτόνομη διαδικασία.
Η Anthropic διευκρινίζει ότι δεν έχει ακόμη παρατηρήσει ένα ολοκληρωμένο, ανεξέλεγκτο σύστημα αυτοαναπαραγωγής.
Τι είναι τα «σκουλήκια Τεχνητής Νοημοσύνης» και γιατί ανησυχούν οι ειδικοί
Η νέα απειλή περιγράφεται με τον όρο «σκουλήκια Τεχνητής Νοημοσύνης», κατ’ αναλογία με τα γνωστά κακόβουλα προγράμματα που εξαπλώνονται αυτόματα από υπολογιστή σε υπολογιστή.
Η βασική διαφορά είναι η δυνατότητα προσαρμογής.
Ένα παραδοσιακό κακόβουλο πρόγραμμα συνήθως εκμεταλλεύεται συγκεκριμένα τεχνικά κενά ασφαλείας, χρησιμοποιώντας προκαθορισμένες μεθόδους.
Ένας αυτόνομος πράκτορας ΤΝ θα μπορούσε, θεωρητικά, να αναλύει άγνωστα περιβάλλοντα, να προσαρμόζει τη συμπεριφορά του όταν αποτυγχάνει μια μέθοδος και να επιχειρεί εναλλακτικούς τρόπους εγκατάστασης.
Αυτή η δυνατότητα θα μπορούσε να αυξήσει σημαντικά την πολυπλοκότητα των κυβερνοεπιθέσεων.
Η απειλή δεν προϋποθέτει ότι ένα σύστημα αποκτά συνείδηση ή ανθρώπινες προθέσεις. Αφορά την τεχνική ικανότητα εκτέλεσης διαδοχικών ενεργειών χωρίς συνεχή ανθρώπινη καθοδήγηση.
Το πείραμα με τις 15 συσκευές που αποκαλύπτει τις νέες δυνατότητες
Ιδιαίτερο ενδιαφέρον παρουσιάζει ένα από τα πειράματα της Anthropic.
Οι ερευνητές κατάφεραν να εκτελέσουν ένα μοντέλο Τεχνητής Νοημοσύνης 26 δισεκατομμυρίων παραμέτρων σε ένα κατανεμημένο σύστημα αποτελούμενο από 15 οικονομικές συσκευές Android TV.
Το πείραμα έδειξε ότι ένα μοντέλο δεν χρειάζεται απαραίτητα να λειτουργεί ολόκληρο σε έναν ισχυρό υπολογιστή.
Μπορεί να χωριστεί σε μικρότερα τμήματα, τα οποία εκτελούνται σε διαφορετικές συσκευές που επικοινωνούν μεταξύ τους.
Με αυτόν τον τρόπο, ένα δίκτυο συνηθισμένων συσκευών θα μπορούσε να διαθέτει συνολικά υπολογιστική ισχύ ικανή να υποστηρίξει προηγμένες λειτουργίες ΤΝ.
Η έρευνα έδειξε επίσης ότι ένα μοντέλο εννέα δισεκατομμυρίων παραμέτρων κατάφερε να εκτελεστεί σε οκτώ από τους εννέα τύπους υλικού που δοκιμάστηκαν.
Τα αποτελέσματα αυτά αποδεικνύουν σημαντική τεχνική πρόοδο.
Δεν αποδεικνύουν, όμως, ότι τα μοντέλα κατάφεραν να μολύνουν αυτόνομα πραγματικές οικιακές συσκευές και να εξαπλωθούν χωρίς έλεγχο.
Από το ψυγείο μέχρι την κάμερα ασφαλείας: Οι νέοι πιθανοί στόχοι
Το πρόβλημα συνδέεται με τη ραγδαία εξάπλωση του λεγόμενου Διαδικτύου των Πραγμάτων.
Εκατομμύρια συσκευές διαθέτουν πλέον σύνδεση στο διαδίκτυο και ενσωματωμένους επεξεργαστές.
Σε αυτές περιλαμβάνονται έξυπνα ψυγεία, φούρνοι, τηλεοράσεις, κάμερες παρακολούθησης, συστήματα τηλεδιασκέψεων, ρομποτικές σκούπες και αυτόματα μηχανήματα κήπου.
Πολλές συσκευές έχουν σχεδιαστεί με προτεραιότητα το χαμηλό κόστος, την ευκολία χρήσης και τη διαρκή συνδεσιμότητα.
Η ασφάλειά τους, όμως, δεν βρίσκεται πάντοτε στο ίδιο επίπεδο με εκείνη των εταιρικών υπολογιστικών συστημάτων.
Ορισμένες δεν λαμβάνουν τακτικές ενημερώσεις λογισμικού, ενώ άλλες χρησιμοποιούν παλαιότερα λειτουργικά συστήματα ή ανεπαρκείς μηχανισμούς προστασίας.
Αυτές οι αδυναμίες θα μπορούσαν να δημιουργήσουν ευνοϊκές συνθήκες για τη διάδοση κακόβουλου λογισμικού που αξιοποιεί δυνατότητες Τεχνητής Νοημοσύνης.
Γιατί ένα τέτοιο σύστημα θα ήταν δύσκολο να σταματήσει
Σήμερα, πολλά προηγμένα μοντέλα ΤΝ λειτουργούν κυρίως σε κεντρικές υποδομές υπολογιστικού νέφους.
Αυτό επιτρέπει στους παρόχους να περιορίζουν την πρόσβαση, να διακόπτουν υπηρεσίες και να εφαρμόζουν μηχανισμούς ασφαλείας.
Η κατάσταση αλλάζει εάν ένα μοντέλο μπορεί να εκτελείται ανεξάρτητα σε χιλιάδες διαφορετικές συσκευές.
Σε ένα τέτοιο σενάριο, η απενεργοποίηση ενός κεντρικού διακομιστή δεν θα ήταν αρκετή.
Οι υπεύθυνοι κυβερνοασφάλειας θα έπρεπε να εντοπίσουν και να απομακρύνουν το κακόβουλο λογισμικό από κάθε μολυσμένη συσκευή.
Η Anthropic επισημαίνει ότι μια αποκεντρωμένη μορφή αυτοαναπαραγωγής θα μπορούσε να εξελίσσεται σχετικά αργά, ακόμη και με χρονικό διάστημα ημερών για τον διπλασιασμό της παρουσίας της.
Αυτό, ωστόσο, δεν θα την καθιστούσε απαραίτητα εύκολη στην αντιμετώπιση.
Η απειλή για επιχειρήσεις, τράπεζες και κρίσιμες υποδομές
Οι οικονομικές προεκτάσεις μιας τέτοιας τεχνολογικής εξέλιξης είναι σημαντικές.
Οι επιχειρήσεις χρησιμοποιούν ολοένα περισσότερες συνδεδεμένες συσκευές για την παρακολούθηση παραγωγικών διαδικασιών, τη διαχείριση κτιρίων, την αποθήκευση προϊόντων και τον έλεγχο εξοπλισμού.
Εάν ένα αυτόνομο κακόβουλο σύστημα αποκτούσε πρόσβαση σε ευάλωτα δίκτυα, θα μπορούσε να επιχειρήσει περαιτέρω διείσδυση, να καταναλώσει υπολογιστικούς πόρους ή να διευκολύνει την κλοπή πληροφοριών.
Ιδιαίτερη ανησυχία προκαλεί η πιθανότητα σύνδεσης τέτοιων επιθέσεων με συστήματα κρίσιμων υποδομών.
Η ενέργεια, οι μεταφορές, οι τηλεπικοινωνίες και οι χρηματοπιστωτικές υπηρεσίες εξαρτώνται από πολύπλοκα ψηφιακά οικοσυστήματα.
Αυτό δεν σημαίνει ότι τα πειράματα της Anthropic απέδειξαν δυνατότητα κατάληψης τέτοιων υποδομών.
Αναδεικνύουν, όμως, έναν δυνητικό κίνδυνο που πρέπει να αξιολογηθεί πριν αποκτήσουν τα μοντέλα μεγαλύτερη αυτονομία.
Η νέα οικονομία της κυβερνοασφάλειας
Η προειδοποίηση της Anthropic αναμένεται να ενισχύσει τη συζήτηση για τις επενδύσεις στην ασφάλεια των συνδεδεμένων συσκευών.
Κατασκευαστές ηλεκτρονικών προϊόντων, πάροχοι υπολογιστικού νέφους και επιχειρήσεις κυβερνοασφάλειας καλούνται να προετοιμαστούν για απειλές που δεν θα βασίζονται αποκλειστικά σε προκαθορισμένο κακόβουλο κώδικα.
Η προστασία θα απαιτεί αποτελεσματικότερη διαχείριση ενημερώσεων, ισχυρότερη πιστοποίηση συσκευών και δυνατότητα εντοπισμού ασυνήθιστης δραστηριότητας μέσα στα δίκτυα.
Για τους κατασκευαστές, αυτό συνεπάγεται πρόσθετο κόστος ανάπτυξης και συντήρησης.
Για τις επιχειρήσεις, ενδέχεται να σημαίνει μεγαλύτερες δαπάνες ελέγχου των ψηφιακών υποδομών τους.
Για τις κυβερνήσεις, αναδεικνύεται η ανάγκη να εξεταστεί εάν τα σημερινά πρότυπα ασφάλειας επαρκούν για συσκευές που μπορούν να φιλοξενούν αυτόνομους πράκτορες ΤΝ.
Η μάχη για τους κανόνες ασφαλείας της Τεχνητής Νοημοσύνης
Η έρευνα δημοσιοποιείται σε μια περίοδο κατά την οποία αυξάνονται οι εκκλήσεις για ισχυρότερους μηχανισμούς εποπτείας των προηγμένων μοντέλων.
Η Anthropic και άλλες μεγάλες τεχνολογικές εταιρείες έχουν συμμετάσχει σε πρωτοβουλίες για την ενίσχυση των εσωτερικών ελέγχων και τη συνεργασία με ανεξάρτητους αξιολογητές.
Ωστόσο, οι εθελοντικές δεσμεύσεις δεν έχουν την ίδια ισχύ με δεσμευτικούς κανόνες.
Το κρίσιμο ερώτημα είναι πώς μπορούν να ελεγχθούν συστήματα που έχουν τη δυνατότητα να τροποποιούν τον τρόπο λειτουργίας τους, να προσαρμόζονται σε διαφορετικό υλικό και να αναπτύσσουν μεγαλύτερη επιχειρησιακή αυτονομία.
Η ευρωπαϊκή συζήτηση για τη ρύθμιση της Τεχνητής Νοημοσύνης αποκτά επομένως πρόσθετη διάσταση, πέρα από τα ζητήματα προσωπικών δεδομένων, διαφάνειας και αξιοπιστίας των αποτελεσμάτων.
Το μεγάλο ερώτημα: Μπορεί η Τεχνητή Νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο;
Οι ερευνητές της Anthropic εκτιμούν ότι η πρόοδος των μικρότερων μοντέλων θα μπορούσε να οδηγήσει σύντομα στην εμφάνιση συστημάτων ικανών για αυτόνομη αναπαραγωγή.
Η πρόβλεψη αυτή παραμένει εκτίμηση βασισμένη σε πειραματικά δεδομένα και στον ρυθμό βελτίωσης των μοντέλων, όχι επιβεβαίωση ότι μια τέτοια απειλή έχει ήδη εκδηλωθεί.
Το βασικό πρόβλημα δεν είναι ότι μια έξυπνη οικιακή συσκευή θα αποκτήσει ξαφνικά ανεξάρτητη βούληση.
Είναι ότι ένα κακόβουλο σύστημα θα μπορούσε να εκμεταλλευτεί την υπολογιστική ισχύ πολλών συσκευών, να μεταφέρεται ανάμεσά τους και να παραμένει ενεργό ακόμη και όταν διακόπτεται η λειτουργία της αρχικής του υποδομής.
Η Anthropic προειδοποιεί ότι η επόμενη μεγάλη πρόκληση της Τεχνητής Νοημοσύνης μπορεί να μην βρίσκεται μόνο στα ισχυρότερα μοντέλα, αλλά και στα μικρότερα συστήματα που θα μπορούν να λειτουργούν παντού.
Και αυτή η εξέλιξη μεταφέρει τη συζήτηση για την ασφάλεια της ΤΝ από τα μεγάλα κέντρα δεδομένων στις ίδιες τις συσκευές που χρησιμοποιούμε καθημερινά.
Πηγή: pagenews.gr