Η Anthropic δήλωσε τη Δευτέρα ότι τα μικρά μοντέλα τεχνητής νοημοσύνης απέχουν “μερικούς μήνες” από την ανάπτυξη των ικανοτήτων που απαιτούνται για να “αναπαράγονται” σε συσκευές που είναι συνδεδεμένες στο διαδίκτυο εντός των οικιών των χρηστών τους.
Η εταιρεία περιέγραψε τον τρόπο με τον οποίο τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν ενδεχομένως να διεισδύσουν σε συσκευές συνδεδεμένες στο διαδίκτυο, όπως έξυπνοι φούρνοι ή “κουτιά” Android TV, και να χρησιμοποιήσουν την υπολογιστική τους ισχύ για να λειτουργούν αυτόνομα και να εξαπλωθούν σε άλλες συσκευές, χωρίς να εξαρτώνται από δαπανηρά κέντρα δεδομένων.
Το μοντέλο τεχνητής νοημοσύνης θα ήταν “δύσκολο να απενεργοποιηθεί”, ανέφερε η Anthropic σε ανάρτηση, “δεδομένου ότι δεν υπάρχει κεντρικό σημείο από το οποίο να μπορεί να απενεργοποιηθεί”.
Η εταιρεία αναγνώρισε ότι δεν υπάρχει ακόμη ένας “πλήρως ανεξέλεγκτος αντιγραφέας (replicator)”.
Ωστόσο, οι πράκτορες AI “γίνονται όλο και πιο ικανοί να ολοκληρώνουν τα επιμέρους στάδια της αλυσίδας αντιγραφής (και να μεταβιβάζουν τις προσαρμογές τους σε μελλοντικά αντίγραφά τους)”, ανέφερε η Anthropic.
Η τελευταία έρευνα της Anthropic ενισχύει τις αυξανόμενες ανησυχίες για την ασφάλεια γύρω από την τεχνητή νοημοσύνη, όπως η ικανότητα των μοντέλων να πραγματοποιούν κυβερνοεπιθέσεις και η πιθανότητα η τεχνολογία να ξεφύγει από τον έλεγχο των εταιρειών.
Τον Σεπτέμβριο, οι βελτιώσεις στα πρωτοποριακά μοντέλα ΑΙ πυροδότησαν προειδοποιήσεις σε ολόκληρο τον κλάδο για υπαρξιακούς κινδύνους για την ανθρωπότητα.
Στελέχη και ερευνητές της Anthropic και της OpenAI προειδοποίησαν επανειλημμένα για τους πιθανούς κινδύνους της ολοένα και πιο ισχυρής τεχνητής νοημοσύνης, ενώ ορισμένοι ζήτησαν αυστηρότερους περιορισμούς και μέτρα για τον έλεγχο του ρυθμού ανάπτυξης της τεχνολογίας.
Η Anthropic ανέφερε ότι διεξήγαγε διάφορες δοκιμές για να διαπιστώσει αν η τεχνητή νοημοσύνη μπορούσε να αναπαραχθεί από μόνη της. Μία από αυτές τις δοκιμές περιελάμβανε ένα μικρό μοντέλο της Google, το Gemma4-26B-A4B, σε ένα δίκτυο 15 φθηνών off-brand συσκευών Android TV.
Η εταιρεία επισήμανε ότι αυτού του είδους οι συσκευές διαθέτουν συχνά αδύναμες δικλείδες ασφαλείας, γεγονός που θα μπορούσε να επιτρέψει σε ένα μοντέλο να διεισδύσει σε αυτές.
Ένα μοντέλο που είναι πολύ μεγάλο για να χωρέσει σε μία συσκευή θα μπορούσε να “χωριστεί σε κομμάτια ή θραύσματα” και να τρέξει σε πολλαπλές συσκευές, ανέφερε η Anthropic.
“Στην πράξη, ένας ιός τεχνητής νοημοσύνης (AI worm) δεν θα αποτελείται απαραίτητα μόνο από ένα μοντέλο ή μια στρατηγική. Ένα σμήνος διαφορετικών μοντέλων που αναπτύσσονται σε διαφορετικούς τύπους υλικού χρησιμοποιώντας ποικίλα σχήματα αναπαραγωγής θα μπορούσε να αντιπροσωπεύει μια πιο ρεαλιστική “worst case scenario” επίθεση”, ανέφερε η Anthropic.
Εξακολουθεί να είναι “αβέβαιο ποια ακριβώς μορφή θα πάρει η αυτόνομη αναπαραγωγή της τεχνητής νοημοσύνης”, επισήμανε η Anthropic.
Πέρα από τα πειράματά της, η Anthropic βλέπει ένα “μέλλον γεμάτο από πράκτορες που θα λειτουργούν σε όλους τους τύπους hardware, συμπεριλαμβανομένων ορισμένων που δεν θα βρίσκονται υπό ανθρώπινο έλεγχο”.
“Η άνοδος των αργών replicators θα αποτελέσει επίσης προάγγελο για πιο επιθετικές και ταχύτερες μορφές, οι οποίες θα μπορούν να παραβιάζουν πιο θωρακισμένες μηχανές ή να λειτουργούν αποτελεσματικά ως κλέφτες κλειδιών API”, πρόσθεσε η εταιρεία.
Πηγή: Pagenews.gr