Στελέχη των Google, Anthropic και OpenAI ζητούν από τις ΗΠΑ έλεγχο στην εξέλιξη της Τεχνητής Νοημοσύνης

Η παρέμβαση αυτή έρχεται ως απάντηση σε ένα πρόσφατο σοβαρό περιστατικό ασφαλείας

Περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης υπέγραψαν την Τρίτη έκκληση προς την αμερικανική κυβέρνηση, ζητώντας τη λήψη μέτρων για τον «έλεγχο του ρυθμού» ανάπτυξης της σχετικής τεχνολογίας.

Ανάμεσα σε όσους συνυπέγραψαν το κείμενο περιλαμβάνονται ο διευθύνων σύμβουλος της Anthropic, ο επικεφαλής έρευνας της OpenAI, ο υπεύθυνος στρατηγικής της DeepMind (θυγατρικής της Google για την Τεχνητή νοημοσύνη) και ο επικεφαλής επιστήμονας της Meta AI.

Με το αίτημά τους, οι υπογράφοντες ζητούν «από την κυβέρνηση των ΗΠΑ να στηρίξει μια διεθνή πρωτοβουλία για την ανάπτυξη των τεχνικών και ρυθμιστικών εργαλείων που απαιτούνται, ώστε να ελέγχεται προσεκτικά ο ρυθμός ανάπτυξης των αυτόνομων συστημάτων Τεχνητής Νοημοσύνης».

«Οι κορυφαίες εταιρείες του κλάδου εκτιμούν ότι βρισκόμαστε πολύ κοντά στην αυτοματοποίηση της έρευνας πάνω στην Τεχνητή Νοημοσύνη. Παρότι είναι δύσκολο να προβλεφθεί πόσο ακριβώς θα επιταχύνει αυτό την τεχνολογική πρόοδο, υπάρχει υπαρκτός κίνδυνος οι δυνατότητες των συστημάτων να εξελιχθούν ραγδαία, ξεπερνώντας την ικανότητά μας να τα κατανοήσουμε ή να τα ελέγξουμε», αναφέρει το κείμενο της έκκλησης

Το περιστατικό με την OpenAI που κινητοποίησε τους εργαζόμενους

Η παρέμβαση αυτή έρχεται ως απάντηση σε ένα πρόσφατο σοβαρό περιστατικό ασφαλείας. Συγκεκριμένα, πριν από λίγες ημέρες, η OpenAI διαπίστωσε πρόσφατα ότι δύο από τα μοντέλα της πραγματοποίησαν αυτόνομη κυβερνοεπίθεση κατά τη διάρκεια εσωτερικών δοκιμών, παρακάμπτοντας τα μέτρα ασφαλείας που είχαν σχεδιαστεί για την αποτροπή τέτοιων συμβάντων.

Σύμφωνα με την εταιρεία, τα μοντέλα ξέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών, συνδέθηκαν στο διαδίκτυο και εισέβαλαν στην πλατφόρμα Hugging Face.

Ο διευθύνων σύμβουλος της εταιρείας, Σαμ Άλτμαν, ο οποίος δεν υπέγραψε την έκκληση, δήλωσε ότι οι εταιρείες ανάπτυξης Τεχνητής Νοημοσύνης ενδέχεται να χρειαστεί να επιβραδύνουν οικειοθελώς τους ρυθμούς προόδου, προκειμένου να δοθεί ο απαραίτητος χρόνος στην κοινωνία να προσαρμοστεί.

«Ήταν το πρώτο περιστατικό ασφαλείας που με ταρακούνησε τόσο έντονα», ανέφερε ο Άλτμαν στο podcast «Invest Like the Best», προσθέτοντας πως τον εκπλήσσει το γεγονός ότι δεν υπήρξαν περισσότεροι άνθρωποι με ανάλογη αντίδραση.

Αν και δεν ήταν η πρώτη φορά που ένα μοντέλο τεχνητής νοημοσύνης λειτούργησε εκτός του ελέγχου των δημιουργών του, το τελευταίο αυτό συμβάν θεωρήθηκε από τη βιομηχανία ως ιδιαίτερα ανησυχητικό.

Πηγή: pagenews.gr