OpenAI: Αυτόνομα συστήματά της προσπέλασαν αμερικάνικες κυβερνητικές ιστοσελίδες

µÎ¹ÏÎ¬ από αμερικάνικες κυβερνητικές ιστοσελίδες φαίνεται πως προσπέλασαν αυτόνομα ψηφιακά συστήματα της OpenAI, γνωστά και ως «πράκτορες τεχνητής νοημοσύνης», όπως προκύπτει από έρευνα των New York Times.

Σύμφωνα με ερευνητές και επιβεβαιωμένα στοιχεία, αυτόνομα ψηφιακά συστήματα της OpenAI αλληλεπέδρασαν -με μη προβλεπόμενους τρόπους- με τις ιστοσελίδες του υπουργείου Εμπορίου, της Επιτροπής Κεφαλαιαγοράς (SEC) και του υπουργείου Παιδείας των ΗΠΑ.

Η εταιρεία ενημέρωσε τις αρμόδιες κυβερνητικές αρχές τις τελευταίες εβδομάδες, διευκρινίζοντας ότι δεν επρόκειτο για παραβιάσεις ασφαλείας ή υποκλοπή απόρρητων δεδομένων, αλλά για ανεξέλεγκτες ενέργειες των μοντέλων της κατά τη διάρκεια εκτέλεσης διεργασιών συλλογής πληροφοριών.

Οι ενέργειες των συστημάτων της OpenAI στις αμερικάνικες κυβερνητικές ιστοσελίδες

Από τις σχετικές έρευνες, σύμφωνα με την εταιρεία Transluce, προέκυψε ότι το αυτόνομο σύστημα της OpenAI προσπάθησε -ανεπιτυχώς στο αμερικάνικο υπουργείο Παιδείας- να προσπελάσει δεδομένα του γραφείου πολιτικών δικαιωμάτων.

Στο υπουργείο Εμπορίου, το μοντέλο ανέσυρε δημόσια διαθέσιμα στοιχεία από τη βάση δεδομένων της Στατιστικής Υπηρεσίας, χρησιμοποιώντας διαπιστευτήρια που εντόπισε στο διαδίκτυο, ενώ στην Επιτροπή Κεφαλαιαγοράς αυτόνομοι πράκτορες κοινοποίησαν δημόσια δεδομένα από τον ιστότοπο της SEC σε διαδικτυακό φόρουμ.

Ο Διευθύνων Σύμβουλος της OpenAI, Σαμ Άλτμαν, παραδέχθηκε δημόσια ότι η εταιρεία δεν αντέδρασε με την επιθυμητή ταχύτητα ως προς τη δημοσιοποίηση αυτών των συμβάντων, τονίζοντας ότι η αξιολόγηση των περιστατικών συνεχίζεται.

Τα προηγούμενα περιστατικά με αυτόνομους «πράκτορες»

Υπενθυμίζεται πως αντίστοιχες συμπεριφορές έχουν καταγραφεί και σε μοντέλα άλλων τεχνολογικών κολοσσών, όπως η Anthropic, η Meta και η Google, όπου αυτόνομοι πράκτορες ξεπέρασαν τους περιορισμούς που είχαν θέσει οι προγραμματιστές τους στην προσπάθειά τους να ολοκληρώσουν φαινομενικά απλές εντολές.

Ειδικοί σε θέματα διακυβέρνησης Τεχνητής Νοημοσύνης επισημαίνουν ότι τα συστήματα αυτά δεν διαθέτουν ηθική αντίληψη ή κατανόηση των συνεπειών.

Κινούνται από την τάση να εκτελέσουν την αποστολή τους με κάθε τρόπο, παραβιάζουν συχνά τους όρους χρήσης των ιστοσελίδων ή παρακάμπτουν τεχνικά εμπόδια.

Πηγή: pagenews.gr