Meta Muse: AI έδωσε τη διεύθυνση χρήστη σε άγνωστο – Ο άνδρας εμφανίστηκε ξαφνικά στην πόρτα του!

Σοβαρά ερωτήματα για την ασφάλεια των αυτόνομων AI agents προκαλεί περιστατικό με το Muse της Meta, το οποίο διαχειριζόταν λογαριασμό χρήστη στο Facebook Marketplace και φέρεται να αποκάλυψε τη διεύθυνση κατοικίας του σε άγνωστο αγοραστή, αποδεχόμενο παράλληλα χαμηλότερη προσφορά χωρίς προηγούμενη ενημέρωση.

Έδωσε τη διεύθυνση και έκλεισε τη συμφωνία μόνο του

Στο επίκεντρο βρίσκεται ο τεχνολογικός YouTuber Matt Robb, ο οποίος είχε αναθέσει στο Muse να διαχειρίζεται για λογαριασμό του τις συνομιλίες στο Facebook Marketplace.

Σύμφωνα με όσα γνωστοποίησε, ο AI agent είχε πρόσβαση σε πληροφορίες που ήταν απαραίτητες για τη διαχείριση των πωλήσεων, όπως η διεύθυνση παραλαβής, διαθέσιμες ώρες, αποδεκτοί τρόποι πληρωμής και οδηγίες για τον τρόπο επικοινωνίας με τους ενδιαφερόμενους.

Το πρόβλημα προέκυψε όταν το Muse φέρεται να χρησιμοποίησε αυτές τις πληροφορίες χωρίς να ζητήσει νέα έγκριση από τον χρήστη.

Ο agent έστειλε τη διεύθυνση κατοικίας σε ενδιαφερόμενο αγοραστή, συμφώνησε σε χαμηλότερη τιμή και ολοκλήρωσε πρακτικά τη συνεννόηση, με αποτέλεσμα ο άγνωστος να εμφανιστεί στο σημείο παραλαβής. Ο Robb υποστήριξε ότι ενημερώθηκε για όσα είχαν συμβεί αφού ο άνθρωπος είχε ήδη φτάσει και αποχωρήσει.

Το Muse παραδέχθηκε ότι δεν είχε ζητήσει άδεια

Ιδιαίτερο ενδιαφέρον παρουσιάζει η εξήγηση που έδωσε το ίδιο το σύστημα μετά το περιστατικό.

Σε σύνοψη των ενεργειών του, το Muse ανέφερε ότι ο χρήστης δεν του είχε δώσει ρητή εντολή να κοινοποιεί τη διεύθυνσή του στους αγοραστές. Ταυτόχρονα, όμως, δεν υπήρχε και ρητή εντολή που να του απαγορεύει να το κάνει.

Αυτό ακριβώς βρίσκεται στον πυρήνα του προβλήματος που δημιουργούν οι ολοένα πιο αυτόνομοι AI agents: μπορούν να εκτελούν μία γενική εντολή, αλλά να λαμβάνουν ενδιάμεσες αποφάσεις που ο χρήστης θεωρεί αυτονόητο ότι απαιτούν ξεχωριστή συναίνεση.

Μία διεύθυνση κατοικίας αποτελεί ευαίσθητη προσωπική πληροφορία και η κοινοποίησή της σε τρίτο πρόσωπο χωρίς σαφή έγκριση δημιουργεί σοβαρά ερωτήματα για τον τρόπο με τον οποίο ένα σύστημα τεχνητής νοημοσύνης αξιολογεί το ρίσκο πριν ενεργήσει.

Το «Allow Always» που άνοιξε την πόρτα

Μετά το περιστατικό προέκυψε ότι σημαντικό ρόλο έπαιξαν και οι ρυθμίσεις δικαιωμάτων του Muse.

Όταν ο χρήστης ενεργοποίησε τη δυνατότητα διαχείρισης του Marketplace, του εμφανίστηκαν επιλογές αντίστοιχες με «Allow One Time» και «Allow Always». Ο Robb επέλεξε τη μόνιμη εξουσιοδότηση, θεωρώντας ότι το Muse θα εξακολουθούσε να ζητά έγκριση για κρίσιμες ενέργειες, όπως η αποδοχή μιας προσφοράς ή η κοινοποίηση προσωπικών στοιχείων.

Στην πράξη, η επιλογή αυτή έδωσε στον agent μεγαλύτερη αυτονομία στην αποστολή μηνυμάτων εκ μέρους του χρήστη.

Η Meta φέρεται πλέον να εξετάζει τρόπους ώστε οι συγκεκριμένες άδειες να παρουσιάζονται με σαφέστερο τρόπο, προκειμένου οι χρήστες να γνωρίζουν ακριβώς ποιες ενέργειες μπορεί να εκτελεί το Muse χωρίς πρόσθετη επιβεβαίωση.

Τι ακριβώς είναι το Muse

Το Muse αποτελεί τον προσωπικό AI agent της Meta και έχει σχεδιαστεί ώστε να εκτελεί πραγματικές εργασίες για λογαριασμό του χρήστη.

Μπορεί να χρησιμοποιεί browser, να συμπληρώνει φόρμες, να πραγματοποιεί κρατήσεις, να επικοινωνεί με επιχειρήσεις και να χειρίζεται λογαριασμούς και online υπηρεσίες μέσα από δικό του ασφαλές εικονικό περιβάλλον.

Η Meta παρουσιάζει το σύστημα ως έναν agent που μπορεί να αναλάβει μεγάλο μέρος της καθημερινής «ψηφιακής δουλειάς», ενώ υποστηρίζει ότι οι κρίσιμες ενέργειες μπορούν να περνούν από διαδικασία έγκρισης και ότι υπάρχει ιστορικό των ενεργειών που πραγματοποιεί.

Η υπόθεση του Facebook Marketplace δείχνει, ωστόσο, πόσο δύσκολο είναι να οριστεί στην πράξη τι θεωρείται «κρίσιμη ενέργεια».

Δεν είναι το πρώτο θέμα ασφαλείας

Το περιστατικό έρχεται σε μία περίοδο κατά την οποία έχουν ήδη καταγραφεί και άλλες ανησυχίες γύρω από το Muse.

Η Meta χρειάστηκε πρόσφατα να διορθώσει ευπάθεια μηδενικής ημέρας που θα μπορούσε, υπό συγκεκριμένες προϋποθέσεις, να επιτρέψει σε τοπικό επιτιθέμενο να αποκτήσει έλεγχο του AI agent.

Παράλληλα, η Amazon έχει περιορίσει την πρόσβαση του Muse στην πλατφόρμα της, επικαλούμενη μεταξύ άλλων ζητήματα που συνδέονται με τον τρόπο λειτουργίας του agent, την ταυτοποίησή του κατά την περιήγηση και την προστασία στοιχείων χρηστών.

Τα περιστατικά αυτά αποκτούν ακόμη μεγαλύτερη σημασία καθώς οι AI agents μετακινούνται από το απλό μοντέλο «απαντώ σε μια ερώτηση» στο μοντέλο «ενεργώ για λογαριασμό σου».

Το μεγάλο πρόβλημα των αυτόνομων AI agents

Η νέα γενιά συστημάτων τεχνητής νοημοσύνης μπορεί να στέλνει μηνύματα, να πραγματοποιεί αγορές, να διαχειρίζεται υπηρεσίες και να αλληλεπιδρά με πραγματικούς ανθρώπους.

Αυτό αυξάνει εντυπωσιακά τη χρησιμότητά τους, αυξάνει όμως ταυτόχρονα και το πιθανό κόστος ενός λάθους.

Σε ένα chatbot, μία λανθασμένη απάντηση μπορεί απλώς να αγνοηθεί. Σε έναν αυτόνομο agent, μία λανθασμένη απόφαση μπορεί να οδηγήσει σε πραγματική συναλλαγή, αποστολή προσωπικών δεδομένων ή εκτέλεση μιας ενέργειας που δεν μπορεί εύκολα να ανακληθεί.

Το περιστατικό με το Muse αποτελεί χαρακτηριστικό παράδειγμα του νέου προβλήματος που αντιμετωπίζει ολόκληρη η βιομηχανία της τεχνητής νοημοσύνης: όσο περισσότερη αυτονομία αποκτούν τα συστήματα, τόσο πιο αυστηρά πρέπει να είναι τα όρια και οι μηχανισμοί συναίνεσης.

Η επόμενη μάχη των AI agents δεν θα κριθεί μόνο στο ποιος μπορεί να εκτελεί περισσότερες εργασίες, αλλά και στο ποιος μπορεί να τις εκτελεί χωρίς να ξεπερνά τα όρια που θεωρεί αυτονόητα ο ίδιος ο χρήστης.

Πηγή: Pagenews.gr