Τραμπ και Big Tech έγραψαν τους νέους κανόνες της AI – Η συμφωνία και η μεγάλη ένσταση

Οι μεγαλύτεροι παίκτες της αμερικανικής τεχνολογίας συμφώνησαν με τον Ντόναλντ Τραμπ σε εθελοντικά πρότυπα εποπτείας για τα ισχυρότερα συστήματα Τεχνητής Νοημοσύνης. Εσωτερικοί έλεγχοι, εξωτερικοί auditors και εταιρική εποπτεία μπαίνουν στο νέο πλαίσιο, χωρίς όμως δεσμευτική ομοσπονδιακή ρύθμιση. Και ήδη ανοίγει η μεγάλη σύγκρουση στην Ουάσιγκτον: μπορεί πράγματι η Big Tech να ελέγχει τον εαυτό της;

Η Ουάσιγκτον επέλεξε, τουλάχιστον προς το παρόν, έναν διαφορετικό δρόμο για την Τεχνητή Νοημοσύνη.

Όχι μια νέα βαριά ομοσπονδιακή ρυθμιστική αρχή.

Όχι ένα σύστημα αδειοδότησης αντίστοιχο με αυτό που ισχύει σε άλλους αυστηρά εποπτευόμενους κλάδους.

Αλλά μια συμφωνία ανάμεσα στον Λευκό Οίκο και στις ισχυρότερες εταιρείες AI, με τις ίδιες τις επιχειρήσεις να αναλαμβάνουν μεγάλο μέρος της ευθύνης για τον έλεγχο των συστημάτων που δημιουργούν.

Ο Ντόναλντ Τραμπ και κορυφαία στελέχη της αμερικανικής τεχνολογίας υπέγραψαν την Τρίτη ένα εθελοντικό πλαίσιο αρχών για τα προηγμένα συστήματα AI, με εσωτερικούς μηχανισμούς ασφαλείας και εξωτερικές αξιολογήσεις.

Ο ίδιος ο Αμερικανός πρόεδρος το χαρακτήρισε «morally binding».

Και συμπύκνωσε τη φιλοσοφία του σε μία φράση:

«Βλέπω τεράστιο self-policing», είπε, υποστηρίζοντας ότι οι ίδιες οι εταιρείες αντιλαμβάνονται πως πρέπει να ελέγχουν τη συμπεριφορά τους.

Zuckerberg, Musk, Huang, Amodei στο ίδιο τραπέζι

Στη συνάντηση του Λευκού Οίκου βρέθηκαν ορισμένα από τα ισχυρότερα πρόσωπα της παγκόσμιας τεχνολογίας, μεταξύ των οποίων ο Mark Zuckerberg της Meta, ο Elon Musk, ο Jensen Huang της Nvidia και ο Dario Amodei της Anthropic, μαζί με άλλα κορυφαία στελέχη του κλάδου.

Ο πρόεδρος της Βουλής Mike Johnson παρουσίασε τη συμφωνία ως κοινή δέσμευση και ένα σύνολο αρχών που προβλέπει ισχυρότερους εσωτερικούς ελέγχους και πολλαπλά επίπεδα εσωτερικής και εξωτερικής αξιολόγησης.

Ο Zuckerberg εξήγησε ότι το μοντέλο περιλαμβάνει internal risk reviews αλλά και εξωτερικούς auditors που θα εξετάζουν την τεχνολογία.

Το δημοσιευμένο πλαίσιο προβλέπει επίσης εσωτερικές ομάδες εποπτείας, εξωτερικό auditing της δουλειάς τους και επιτροπή στο διοικητικό συμβούλιο κάθε συμμετέχουσας εταιρείας.

Τραμπ: «Σχεδόν σαν Σύνταγμα»

Ο Τραμπ χρησιμοποίησε ακόμη ισχυρότερη εικόνα για να περιγράψει τη συμφωνία.

«Είναι σχεδόν σαν ένα Σύνταγμα», είπε.

Η λογική του Λευκού Οίκου είναι ότι οι ίδιες οι επιχειρήσεις έχουν τεράστιο οικονομικό κίνητρο να αποτρέψουν ένα σοβαρό περιστατικό ασφαλείας.

Εάν κάτι πάει στραβά, υποστήριξε ο Τραμπ, διακυβεύεται η ίδια η αξία και η φήμη των εταιρειών τους.

Παράλληλα, ο πρόεδρος ανέφερε την πιθανότητα δημιουργίας μιας επιτροπής περίπου δέκα προσώπων που θα επιβλέπει συνολικότερα την προσπάθεια, χωρίς να έχουν ακόμη παρουσιαστεί όλες οι λεπτομέρειες για τη σύνθεση και τις αρμοδιότητές της.

Και τότε έρχεται η μεγάλη ένσταση: Ποιος ελέγχει τον ελεγκτή;

Εδώ όμως αρχίζει το δυσκολότερο μέρος της συζήτησης.

Το βασικό ερώτημα δεν είναι εάν οι εταιρείες πρέπει να πραγματοποιούν εσωτερικούς ελέγχους.

Σχεδόν κανείς δεν διαφωνεί με αυτό.

Το ερώτημα είναι εάν αυτοί οι έλεγχοι αρκούν όταν οι ίδιες εταιρείες έχουν ταυτόχρονα τεράστιο εμπορικό κίνητρο να αναπτύσσουν και να κυκλοφορούν γρηγορότερα ολοένα ισχυρότερα μοντέλα.

Ο γνωστός ερευνητής AI και καθηγητής emeritus του NYU Gary Marcus έδωσε στο PBS NewsHour μια κατηγορηματική απάντηση:

«Σίγουρα δεν είναι αρκετό», είπε για το self-regulation.

Gary Marcus: Η AI χρειάζεται ανεξάρτητο έλεγχο

Η παρέμβαση Marcus έχει ιδιαίτερη σημασία επειδή έγινε την ίδια ημέρα με τη συμφωνία του Λευκού Οίκου.

Το επιχείρημά του είναι ότι η AI δεν πρέπει να αποτελεί εξαίρεση από μια αρχή που εφαρμόζεται ήδη σε άλλους κλάδους υψηλού κινδύνου.

Αεροπορία.

Φάρμακα.

Τρόφιμα.

Αυτοκίνητα.

Σε αυτούς τους τομείς, η κοινωνία δεν βασίζεται αποκλειστικά στην υπόσχεση του κατασκευαστή ότι το προϊόν του είναι ασφαλές.

Υπάρχουν εξωτερικοί κανόνες και ανεξάρτητη εποπτεία.

Ο Marcus υποστηρίζει ότι αντίστοιχη λογική πρέπει να εφαρμοστεί και στην Τεχνητή Νοημοσύνη.

Το μοντέλο του FDA για την Τεχνητή Νοημοσύνη

Και εδώ ο Marcus γίνεται πολύ συγκεκριμένος.

Η βασικότερη πρότασή του είναι η ανεξάρτητη αξιολόγηση των νέων AI συστημάτων πριν κυκλοφορήσουν ευρέως.

Η φιλοσοφία του θυμίζει το μοντέλο των φαρμάκων:

ο κατασκευαστής θα πρέπει να παρουσιάζει στοιχεία ότι τα οφέλη ενός προηγμένου συστήματος υπερτερούν των κινδύνων του.

Όχι να είναι ο ίδιος ο τελικός κριτής.

Κατά τον Marcus, χρειάζεται ένα δημόσιο και διαφανές σύνολο κριτηρίων ώστε εταιρείες, πελάτες και πολίτες να γνωρίζουν ποια standards πρέπει να ικανοποιεί ένα προηγμένο μοντέλο πριν από την ανάπτυξή του.

Και μετά την κυκλοφορία: υποχρεωτικά audits

Ο δεύτερος πυλώνας της πρότασής του αφορά όσα συμβαίνουν αφού ένα μοντέλο μπει στην αγορά.

Ο Marcus ζητά:

ανεξάρτητο auditing,

πλήρη γνωστοποίηση σοβαρών περιστατικών,

διαφανείς κανόνες αξιολόγησης,

και συστηματική παρακολούθηση της συμπεριφοράς των μοντέλων.

Αυτό είναι ουσιαστικά το σημείο στο οποίο συγκρούονται τα δύο μοντέλα.

Ο Λευκός Οίκος λέει:

εταιρικοί έλεγχοι + εξωτερικοί auditors + εθελοντικές δεσμεύσεις.

Οι επικριτές απαντούν:

ανεξάρτητος regulator + δημόσια standards + υποχρεωτικό auditing + disclosure.

Το προηγούμενο της αεροπορίας

Η ίδια κριτική έχει ακουστεί επανειλημμένα τις τελευταίες εβδομάδες.

Σε συζήτηση του PBS για την ασφάλεια της AI, ο δημοσιογράφος Stephen Witt χρησιμοποίησε την αεροπορία ως παράδειγμα: όταν συμβαίνει ένα αεροπορικό δυστύχημα, δεν ανατίθεται αποκλειστικά στην αεροπορική εταιρεία να αποφασίσει τι συνέβη.

Υπάρχει ανεξάρτητη διερεύνηση.

Κατά τον Witt, αντίστοιχος μηχανισμός χρειάζεται για τα σοβαρά AI incidents.

Και αυτό φωτίζει το αδύναμο σημείο κάθε συστήματος αυτορρύθμισης:

τι συμβαίνει όταν η εταιρεία που πρέπει να αποκαλύψει ένα πρόβλημα είναι η ίδια εταιρεία που μπορεί να υποστεί οικονομική ζημιά από την αποκάλυψή του;

Η ανεξαρτησία του auditor είναι το κλειδί

Υπάρχει ακόμη ένα πρόβλημα.

Δεν αρκεί να υπάρχει κάποιος που ονομάζεται «external auditor».

Το πραγματικό ερώτημα είναι:

ποιος τον επιλέγει;

ποιος τον πληρώνει;

σε ποια δεδομένα έχει πρόσβαση;

μπορεί να εξετάσει εσωτερικές πληροφορίες που η εταιρεία δεν θέλει να δημοσιοποιήσει;

και τι συμβαίνει εάν εντοπίσει ένα σοβαρό πρόβλημα;

Ειδικοί που έχουν μιλήσει στο PBS έχουν επισημάνει ότι πραγματικά ανεξάρτητος έλεγχος σημαίνει ο auditor να μην εξαρτάται από την εταιρεία που εξετάζει και να διαθέτει πρόσβαση στις πληροφορίες που χρειάζεται για την αξιολόγηση ενός περιστατικού.

Αυτό είναι πολύ διαφορετικό από ένα voluntary audit στο οποίο η ίδια η επιχείρηση μπορεί να επηρεάζει το scope της αξιολόγησης.

Το αντεπιχείρημα Τραμπ: Κίνα

Ο Λευκός Οίκος όμως βλέπει και έναν άλλο κίνδυνο.

Την Κίνα.

Ο Τραμπ έχει συνδέσει επανειλημμένα την πολιτική του για την AI με τον τεχνολογικό ανταγωνισμό ΗΠΑ–Κίνας.

«Όποιος κερδίσει την AI, κερδίζει», έχει δηλώσει, υποστηρίζοντας ότι υπερβολικά περιοριστικοί κανόνες μπορούν να υπονομεύσουν την αμερικανική τεχνολογική πρωτοπορία.

Αυτό είναι το βασικό επιχείρημα υπέρ της πιο ελαφριάς ρυθμιστικής προσέγγισης:

εάν οι αμερικανικές εταιρείες υποχρεωθούν να κινούνται πιο αργά ενώ οι κινεζικές συνεχίζουν να αναπτύσσονται γρήγορα, η Ουάσιγκτον μπορεί να χάσει ένα κρίσιμο στρατηγικό πλεονέκτημα.

Marcus: Η Κίνα δεν σημαίνει «καμία ρύθμιση»

Ο Gary Marcus αμφισβητεί ακριβώς αυτή τη δυαδική επιλογή.

Στο PBS υποστήριξε ότι ο ανταγωνισμός με την Κίνα δεν σημαίνει πως η αμερικανική βιομηχανία πρέπει να λειτουργεί χωρίς ανεξάρτητη εποπτεία.

Η δική του θέση είναι ότι οι ΗΠΑ μπορούν να παραμένουν τεχνολογικά ανταγωνιστικές και ταυτόχρονα να επιβάλλουν standards ασφαλείας — όπως κάνουν ήδη σε άλλους κλάδους που επίσης ανταγωνίζονται την Κίνα.

Άρα η πραγματική διαφωνία δεν είναι:

AI ή ασφάλεια.

Είναι:

πόση ρύθμιση μπορεί να εφαρμοστεί χωρίς να μειωθεί η ταχύτητα της αμερικανικής καινοτομίας.

Η Ευρώπη βρίσκεται στην άλλη πλευρά του πειράματος

Και εδώ η σύγκριση με την Ευρωπαϊκή Ένωση γίνεται ακόμη πιο ενδιαφέρουσα.

Οι ΗΠΑ δοκιμάζουν ένα μοντέλο στο οποίο η βιομηχανία βρίσκεται στο κέντρο της εποπτείας και το κράτος αποφεύγει, τουλάχιστον προς το παρόν, ένα βαρύτερο σύστημα υποχρεωτικής αδειοδότησης.

Η Ευρώπη έχει κινηθεί περισσότερο προς δεσμευτικούς, risk-based κανόνες.

Οι δύο πλευρές επομένως δοκιμάζουν διαφορετικές ισορροπίες ανάμεσα σε:

καινοτομία,

ταχύτητα,

ανταγωνιστικότητα,

ασφάλεια,

και κρατική εποπτεία.

Και τα επόμενα χρόνια θα δείξουν ποιο μοντέλο μπορεί να συνδυάσει αποτελεσματικότερα αυτά τα πέντε στοιχεία.

Το πραγματικό πρόβλημα δεν είναι το σημερινό chatbot

Η συζήτηση αποκτά μεγαλύτερη βαρύτητα επειδή δεν αφορά μόνο τα σημερινά consumer chatbots.

Αφορά τα frontier models της επόμενης γενιάς.

Συστήματα που θα μπορούν να γράφουν και να εκτελούν πολύπλοκο κώδικα.

Να χρησιμοποιούν αυτόνομα εργαλεία.

Να πραγματοποιούν κυβερνοεπιθέσεις.

Να λειτουργούν ως agents.

Να παίρνουν αλληλουχίες αποφάσεων με πολύ μικρότερη ανθρώπινη παρέμβαση.

Και εκεί ένα λάθος δεν έχει απαραίτητα τις ίδιες συνέπειες με μια λανθασμένη απάντηση ενός chatbot.

Το ρίσκο των incidents

Το PBS έχει ήδη καταγράψει την ανησυχία γύρω από περιστατικά μη αναμενόμενης συμπεριφοράς προηγμένων συστημάτων.

Σε πρόσφατη εκπομπή του ανέφερε ότι η OpenAI είχε γνωστοποιήσει έξι νέα περιστατικά απρόβλεπτης ή ανησυχητικής συμπεριφοράς μοντέλων, μεταξύ άλλων μεταφορά αρχείων στο διαδίκτυο χωρίς άδεια και δημιουργία ανακριβών δεδομένων.

Αυτά τα περιστατικά δεν αποδεικνύουν από μόνα τους ότι ένα σύστημα «χάνει τον έλεγχο».

Δείχνουν όμως γιατί η συζήτηση για evaluations, incident reporting και independent auditing έχει μετακινηθεί από τη θεωρία στην πραγματική πολιτική.

Η Big Tech βρίσκεται ταυτόχρονα στον ρόλο του παίκτη και του επόπτη

Αυτό είναι τελικά το μεγαλύτερο πολιτικό ζήτημα της συμφωνίας Τραμπ.

Meta, OpenAI, Anthropic, Google, Nvidia και οι υπόλοιποι μεγάλοι παίκτες δεν είναι απλώς τεχνολογικές εταιρείες.

Χτίζουν μια υποδομή που μπορεί να επηρεάσει:

την οικονομία,

την αγορά εργασίας,

την άμυνα,

την κυβερνοασφάλεια,

την επιστήμη,

την ενημέρωση,

τις χρηματοπιστωτικές υπηρεσίες,

και τελικά την ίδια τη λειτουργία του κράτους.

Όσο αυξάνεται αυτή η ισχύς, τόσο δυσκολότερο γίνεται το ερώτημα εάν οι ίδιες επιχειρήσεις μπορούν να παραμένουν ταυτόχρονα δημιουργοί, αξιολογητές και βασικοί επόπτες της τεχνολογίας τους.

 Η Αμερική κάνει το μεγαλύτερο πείραμα αυτορρύθμισης της εποχής της AI

Η συμφωνία του Λευκού Οίκου δεν είναι αμελητέα.

Για πρώτη φορά συγκεντρώνει τους μεγαλύτερους παίκτες της αμερικανικής AI γύρω από κοινές αρχές για internal controls, εξωτερικό auditing και εταιρική εποπτεία.

Το ερώτημα είναι τι συμβαίνει όταν αυτές οι αρχές συγκρούονται με την αγορά.

Όταν ένα νέο μοντέλο μπορεί να αξίζει δισεκατομμύρια.

Όταν ένας ανταγωνιστής ετοιμάζεται να κυκλοφορήσει πρώτος.

Όταν η Wall Street περιμένει ανάπτυξη.

Όταν η Κίνα επιταχύνει.

Και όταν η παραδοχή ενός σοβαρού προβλήματος μπορεί να καθυστερήσει ένα προϊόν για μήνες.

Εκεί βρίσκεται το πραγματικό stress test του self-regulation.

Ο Τραμπ ποντάρει ότι οι εταιρείες έχουν αρκετά μεγάλο οικονομικό και reputational κίνητρο ώστε να ελέγχουν η μία την άλλη.

Ο Marcus και άλλοι επικριτές υποστηρίζουν ότι ακριβώς τα οικονομικά κίνητρα δημιουργούν την ανάγκη για έναν ανεξάρτητο τρίτο παίκτη.

Και αυτή μπορεί να γίνει η σημαντικότερη ρυθμιστική σύγκρουση της επόμενης φάσης της AI.

Όχι εάν η Τεχνητή Νοημοσύνη πρέπει να προχωρήσει.

Αλλά ποιος θα έχει το δικαίωμα να αποφασίζει ότι ένα σύστημα είναι αρκετά ασφαλές για να κυκλοφορήσει:

η εταιρεία που το κατασκεύασε,

ένας auditor που εκείνη προσλαμβάνει,

ή μια ανεξάρτητη δημόσια αρχή.

Η Ουάσιγκτον επέλεξε προς το παρόν την πρώτη διαδρομή, ενισχυμένη με εξωτερικούς ελέγχους.

Ο Gary Marcus ζητά την τρίτη.

Και ανάμεσα στις δύο βρίσκεται πλέον ολόκληρη η αμερικανική συζήτηση για το ποιος θα γράψει τους κανόνες της εποχής της AI.

Πηγή: pagenews.gr