Τραμπ κατά Αμοντέι: «Εγώ είμαι το guardrail της AI» – Και στο βάθος ο Σι

Η πρωτοφανής επίθεση του Αμερικανού προέδρου στον CEO της Anthropic ανοίγει τη μεγάλη μάχη για το ποιος θα ελέγχει την ισχυρότερη τεχνολογία του κόσμου. Οι κορυφαίοι CEOs ζητούν φρένο, ο Τραμπ απαντά «όποιος κερδίσει την AI, κερδίζει» και η Κίνα μετατρέπεται στο απόλυτο επιχείρημα για περισσότερη ταχύτητα και λιγότερους περιορισμούς.

Ο Ντόναλντ Τραμπ δεν επιτίθεται πλέον απλώς στη ρύθμιση της τεχνητής νοημοσύνης.

Επιτίθεται στους ίδιους τους ανθρώπους που την κατασκευάζουν.

Στο επίκεντρο βρίσκεται ο Dario Amodei, CEO της Anthropic, ο οποίος ζήτησε από την αμερικανική βιομηχανία AI να επιβραδύνει την ανάπτυξη των ισχυρότερων frontier models, ώστε οι μηχανισμοί ασφαλείας να προλάβουν την τεχνολογική εξέλιξη.

Η απάντηση του Τραμπ ήταν προσωπική και πολιτικά εκρηκτική.

«Ο μόνος έλεγχος ή τα “guardrails” που χρειάζεται η AI είναι ένας ισχυρός και έξυπνος (υψηλού IQ!) πρόεδρος», έγραψε, απορρίπτοντας παράλληλα ως «HOAX» τους φόβους ότι η AI μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο.

Και κατονόμασε τον Amodei, υποστηρίζοντας ότι η κυβέρνησή του έχει ήδη σταματήσει ανθρώπους της AI από το να κάνουν «κακά ή δυνητικά κακά πράγματα» και ειρωνευόμενος τον επικεφαλής της Anthropic ότι τώρα εμφανίζεται ως «perfect little angel».

Η σύγκρουση ξεπερνά πλέον κατά πολύ δύο ισχυρές προσωπικότητες.

Αφορά το ποιος θα ελέγχει την επόμενη γενιά τεχνητής νοημοσύνης: οι εταιρείες, οι ανεξάρτητοι αξιολογητές, το Κογκρέσο — ή ο Λευκός Οίκος.

Από το «κάποια guardrails» στο «guardrail είμαι εγώ»

Η αλλαγή της γραμμής του Τραμπ έγινε σχεδόν μέσα σε 24 ώρες.

Την Κυριακή αναγνώριζε ακόμη ότι μπορούν να υπάρχουν ορισμένα guardrails, υποστηρίζοντας όμως ότι η Ουάσιγκτον δεν μπορεί να επιτρέψει στους περιορισμούς να επιβραδύνουν τις ΗΠΑ απέναντι στην Κίνα.

«Όποιος κερδίσει στην AI, κερδίζει», ήταν η ουσία της τοποθέτησής του.

Τη Δευτέρα πήγε ένα βήμα παραπέρα: αμφισβήτησε την ίδια την ανάγκη νέων θεσμικών φρένων και παρουσίασε ουσιαστικά την προεδρική εξουσία ως την τελική ασφαλιστική δικλίδα.

Η μετατόπιση είναι σημαντική.

Εάν ο πρόεδρος είναι το τελικό «guardrail», τότε η κρίσιμη συζήτηση δεν αφορά πλέον μόνο ποιοι τεχνικοί κανόνες πρέπει να ισχύουν.

Αφορά πόση εξουσία μπορεί να συγκεντρωθεί στην εκτελεστική εξουσία πάνω σε μια τεχνολογία που εισέρχεται ήδη στην άμυνα, στις υπηρεσίες πληροφοριών, στην κυβερνοασφάλεια, στην επιτήρηση και στη διαχείριση τεράστιων όγκων δημόσιων δεδομένων.

Αυτό είναι και το βασικό ρίσκο που προκύπτει από την αλλαγή γραμμής του Λευκού Οίκου.

Το εντυπωσιακό: οι ίδιοι οι «βαρόνοι» της AI ζητούν φρένο

Ο Amodei δεν βρίσκεται πλέον μόνος του.

Μέσα σε λίγες ώρες, οι επικεφαλής τεσσάρων από τα ισχυρότερα εργαστήρια AI στον κόσμο συνέκλιναν σε κάτι που πριν από λίγους μήνες έμοιαζε σχεδόν αδύνατο.

Ο Sam Altman συμφώνησε ότι πρέπει να «pace the frontier».

Ο Elon Musk απάντησε ότι «ο Dario έχει δίκιο».

Και ο Demis Hassabis της Google DeepMind υποστήριξε ότι η κατεύθυνση που περιγράφει ο Amodei είναι σωστή, παρότι οι λεπτομέρειες πρέπει ακόμη να συμφωνηθούν.

Το παράδοξο είναι τεράστιο.

Οι εταιρείες που δαπανούν δεκάδες δισεκατομμύρια για να κερδίσουν την κούρσα των μοντέλων ζητούν τώρα περισσότερο χρόνο και περισσότερους ελέγχους.

Και η κυβέρνηση που επικαλείται την εθνική ασφάλεια ζητά να μην πατηθεί το φρένο.

Τι ζητά πραγματικά ο Amodei

Ο επικεφαλής της Anthropic δεν προτείνει να σταματήσει η τεχνητή νοημοσύνη.

Ζητά να επιβραδυνθεί η αύξηση των capabilities των ισχυρότερων μοντέλων και να δημιουργηθεί χρόνος για να εξελιχθούν παράλληλα οι μηχανισμοί ασφαλείας.

Μεταξύ των προτάσεών του βρίσκεται η παρουσία ανεξάρτητων evaluators μέσα στις εταιρείες, ώστε να ελέγχεται εάν τα εργαστήρια τηρούν πραγματικά τις δεσμεύσεις ασφαλείας και εάν αναφέρουν σοβαρά περιστατικά.

Το σημαντικότερο είναι ότι δεν μιλά πλέον μόνο για θεωρητικά μελλοντικά μοντέλα.

Η ανησυχία ενισχύθηκε από περιστατικά στα οποία προηγμένα AI systems εμφάνισαν όλο και μεγαλύτερη ικανότητα να πραγματοποιούν κυβερνοεπιθέσεις και να συμβάλλουν στην ανάπτυξη της επόμενης γενιάς AI.

Το πραγματικό ρήγμα περνά από το Πεντάγωνο

Πίσω από τη δημόσια σύγκρουση υπάρχει όμως μια πολύ πιο συγκεκριμένη διαμάχη.

Η Anthropic έχει επιχειρήσει να διατηρήσει περιορισμούς στη χρήση του Claude για μαζική επιτήρηση και πλήρως αυτόνομα οπλικά συστήματα. Η σύγκρουσή της με την κυβέρνηση κλιμακώθηκε μέχρι το σημείο το Πεντάγωνο να χαρακτηρίσει την εταιρεία κίνδυνο για την εφοδιαστική αλυσίδα.

Εδώ βρίσκεται ένα από τα σημαντικότερα industrial questions της υπόθεσης.

Ποιος έχει τον τελευταίο λόγο όταν το αμερικανικό κράτος αγοράζει ένα AI model;

Η εταιρεία που το κατασκεύασε και έχει ενσωματώσει περιορισμούς;

Ή η κυβέρνηση που υποστηρίζει ότι εφόσον μια χρήση είναι νόμιμη, πρέπει να μπορεί να αξιοποιήσει το μοντέλο για οποιονδήποτε νόμιμο σκοπό;

Η διαφορά γίνεται τεράστια όταν ο «πελάτης» δεν είναι μια τράπεζα ή μια βιομηχανία.

Είναι το Πεντάγωνο.

Από το Claude στα αυτόνομα όπλα

Η AI δεν είναι πλέον μόνο chatbot.

Τα frontier models μπορούν να χρησιμοποιηθούν σε κυβερνοεπιχειρήσεις, επεξεργασία πληροφοριών, αναγνώριση στόχων, ανάλυση δορυφορικών δεδομένων, σχεδιασμό στρατιωτικών συστημάτων και υποστήριξη αυτόνομων πλατφορμών.

Η ίδια η Anthropic έχει καταγράψει απόπειρες κατάχρησης μοντέλων της για στρατιωτικού χαρακτήρα εφαρμογές, κυβερνοκατασκοπεία και άλλες επιχειρήσεις υψηλού κινδύνου. Το υλικό που έχουμε συγκεντρώσει καταγράφει ακόμη απόπειρες χρήσης του Claude για συστήματα καθοδήγησης και ελέγχου πυραύλων στην Υεμένη.

Άρα η διαφωνία για τα guardrails δεν είναι φιλοσοφική.

Έχει ήδη στρατιωτική διάσταση.

Και στο βάθος βρίσκεται ο Σι

Υπάρχει όμως ένας άνθρωπος που εξηγεί σε μεγάλο βαθμό τη στάση του Τραμπ χωρίς να βρίσκεται στο επίκεντρο της δημόσιας αντιπαράθεσης.

Ο Σι Τζινπίνγκ.

Η Κίνα αποτελεί το σταθερό επιχείρημα του Λευκού Οίκου απέναντι σε κάθε πρόταση επιβράδυνσης.

Η λογική είναι απλή:

Εάν οι ΗΠΑ επιβάλουν αυστηρότερους κανόνες στις δικές τους εταιρείες ενώ η Κίνα συνεχίζει να επιταχύνει, η Ουάσιγκτον κινδυνεύει να χάσει την τεχνολογική πρωτοκαθεδρία.

Και για τον Τραμπ, αυτό είναι απαράδεκτο.

«WHOEVER WINS AI, WINS! We are leading China, and all others, and will continue to do so», έγραψε.

Το παράδοξο του Amodei: φρένο στην Αμερική, μπλόκο στην Κίνα

Υπάρχει όμως μια κρίσιμη λεπτομέρεια.

Ο ίδιος ο Amodei δεν προτείνει απλώς να επιβραδύνουν οι ΗΠΑ.

Υποστηρίζει παράλληλα τη συνέχιση των περιορισμών στις εξαγωγές προηγμένων AI chips και εξοπλισμού κατασκευής ημιαγωγών προς την Κίνα, προκειμένου η Αμερική να διατηρήσει το τεχνολογικό της προβάδισμα.

Η πρότασή του επομένως είναι πολύ πιο στρατηγική:

επιβράδυνση της frontier AI για λόγους ασφαλείας μέσα στις δημοκρατικές χώρες, αλλά ταυτόχρονα διατήρηση της απόστασης από την Κίνα.

Το Πεκίνο αντέδρασε, καταγγέλλοντας «fearmongering» και προσπάθειες περιορισμού της κινεζικής τεχνολογικής ανάπτυξης.

Η AI γίνεται η νέα βιομηχανική πολιτική

Η σύγκρουση έχει και τεράστια οικονομική διάσταση.

Η κυβέρνηση Τραμπ έχει τοποθετήσει την AI στην καρδιά μιας νέας αμερικανικής βιομηχανικής στρατηγικής:

data centers, ημιαγωγοί, ηλεκτρικά δίκτυα, παραγωγή ενέργειας, πυρηνικά, φυσικό αέριο, προηγμένη μεταποίηση και αμυντική τεχνολογία.

Γι’ αυτό και οι αντιδράσεις απέναντι στα data centers αντιμετωπίζονται πλέον όχι απλώς ως τοπικές περιβαλλοντικές ή ενεργειακές διαφωνίες, αλλά ως εμπόδιο στην αμερικανική τεχνολογική υπεροχή.

Η AI μετατρέπεται έτσι σε κάτι πολύ μεγαλύτερο από software.

Γίνεται ενεργειακή πολιτική.

Γίνεται βιομηχανική πολιτική.

Γίνεται αμυντική πολιτική.

Και τελικά γίνεται γεωπολιτική.

Το ραντεβού Τραμπ–Σι

Όλα αυτά συμβαίνουν ενώ πλησιάζει η συνάντηση Τραμπ–Σι Τζινπίνγκ, που αναμένεται αργότερα μέσα στον Σεπτέμβριο και στην οποία η AI εκτιμάται ότι θα βρίσκεται μεταξύ των μεγάλων θεμάτων.

Η συζήτηση δεν αφορά πλέον απλώς ποια χώρα θα έχει το καλύτερο chatbot.

Αφορά:

• ποιος θα ελέγχει τα προηγμένα chips,
• ποιος θα διαθέτει τη μεγαλύτερη υπολογιστική ισχύ,
• ποιος θα χτίσει τα περισσότερα data centers,
• ποιος θα έχει την απαιτούμενη ηλεκτρική ενέργεια,
• ποιος θα ενσωματώσει ταχύτερα AI στις ένοπλες δυνάμεις,
• και ποιος θα ορίσει τους κανόνες της τεχνολογίας για τον υπόλοιπο κόσμο.

Ο Τραμπ θέλει να κερδίσει την Κίνα με τα όπλα της Κίνας

Εδώ βρίσκεται και η βαθύτερη αντίφαση.

Η Κίνα διαθέτει ένα συγκεντρωτικό πολιτικό σύστημα στο οποίο το κράτος μπορεί να συντονίσει βιομηχανία, κεφάλαιο, υποδομές και εθνική στρατηγική με πολύ μικρότερα θεσμικά εμπόδια.

Οι Ηνωμένες Πολιτείες λειτουργούν διαφορετικά.

Διαθέτουν Κογκρέσο, δικαστήρια, Πολιτείες, ανεξάρτητες επιχειρήσεις, επιστημονικούς φορείς και μηχανισμούς ελέγχου της εκτελεστικής εξουσίας.

Ο πειρασμός για τον Τραμπ είναι προφανής: όσο περισσότερο παρουσιάζει την AI ως κατάσταση εθνικής έκτακτης ανάγκης απέναντι στην Κίνα, τόσο ευκολότερο γίνεται να υποστηρίζει ότι οι κανονικές διαδικασίες αποτελούν πολυτέλεια.

Το υλικό στο οποίο βασίζεται το άρθρο αποτυπώνει ακριβώς αυτή την αντίφαση: η Ουάσιγκτον επιχειρεί να ανταγωνιστεί ένα εξαιρετικά συγκεντρωτικό κινεζικό μοντέλο χωρίς να πάψει να αποτελεί δυτικού τύπου δημοκρατία.

Και αυτό ίσως είναι το πραγματικό διακύβευμα της σύγκρουσης.

Ο Τραμπ λέει ότι η Αμερική πρέπει να κερδίσει την κούρσα της AI.

Ο Amodei απαντά ουσιαστικά ότι πρέπει πρώτα να διασφαλίσει πως θα μπορεί να ελέγξει αυτό που κατασκευάζει.

Το ερώτημα που μένει είναι πολύ μεγαλύτερο:

μπορούν οι ΗΠΑ να νικήσουν την Κίνα στην τεχνητή νοημοσύνη χωρίς, στην προσπάθειά τους να κινηθούν τόσο γρήγορα όσο εκείνη, να αρχίσουν να αντιγράφουν το συγκεντρωτικό μοντέλο εξουσίας που υποτίθεται ότι ανταγωνίζονται;

Πηγή: pagenews.gr