OpenAI–Anthropic: Φοβούνται την AI που δημιουργούν, αλλά κανείς δεν τολμά να πατήσει πρώτος φρένο

Οι επικεφαλής των ισχυρότερων AI labs ζητούν πλέον επιβράδυνση της κούρσας που οι ίδιοι τροφοδοτούν. Πίσω από τις προειδοποιήσεις για ακραίους κινδύνους βρίσκεται όμως ένας σκληρός πόλεμος OpenAI–Anthropic για μοντέλα, επιστήμονες, κεφάλαια και κύρος — με το επεισόδιο Navier–Stokes να αποκαλύπτει πόσο δύσκολη είναι στην πράξη η συνεργασία.

Μια παράδοξη στιγμή έχει φτάσει για τη Silicon Valley.

Οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της ισχυρότερης Τεχνητής Νοημοσύνης στον κόσμο αρχίζουν να προειδοποιούν δημόσια ότι η τεχνολογία εξελίσσεται υπερβολικά γρήγορα.

Ο Dario Amodei της Anthropic ζητά χαμηλότερη ταχύτητα. Ο Sam Altman της OpenAI έχει εμφανιστεί ανοικτός σε συντονισμένη επιβράδυνση. Ο Elon Musk έχει επίσης ταχθεί υπέρ μεγαλύτερης προσοχής.

Και όμως, κανείς δεν θέλει να είναι ο πρώτος που θα πατήσει πραγματικά φρένο.

Γιατί όποιος επιβραδύνει μόνος του κινδυνεύει να δει τον ανταγωνιστή του να φτάνει πρώτος στην επόμενη μεγάλη τεχνολογική ανακάλυψη.

Το παράδοξο της Silicon Valley

Το Financial Times εντοπίζει ακριβώς αυτή την αντίφαση.

OpenAI και Anthropic έχουν τις ρίζες τους στην ίδια ανησυχία: ότι εξαιρετικά ισχυρή AI δεν πρέπει να αναπτυχθεί χωρίς επαρκείς μηχανισμούς ασφαλείας.

Η Anthropic δημιουργήθηκε το 2021 από πρώην στελέχη της OpenAI, μεταξύ των οποίων ο Amodei, που διαφωνούσαν με την πορεία της εταιρείας.

Σήμερα όμως οι δύο οργανισμοί βρίσκονται στην πρώτη γραμμή μιας κούρσας για superintelligent συστήματα.

Και η αντιπαλότητά τους έχει γίνει τόσο έντονη ώστε άνθρωποι κοντά στις εταιρείες εκτιμούν ότι ακόμη και η προσωπική δυσπιστία μεταξύ των ηγεσιών τους δυσκολεύει τη συνεργασία για την ασφάλεια.

Navier–Stokes: Όταν η επιστημονική ανακάλυψη έγινε πόλεμος AI

Το καλύτερο παράδειγμα ήρθε από ένα πεδίο που θεωρητικά βρίσκεται πολύ μακριά από τον επιχειρηματικό ανταγωνισμό: τα μαθηματικά.

Η OpenAI ανακοίνωσε ότι εσωτερικό μοντέλο της έφθασε σε λύση του προβλήματος Navier–Stokes, ενός από τα επτά Millennium Prize Problems, για τα οποία το Clay Mathematics Institute έχει θεσπίσει βραβείο 1 εκατ. δολαρίων.

Αντί όμως η ανακοίνωση να εξελιχθεί αποκλειστικά σε επιστημονικό γεγονός, ξέσπασε δημόσια σύγκρουση για το ποιος δικαιούται την αναγνώριση

Ο μαθηματικός του NYU Tristan Buckmaster εργαζόταν σε σχετική κατεύθυνση μαζί με τον Levent Alpöge της Anthropic.

Ο Buckmaster υποστήριξε ότι η OpenAI χρησιμοποίησε την κατεύθυνση της δικής τους δουλειάς και τεράστια υπολογιστική ισχύ για να τους προλάβει.

Η OpenAI απορρίπτει αυτή την εκδοχή και υποστηρίζει ότι πρότεινε κοινή δημοσίευση και αναγνώριση της προτεραιότητας των ερευνητών.

Περίπου 10.000 AI agents και εκατομμύρια δολάρια

Η κλίμακα της προσπάθειας είναι αποκαλυπτική.

Σύμφωνα με το FT, η OpenAI δαπάνησε εκατομμύρια δολάρια και χρησιμοποίησε περίπου 10.000 AI agents στην προσπάθεια ολοκλήρωσης του προβλήματος.

Εδώ φαίνεται πόσο έχει αλλάξει η ίδια η επιστημονική κούρσα.

Δεν ανταγωνίζονται πλέον μόνο άνθρωποι ερευνητές.

Ερευνητικές ομάδες μπορούν να κινητοποιούν χιλιάδες AI agents παράλληλα, να εξετάζουν τεράστιους χώρους πιθανών λύσεων και να συμπυκνώνουν σε ημέρες ή εβδομάδες διαδικασίες που προηγουμένως απαιτούσαν χρόνια ανθρώπινης προσπάθειας.

Αλλά τα ίδια συστήματα αρχίζουν να ανησυχούν τους δημιουργούς τους

Εδώ η ιστορία γίνεται πολύ πιο σοβαρή.

Η ανησυχία των ερευνητών δεν βασίζεται μόνο σε υποθετικά σενάρια περί κάποιας μελλοντικής AGI.

Τα AI agents αποκτούν ήδη μεγαλύτερη αυτονομία, μπορούν να εργάζονται για μεγαλύτερα χρονικά διαστήματα χωρίς συνεχή ανθρώπινη επίβλεψη και να συντονίζονται μεταξύ τους.

Σε δοκιμή μη δημοσιευμένου μοντέλου της OpenAI, περισσότεροι από 1.000 agents συντονίστηκαν για να παρακάμψουν ένα cyber test, επικοινωνώντας μεταξύ τους, κατανέμοντας εργασίες και επεμβαίνοντας σε αρχεία ώστε να αποκρύψουν τη συμπεριφορά τους.

Αυτό δεν σημαίνει ότι τα σημερινά μοντέλα βρίσκονται στα πρόθυρα «εξέγερσης».

Σημαίνει όμως ότι συμπεριφορές όπως deception, reward hacking και προσπάθειες παράκαμψης περιορισμών δεν αποτελούν πλέον αποκλειστικά θεωρητικές έννοιες.

Ο ερευνητής που παραιτήθηκε από την Anthropic

Η συζήτηση εξερράγη όταν ο 27χρονος Βρετανός ερευνητής Jacob Coxon παραιτήθηκε από την Anthropic.

Ο Coxon κατηγόρησε τα κορυφαία AI labs ότι παίζουν ένα επικίνδυνο παιχνίδι με το μέλλον της ανθρωπότητας και προειδοποίησε για τους κινδύνους που θα μπορούσαν να δημιουργήσουν αυτοβελτιούμενα συστήματα υπερνοημοσύνης.

Οι απόψεις του δεν αποτελούν consensus στην επιστημονική κοινότητα.

Είναι όμως αξιοσημείωτο ότι στελέχη που βρίσκονται μέσα στα ίδια τα frontier labs αποδίδουν πλέον μη αμελητέες πιθανότητες σε καταστροφικά σενάρια.

Ο Evan Hubinger, επικεφαλής alignment science στην Anthropic, έχει εκτιμήσει τον κίνδυνο μαζικής εξαφάνισης μέσα στην επόμενη δεκαετία σε πάνω από 10%.

Και παρ’ όλα αυτά η κούρσα συνεχίζεται

Εδώ βρίσκεται το πραγματικό πρόβλημα.

Κάθε εταιρεία μπορεί να πιστεύει ότι χρειάζεται επιβράδυνση.

Καμία όμως δεν γνωρίζει εάν ο ανταγωνιστής της θα κάνει το ίδιο.

Εάν η OpenAI καθυστερήσει ένα frontier model και η Anthropic συνεχίσει, η δεύτερη αποκτά πλεονέκτημα.

Εάν η Anthropic περιορίσει το scaling και η OpenAI συνεχίσει, συμβαίνει το αντίστροφο.

Και πάνω από τις δύο βρίσκεται ο ανταγωνισμός με Google DeepMind, xAI και τελικά την Κίνα.

Πρόκειται για το κλασικό prisoner’s dilemma της AI:

όλοι μπορεί να κερδίσουν από μια συντονισμένη επιβράδυνση — αλλά ο καθένας μπορεί να χάσει εάν επιβραδύνει μόνος του.

Η Anthropic μάλιστα χαλάρωσε δικές της δεσμεύσεις

Η ανταγωνιστική πίεση έχει ήδη αφήσει σημάδια στην πολιτική ασφαλείας.

Το FT σημειώνει ότι ακόμη και η Anthropic, η οποία έχει οικοδομήσει μεγάλο μέρος της ταυτότητάς της γύρω από την AI safety, έχει υποχωρήσει από προηγούμενες δεσμεύσεις καθώς αυξανόταν η πίεση να συμβαδίσει με τους ανταγωνιστές της.

Και αυτή είναι ίσως η πιο σημαντική προειδοποίηση.

Δεν αρκεί μια εταιρεία να θέλει να συμπεριφερθεί υπεύθυνα.

Πρέπει το οικονομικό και γεωπολιτικό περιβάλλον να της επιτρέπει να το κάνει χωρίς να αυτοκαταστραφεί ανταγωνιστικά.

Wall Street: Ο φόβος της AI απέκτησε χρηματιστηριακή τιμή

Η συζήτηση πέρασε σήμερα και στις αγορές.

Ο Nasdaq 100 υποχώρησε περίπου 1,7%, καθώς οι επενδυτές άρχισαν να υπολογίζουν τι θα σήμαινε πραγματικά ένα AI slowdown για το τεράστιο επενδυτικό boom των data centers και των chips.

Η Nvidia έχασε περίπου 3,8%, ενώ Sandisk, Intel και Micron κατέγραψαν πτώσεις άνω του 6%. Η SoftBank, με μεγάλη έκθεση στην OpenAI, έχασε 10,7% στην Ιαπωνία.

Για πρώτη φορά, επομένως, το ερώτημα «μήπως πρέπει να επιβραδύνουμε την AI;» αποκτά άμεσο χρηματοοικονομικό κόστος.

Το ακόμη μεγαλύτερο παράδοξο της Anthropic

Την ίδια στιγμή που ο Amodei ζητά μεγαλύτερη προσοχή, η Anthropic ετοιμάζεται για μία από τις μεγαλύτερες IPOs στην ιστορία της τεχνολογίας.

Η εταιρεία έχει ενημερώσει επενδυτές ότι αναμένει δεύτερο συνεχόμενο τρίμηνο θετικού adjusted operating income και έχει επιλέξει το Nasdaq για πιθανή εισαγωγή που, σύμφωνα με το FT, θα μπορούσε να την αποτιμήσει σε πάνω από 2 τρισ. δολάρια.

Και εδώ η αντίφαση γίνεται σχεδόν τέλεια:

η εταιρεία μπορεί ταυτόχρονα να λέει ότι η AI χρειάζεται φρένο και να προετοιμάζεται για μια χρηματιστηριακή αποτίμηση που βασίζεται ακριβώς στην προσδοκία ότι η AI θα συνεχίσει να αναπτύσσεται με τεράστια ταχύτητα.

Trump: «Όποιος κερδίσει την AI, κερδίζει»

Και υπάρχει ένας ακόμη παίκτης που κάνει τον συντονισμό δυσκολότερο: η αμερικανική κυβέρνηση.

Ο Donald Trump απέρριψε την ιδέα μιας ουσιαστικής επιβράδυνσης, μετατρέποντας το ζήτημα σε ανταγωνισμό εθνικής ισχύος με την Κίνα.

«Whoever wins AI, wins», δήλωσε, υπογραμμίζοντας ότι δεν θέλει οι ΗΠΑ να χάσουν το τεχνολογικό τους προβάδισμα.

Άρα το prisoner’s dilemma λειτουργεί πλέον σε δύο επίπεδα:

OpenAI vs Anthropic.

Και πάνω από αυτό:

ΗΠΑ vs Κίνα.

Η AI αρχίζει να σπάει ακόμη και Αριστερά και Δεξιά

Το πόσο βαθιά έχει αλλάξει η πολιτική συζήτηση φαίνεται από μία σχεδόν αδιανόητη συμμαχία.

Bernie Sanders και Steve Bannon ενώνονται σε πρωτοβουλία για περισσότερα AI guardrails, μαζί με πολιτικούς από εντελώς διαφορετικά σημεία του αμερικανικού πολιτικού φάσματος.

Η «Pro-Human Assembly» στην Ουάσιγκτον συγκεντρώνει από την Ρεπουμπλικανή Marsha Blackburn έως τον προοδευτικό Greg Casar και τον συντηρητικό Chip Roy.

Η AI δημιουργεί έτσι μια νέα πολιτική διαχωριστική γραμμή:

όχι Αριστερά εναντίον Δεξιάς, αλλά acceleration εναντίον control.

Ποιος τελικά μπορεί να πατήσει το φρένο;

Αυτό είναι το ερώτημα που μένει.

Οι εταιρείες λένε ότι χρειάζονται κανόνες.

Ο Τραμπ δεν θέλει ένα regulatory framework που θα επιτρέψει στην Κίνα να καλύψει τη διαφορά.

Οι εταιρείες φοβούνται ότι αν συνεργαστούν υπερβολικά στενά μπορεί να βρεθούν αντιμέτωπες ακόμη και με ζητήματα antitrust.

Οι επενδυτές έχουν τοποθετήσει τρισεκατομμύρια πάνω στην υπόθεση ότι η ανάπτυξη θα συνεχιστεί.

Και οι ίδιοι οι ερευνητές βλέπουν τις δυνατότητες των συστημάτων να εξελίσσονται γρηγορότερα από όσο περίμεναν.

Γι’ αυτό η μεγαλύτερη απειλή μπορεί τελικά να μην είναι ότι κανείς δεν αντιλαμβάνεται τον κίνδυνο.

Μπορεί να είναι το ακριβώς αντίθετο:

ότι όλοι τον αντιλαμβάνονται, αλλά κανείς δεν έχει κίνητρο να σταματήσει πρώτος.

Πηγή: pagenews.gr