ΟΗΕ: Η AI μπορεί να γίνει υπαρξιακή απειλή – Η νέα μάχη ισχύος περνά από αλγορίθμους και chips

Ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα Βόλκερ Τουρκ ζητά διεθνείς «κόκκινες γραμμές» πριν η τεχνητή νοημοσύνη ξεπεράσει την ανθρώπινη εποπτεία – Στο επίκεντρο η συγκέντρωση τεχνολογικής ισχύος σε ελάχιστες εταιρείες και κράτη που ελέγχουν κρίσιμες αλυσίδες εφοδιασμού.

Η συζήτηση για την τεχνητή νοημοσύνη περνά πλέον από την οικονομία και την τεχνολογία στη σφαίρα της διεθνούς ασφάλειας και της παγκόσμιας ισορροπίας ισχύος.

Ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα Βόλκερ Τουρκ προειδοποίησε ότι η εξέλιξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης θα μπορούσε, σε ακραίο σενάριο, να αποτελέσει ακόμη και υπαρξιακή απειλή για την ανθρωπότητα.

Μιλώντας στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη, κάλεσε τις κυβερνήσεις να κινηθούν ταχύτερα και να δημιουργήσουν ισχυρές διεθνείς δικλίδες ασφαλείας προτού οι δυνατότητες των προηγμένων συστημάτων AI ξεπεράσουν την αποτελεσματική ανθρώπινη εποπτεία.

«Χρειαζόμαστε σαφείς κόκκινες γραμμές», ήταν στην ουσία το μήνυμα του Τουρκ, ο οποίος έθεσε το ζήτημα όχι μόνο ως τεχνολογική πρόκληση αλλά και ως πρόβλημα κατανομής ισχύος.

Από το ChatGPT στην παγκόσμια ασφάλεια

Μέχρι πρόσφατα η δημόσια συζήτηση γύρω από την AI επικεντρωνόταν κυρίως σε τρία ζητήματα:

• απώλεια θέσεων εργασίας,
• παραπληροφόρηση,
• προστασία προσωπικών δεδομένων.

Η νέα γενιά προηγμένων μοντέλων, όμως, μετακινεί τη συζήτηση πολύ βαθύτερα.

Το ερώτημα πλέον αφορά το κατά πόσο ιδιαίτερα αυτόνομα συστήματα μπορούν στο μέλλον να λαμβάνουν κρίσιμες αποφάσεις χωρίς ουσιαστική ανθρώπινη παρέμβαση.

Και όσο οι εφαρμογές της AI επεκτείνονται στην άμυνα, στις χρηματοπιστωτικές αγορές, στην κυβερνοασφάλεια, στις κρίσιμες υποδομές και στη διαχείριση τεράστιων όγκων δεδομένων, τόσο περισσότερο το θέμα μετατρέπεται σε γεωπολιτική υπόθεση.

Δεν πρόκειται πλέον μόνο για το ποια εταιρεία θα δημιουργήσει το καλύτερο μοντέλο.

Πρόκειται για το ποιος θα ελέγχει την τεχνολογία που θα επηρεάζει οικονομίες, κράτη και στρατιωτικές δυνατότητες.

Ο Τουρκ βάζει στο στόχαστρο και τη συγκέντρωση ισχύος

Ο Ύπατος Αρμοστής στάθηκε ιδιαίτερα και στο γεγονός ότι ένα πολύ μεγάλο μέρος της τεχνολογικής δυνατότητας συγκεντρώνεται σε μικρό αριθμό εταιρειών και στελεχών.

Σήμερα, οι πλέον προηγμένες δυνατότητες AI αναπτύσσονται κυρίως από λίγους μεγάλους τεχνολογικούς ομίλους, μεταξύ των οποίων OpenAI, Google, Meta και Anthropic.

Αυτό δημιουργεί ένα πρωτοφανές μοντέλο ιδιωτικής ισχύος.

Εταιρείες που δεν λογοδοτούν με τον ίδιο τρόπο όπως ένα κράτος μπορούν να επηρεάζουν:

την πρόσβαση στην πληροφορία,

την παραγωγικότητα εκατομμυρίων εργαζομένων,

την κυβερνοασφάλεια,

την εκπαίδευση,

και δυνητικά κρίσιμα εργαλεία που χρησιμοποιούνται ακόμη και στην άμυνα.

Ο Τουρκ υποστήριξε ότι τα κράτη στα οποία εδρεύουν οι μεγάλες εταιρείες AI, αλλά και εκείνα που ελέγχουν κρίσιμα τμήματα της εφοδιαστικής αλυσίδας, πρέπει να συμφωνήσουν σε κοινά όρια.

Και εδώ βρίσκεται το πραγματικό γεωπολιτικό βάθος της προειδοποίησης.

Η μάχη δεν είναι μόνο για τα μοντέλα – Είναι και για τα chips

Η τεχνητή νοημοσύνη εξαρτάται από μια εξαιρετικά συγκεντρωμένη παγκόσμια αλυσίδα τεχνολογίας.

Τα πιο προηγμένα συστήματα απαιτούν ισχυρούς επεξεργαστές, τεράστια data centers, ενεργειακή ισχύ και πρόσβαση σε εξειδικευμένη τεχνογνωσία.

Αυτό σημαίνει ότι η παγκόσμια AI ισχύς δεν κατανέμεται ισότιμα.

Όποιος ελέγχει:

προηγμένα chips, cloud υποδομές, data centers, αλγορίθμους και τεράστιες βάσεις δεδομένων

αποκτά ένα νέο είδος στρατηγικής ισχύος.

Γι’ αυτό και η AI έχει ήδη ενταχθεί στον τεχνολογικό ανταγωνισμό ΗΠΑ–Κίνας, με τους ημιαγωγούς και τον έλεγχο εξαγωγών προηγμένων chips να αποτελούν κρίσιμο πεδίο αντιπαράθεσης.

Η προειδοποίηση του ΟΗΕ ουσιαστικά λέει ότι οι κανόνες για αυτή τη νέα ισχύ δεν μπορούν να αφεθούν αποκλειστικά είτε στις αγορές είτε στον ανταγωνισμό των μεγάλων δυνάμεων.

Το μεγάλο πρόβλημα: Η τεχνολογία τρέχει πιο γρήγορα από τη νομοθεσία

Η βασική ανησυχία του ΟΗΕ είναι απλή:

η AI εξελίσσεται ταχύτερα από την παγκόσμια ικανότητα ρύθμισής της.

Κάθε μήνα εμφανίζονται νέα μοντέλα με μεγαλύτερη αυτονομία και περισσότερες δυνατότητες.

Η δημιουργία διεθνών συμφωνιών, αντίθετα, απαιτεί χρόνια.

Και εδώ δημιουργείται ένα ιδιαίτερα επικίνδυνο regulatory gap.

Εάν οι κυβερνήσεις θεσπίσουν διαφορετικούς κανόνες, οι εταιρείες μπορούν να μεταφέρουν δραστηριότητες από τη μία δικαιοδοσία στην άλλη.

Εάν, από την άλλη πλευρά, οι μεγάλες δυνάμεις θεωρήσουν ότι οι αυστηροί περιορισμοί θα τους στερήσουν στρατηγικό πλεονέκτημα απέναντι στους ανταγωνιστές τους, τότε υπάρχει κίνδυνος να ξεκινήσει ένα AI arms race.

Και σε αυτό ακριβώς το σημείο η συζήτηση θυμίζει προηγούμενες διεθνείς προσπάθειες ελέγχου επικίνδυνων τεχνολογιών.

Οι «κόκκινες γραμμές» που ζητά ο ΟΗΕ

Ο Τουρκ ζητά ουσιαστικά διεθνή συμφωνία για το τι δεν πρέπει να επιτρέπεται ακόμη και εάν τεχνικά είναι εφικτό.

Δεν έχει παρουσιαστεί ακόμη ένας πλήρης κατάλογος συγκεκριμένων απαγορεύσεων.

Η λογική όμως περιλαμβάνει ζητήματα όπως:

ανθρώπινη εποπτεία σε κρίσιμες αποφάσεις,

λογοδοσία για τις ενέργειες αυτόνομων συστημάτων,

προστασία θεμελιωδών δικαιωμάτων,

έλεγχος της χρήσης AI σε υψηλού κινδύνου εφαρμογές,

και κοινές δικλίδες ασφαλείας για συστήματα με εξαιρετικά προηγμένες δυνατότητες.

Η μεγάλη δυσκολία είναι ποιος θα ορίσει αυτά τα όρια και κυρίως ποιος θα τα επιβάλει.

OpenAI, Google, Meta, Anthropic – Ιδιωτικές εταιρείες σε κρατικού μεγέθους παιχνίδι

Η παρουσία ονομάτων όπως OpenAI, Google, Meta και Anthropic στη συζήτηση είναι ενδεικτική της νέας πραγματικότητας.

Σε προηγούμενες τεχνολογικές επαναστάσεις, η στρατηγική ισχύς παρέμενε κυρίως στα χέρια κρατών.

Στην AI, όμως, ιδιωτικές επιχειρήσεις διαθέτουν συστήματα με capabilities που μπορούν να επηρεάσουν ολόκληρες οικονομίες.

Αυτό δημιουργεί ένα πρωτόγνωρο ερώτημα διεθνούς διακυβέρνησης:

Πόση παγκόσμια ισχύ μπορεί να συγκεντρώνει ένας ιδιωτικός τεχνολογικός όμιλος χωρίς αντίστοιχους διεθνείς μηχανισμούς ελέγχου;

Και αντίστροφα, πόσο κρατικό έλεγχο μπορεί να δεχτεί η τεχνολογία χωρίς να περιοριστεί η καινοτομία ή να μετατραπεί σε εργαλείο αυταρχικής επιτήρησης;

Δεν υπάρχει εύκολη απάντηση.

Η ΕΕ έχει κανόνες – Ο ΟΗΕ θέλει παγκόσμιο πλαίσιο

Η Ευρωπαϊκή Ένωση έχει ήδη επιχειρήσει να δημιουργήσει ένα από τα πιο ολοκληρωμένα ρυθμιστικά πλαίσια στον κόσμο για την τεχνητή νοημοσύνη.

Το ευρωπαϊκό μοντέλο, όμως, από μόνο του δεν αρκεί.

Η AI είναι από τη φύση της διασυνοριακή.

Τα μοντέλα μπορούν να εκπαιδευτούν σε μία χώρα, να φιλοξενούνται σε servers άλλης, να χρησιμοποιούν chips που κατασκευάζονται στην Ασία και να προσφέρουν υπηρεσίες ταυτόχρονα σε εκατοντάδες κράτη.

Η ρύθμισή τους επομένως απαιτεί επίπεδο διεθνούς συντονισμού που σήμερα δεν υπάρχει.

Γι’ αυτό και ο ΟΗΕ πιέζει για εναρμονισμένους διεθνείς κανόνες.

Η πρώτη παγκόσμια συνάντηση και η επόμενη φάση

Ο ΟΗΕ έχει ήδη εντείνει τις προσπάθειες για τη διαμόρφωση παγκόσμιου πλαισίου διακυβέρνησης της AI, μετά την πρώτη παγκόσμια συνάντηση για το θέμα τον Ιούλιο.

Ο Τουρκ δήλωσε ότι τις επόμενες ημέρες θα πιέσει τις ίδιες τις εταιρείες να περιορίσουν τους κινδύνους που δημιουργούν τα προηγμένα συστήματα.

Το εύκολο μέρος, όμως, είναι να συμφωνήσουν όλοι ότι χρειάζεται «ασφαλής AI».

Το δύσκολο είναι να συμφωνήσουν:

ποιο επίπεδο κινδύνου είναι αποδεκτό,

ποια εφαρμογή πρέπει να απαγορευτεί,

ποιος θα ελέγχει τη συμμόρφωση,

και τι θα συμβεί όταν μια χώρα αποφασίσει ότι το στρατηγικό της πλεονέκτημα είναι σημαντικότερο από έναν διεθνή κανόνα.

Από την πυρηνική αποτροπή στην «AI αποτροπή»;

Εδώ βρίσκεται και η μεγαλύτερη γεωπολιτική διάσταση.

Στον 20ό αιώνα, η διεθνής ασφάλεια διαμορφώθηκε σε μεγάλο βαθμό γύρω από την πυρηνική τεχνολογία.

Στον 21ο, ένα μέρος της ισχύος μπορεί να μεταφερθεί προς την τεχνητή νοημοσύνη.

Η διαφορά είναι κρίσιμη.

Η κατασκευή πυρηνικού όπλου απαιτεί τεράστια κρατική υποδομή.

Η ανάπτυξη προηγμένου λογισμικού μπορεί να γίνει από μια εταιρεία.

Και αυτό αλλάζει ριζικά τη φύση του διεθνούς συστήματος.

Η AI δεν δημιουργεί ακόμη το ίδιο είδος άμεσης καταστροφικής ισχύος.

Δημιουργεί, όμως, δυνατότητες που μπορούν να επηρεάσουν ταυτόχρονα οικονομία, πληροφορία, κυβερνοχώρο, στρατιωτικές επιχειρήσεις και κοινωνική σταθερότητα.

Το πραγματικό μήνυμα του ΟΗΕ

Η προειδοποίηση του Βόλκερ Τουρκ δεν σημαίνει ότι η ανθρωπότητα βρίσκεται σήμερα μπροστά σε μια άμεση «εξέγερση των μηχανών».

Το μήνυμα είναι διαφορετικό και πολύ πιο συγκεκριμένο.

Δεν πρέπει να περιμένουμε να δημιουργηθεί ένας κίνδυνος για να αποφασίσουμε ποιοι είναι οι κανόνες.

Η παγκόσμια κοινότητα βρίσκεται σήμερα σε ένα παράθυρο χρόνου κατά το οποίο μπορεί ακόμη να καθορίσει τις προϋποθέσεις ανάπτυξης της τεχνολογίας πριν η οικονομική και γεωπολιτική αξία της γίνει τόσο μεγάλη ώστε οι περιορισμοί να είναι πολιτικά αδύνατοι.

Και αυτό είναι το πραγματικό διακύβευμα.

Η μάχη για την AI δεν αφορά πλέον μόνο το ποιος θα δημιουργήσει το εξυπνότερο μοντέλο.

Αφορά ποιος θα ορίσει τους κανόνες της επόμενης μεγάλης τεχνολογικής εποχής — και αν οι κυβερνήσεις θα προλάβουν να τους γράψουν πριν τους γράψει η ίδια η αγορά.

Πηγή: pagenews.gr