ΗΠΑ–Κίνα ψάχνουν «κόκκινο τηλέφωνο» για την AI – Ο φόβος ενός ατυχήματος που κανείς δεν θα ελέγχει

Ουάσιγκτον και Πεκίνο εξετάζουν μηχανισμό άμεσης ειδοποίησης για σοβαρά περιστατικά τεχνητής νοημοσύνης με επιπτώσεις στην εθνική ασφάλεια. Η ιδέα θυμίζει το Cold War hotline: όχι επειδή οι δύο πλευρές εμπιστεύονται η μία την άλλη, αλλά ακριβώς επειδή δεν την εμπιστεύονται.

Η τεχνητή νοημοσύνη περνά πλέον στο ίδιο επίπεδο στρατηγικού κινδύνου με πυραύλους και πυρηνικά.

Στις συζητήσεις Trump–Xi εμφανίστηκε πρόταση για διμερή notification mechanism σε περιπτώσεις σοβαρών AI incidents.

Τι θα μπορούσε να θεωρείται AI incident

Δεν υπάρχει ακόμη οριστική λίστα.

Θα μπορούσε όμως να αφορά:

• μη ελεγχόμενη συμπεριφορά μοντέλου,
• χρήση AI σε στρατιωτικό σύστημα,
• cyber incident,
• deepfake που προκαλεί κρίση,
• automated escalation.

Γιατί hotline;

Το Cold War hotline δημιουργήθηκε για να αποφεύγεται πυρηνική κλιμάκωση λόγω λάθους.

Η λογική εδώ είναι παρόμοια.

Εάν ένα AI system προκαλέσει γεγονός που η άλλη πλευρά εκλάβει ως εχθρική ενέργεια, η δυνατότητα άμεσης επικοινωνίας μπορεί να αποτρέψει escalation.

Το παράδοξο

ΗΠΑ και Κίνα βρίσκονται σε αγώνα για το ποιος θα κυριαρχήσει στο AI.

Ταυτόχρονα αναγνωρίζουν ότι ορισμένοι κίνδυνοι είναι κοινά επικίνδυνοι.

Αυτό δημιουργεί ένα περίεργο μοντέλο:

competition + guardrails.

Το δύσκολο σημείο

Οι δύο χώρες έχουν ήδη υπάρχοντα crisis hotlines.

Το πρόβλημα είναι ότι σε προηγούμενες κρίσεις αυτά δεν χρησιμοποιήθηκαν πάντα αποτελεσματικά. 

Άρα ένα AI hotline δεν έχει αξία μόνο αν υπάρχει.

Έχει αξία αν και οι δύο πλευρές συμφωνήσουν να το σηκώσουν όταν πραγματικά καίει.

Πηγή: pagenews.gr