Η τεχνητή νοημοσύνη περνά πλέον στο ίδιο επίπεδο στρατηγικού κινδύνου με πυραύλους και πυρηνικά.
Στις συζητήσεις Trump–Xi εμφανίστηκε πρόταση για διμερή notification mechanism σε περιπτώσεις σοβαρών AI incidents.
Τι θα μπορούσε να θεωρείται AI incident
Δεν υπάρχει ακόμη οριστική λίστα.
Θα μπορούσε όμως να αφορά:
- μη ελεγχόμενη συμπεριφορά μοντέλου,
- χρήση AI σε στρατιωτικό σύστημα,
- cyber incident,
- deepfake που προκαλεί κρίση,
- automated escalation.
Γιατί hotline;
Το Cold War hotline δημιουργήθηκε για να αποφεύγεται πυρηνική κλιμάκωση λόγω λάθους.
Η λογική εδώ είναι παρόμοια.
Εάν ένα AI system προκαλέσει γεγονός που η άλλη πλευρά εκλάβει ως εχθρική ενέργεια, η δυνατότητα άμεσης επικοινωνίας μπορεί να αποτρέψει escalation.
Το παράδοξο
ΗΠΑ και Κίνα βρίσκονται σε αγώνα για το ποιος θα κυριαρχήσει στο AI.
Ταυτόχρονα αναγνωρίζουν ότι ορισμένοι κίνδυνοι είναι κοινά επικίνδυνοι.
Αυτό δημιουργεί ένα περίεργο μοντέλο:
competition + guardrails.
Το δύσκολο σημείο
Οι δύο χώρες έχουν ήδη υπάρχοντα crisis hotlines.
Το πρόβλημα είναι ότι σε προηγούμενες κρίσεις αυτά δεν χρησιμοποιήθηκαν πάντα αποτελεσματικά.
Άρα ένα AI hotline δεν έχει αξία μόνο αν υπάρχει.
Έχει αξία αν και οι δύο πλευρές συμφωνήσουν να το σηκώσουν όταν πραγματικά καίει.
Πηγή: pagenews.gr