Τραμπ – Σι συμφώνησαν ανθρώπινο φρένο στη στρατιωτική ΑΙ
Πηγή Φωτογραφίας: AP Photo//Τραμπ – Σι συμφώνησαν ανθρώπινο φρένο στη στρατιωτική ΑΙ
Καμία μεγάλη στρατιωτική επιχείρηση χωρίς ανθρώπινη συμμετοχή στην απόφαση. Αυτή είναι η αρχή στην οποία συμφώνησαν ο Ντόναλντ Τραμπ και ο Σι Τζινπίνγκ, σύμφωνα με τον Αμερικανό υπουργό Οικονομικών Σκοτ Μπέσεντ, κατά τη συνάντησή τους στις 19 Νοεμβρίου στη Σενζέν, στο περιθώριο της συνόδου του APEC.
Μιλώντας στο CNBC την Παρασκευή, ο Μπέσεντ παρουσίασε τη συνεννόηση ως ένα από τα σημαντικά αποτελέσματα της επίσκεψης του Αμερικανού προέδρου στην Ασία.
Σύμφωνα με την περιγραφή του, οι δύο ηγέτες συμφώνησαν ότι οι άνθρωποι πρέπει να συμμετέχουν στις στρατιωτικές αποφάσεις που αξιοποιούν προηγμένη τεχνητή νοημοσύνη και ότι τα συστήματα δεν πρέπει να δρουν αυτόνομα όταν πρόκειται για μείζονες στρατιωτικές ενέργειες.
Τι περιγράφει η Ουάσιγκτον και τι αναφέρει το Πεκίνο
Η αμερικανική περιγραφή περιλαμβάνει δύο επίπεδα: την ανθρώπινη συμμετοχή ως γενική αρχή στη στρατιωτική χρήση της AI και έναν ειδικότερο περιορισμό στην αυτόνομη δράση για επιχειρήσεις μεγάλης κλίμακας.
Ο Μπέσεντ χρησιμοποίησε τον όρο «υπερνοημοσύνη» — superintelligence ή SI, τον οποίο προτιμά η κυβέρνηση Τραμπ στις σχετικές αναφορές της.
Το επίσημο κινεζικό ανακοινωθέν διατυπώνει την αρχή ευρύτερα. Καταγράφει την προτροπή του Σι προς τις δύο χώρες να ενισχύσουν την επικοινωνία και τον συντονισμό, να περιορίσουν τους κινδύνους ασφαλείας και να διασφαλίσουν ότι η τεχνητή νοημοσύνη παραμένει πάντοτε υπό ανθρώπινο έλεγχο.
Την ειδικότερη αναφορά στις μεγάλες στρατιωτικές επιχειρήσεις έκανε ο Μπέσεντ. Η κινεζική ανακοίνωση δεν εξειδικεύει αντίστοιχες διαδικασίες στρατιωτικής έγκρισης.
Το κρίσιμο ερώτημα: Πότε και πώς αποφασίζει ο άνθρωπος
Η πολιτική συνεννόηση αφήνει ανοιχτά ουσιαστικά ζητήματα εφαρμογής.
Δεν έχει αποσαφηνιστεί ποια επιχείρηση θα χαρακτηρίζεται «μείζων», σε ποιο στάδιο θα απαιτείται ανθρώπινη έγκριση και πώς θα ελέγχεται η τήρηση της αρχής.
Η ανθρώπινη συμμετοχή μπορεί να αφορά διαφορετικά στάδια μιας στρατιωτικής διαδικασίας. Γι’ αυτό και η διατύπωση μιας κοινής αρχής χρειάζεται συγκεκριμένους κανόνες για να προσδιοριστεί η πρακτική της εμβέλεια.
Η συνεννόηση, όπως περιγράφεται, δεν αποτελεί γενική απαγόρευση της στρατιωτικής AI. Αφορά τον έλεγχο των αποφάσεων και τον περιορισμό της αυτονομίας των συστημάτων στις σοβαρότερες στρατιωτικές ενέργειες.
Από την απόφαση χρήσης πυρηνικών στις συμβατικές επιχειρήσεις
Το προηγούμενο βρίσκεται στη συνάντηση του Σι Τζινπίνγκ με τον Τζο Μπάιντεν στη Λίμα, στη σύνοδο του APEC το 2024.
Τότε οι δύο ηγέτες είχαν συμφωνήσει ότι η απόφαση για τη χρήση πυρηνικών όπλων πρέπει να παραμένει υπό ανθρώπινο έλεγχο.
Η περιγραφή του Μπέσεντ για τη Σενζέν διευρύνει το πεδίο πέρα από τη συγκεκριμένη κατηγορία όπλων. Περιλαμβάνει και μεγάλες συμβατικές στρατιωτικές επιχειρήσεις, θέτοντας παράλληλα την ανθρώπινη συμμετοχή ως γενικό κανόνα.
Η διαφορά είναι σημαντική: η συζήτηση αφορά πλέον τη θέση του ανθρώπου σε ένα ευρύτερο φάσμα στρατιωτικών αποφάσεων που υποστηρίζονται από τεχνητή νοημοσύνη.
Η διμερής συνεννόηση και η τριμερής με τον Πούτιν
Τη συνάντηση Τραμπ–Σι ακολούθησε στη Σενζέν η τριμερής σύνοδος με τον Βλαντίμιρ Πούτιν.
Η κοινή διακήρυξη των τριών χωρών περιέλαβε ζητήματα πυρηνικής μη διάδοσης, διεθνών ενεργειακών αγορών και παγκόσμιας διακυβέρνησης.
Ωστόσο, η συνεννόηση για τη στρατιωτική τεχνητή νοημοσύνη που παρουσίασε ο Αμερικανός υπουργός Οικονομικών αφορούσε τις διμερείς συνομιλίες Ουάσιγκτον και Πεκίνου. Δεν πρέπει να εκλαμβάνεται αυτομάτως ως αντίστοιχη τριμερής δέσμευση της Ρωσίας.
Οι περιορισμοί στα τσιπ της Nvidia παραμένουν
Το κοινό έδαφος στον ανθρώπινο έλεγχο δεν συνοδεύεται από άρση του τεχνολογικού ανταγωνισμού.
Σύμφωνα με τον Μπέσεντ, ο H200 της Nvidia παραμένει ο ισχυρότερος επιταχυντής AI που μπορούν να αγοράσουν κινεζικές εταιρείες με αμερικανική άδεια.
Ο ίδιος απέδωσε τις περιορισμένες κινεζικές παραγγελίες στην προσπάθεια του Πεκίνου να αναπτύξει δικούς του επεξεργαστές και εκτίμησε ότι η Κίνα εξακολουθεί να βρίσκεται αρκετά χρόνια πίσω. Πρόκειται για την αξιολόγηση του Αμερικανού υπουργού σχετικά με την τεχνολογική απόσταση των δύο χωρών.
Παράλληλα, υποστήριξε ότι τα αμερικανικά εργαστήρια πρέπει να διατηρήσουν το προβάδισμά τους απέναντι σε ξένα μοντέλα που ο ίδιος χαρακτηρίζει επικίνδυνα, κυρίως κινεζικά.
Έτσι, οι δύο πλευρές συζητούν περιορισμούς στον τρόπο λήψης στρατιωτικών αποφάσεων, ενώ συνεχίζουν να ανταγωνίζονται για την υπολογιστική ισχύ και τα ισχυρότερα μοντέλα. Το επόμενο τεστ είναι αν η αρχή του ανθρώπινου ελέγχου θα αποκτήσει σαφείς, κοινά αποδεκτούς κανόνες εφαρμογής.
Πηγή: pagenews.gr
Διαβάστε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο