Η συζήτηση για την AI έχει πλέον περάσει πολύ πέρα από τη Silicon Valley.
Έφτασε στο Βατικανό.
Ο Πάπας Λέων ΙΔ΄ δήλωσε ότι οι ανησυχίες για το ενδεχόμενο προηγμένα συστήματα τεχνητής νοημοσύνης να ξεφύγουν από τον ανθρώπινο έλεγχο δεν πρέπει να απορρίπτονται ως υπερβολές.
«Δεν μπορούμε απλώς να καθόμαστε και να κάνουμε πως δεν πρόκειται να συμβεί τίποτα», είπε στους δημοσιογράφους κατά την επιστροφή του από τη Γαλλία.
«Δεν είναι fake news»
Η πιο πολιτικά φορτισμένη φράση του ήταν σαφής.
Ο Λέων είπε ότι οι φόβοι που εκφράζουν ειδικοί στον χώρο της AI δεν είναι «fake news».
Η τοποθέτηση αποκτά ιδιαίτερο βάρος επειδή ο Trump έχει επανειλημμένα απορρίψει αντίστοιχες ανησυχίες ως υπερβολικές ή παραπλανητικές.
Ο Trump βλέπει διαφορετικό κίνδυνο
Η αμερικανική κυβέρνηση αντιμετωπίζει το θέμα κυρίως μέσα από τον ανταγωνισμό με την Κίνα.
Η βασική λογική είναι:
αν οι ΗΠΑ επιβραδύνουν πολύ την AI,
η Κίνα μπορεί να κλείσει το χάσμα.
Γι’ αυτό ο Trump έχει εμφανιστεί ιδιαίτερα επιφυλακτικός απέναντι σε ρυθμίσεις που θεωρεί ότι μπορούν να μειώσουν την αμερικανική ταχύτητα ανάπτυξης.
Το Βατικανό λέει: δεν είναι θέμα πανικού
Ο Πάπας ξεκαθάρισε ότι δεν βρίσκεται σε «πανικό».
Είπε όμως ότι οι προειδοποιήσεις ανθρώπων που εργάζονται στην ίδια τη βιομηχανία πρέπει να ληφθούν σοβαρά.
Αυτό είναι σημαντικό.
Δεν υιοθετεί την πιο ακραία τεχνοφοβική θέση.
Ζητά όμως θεσμική προσοχή πριν η τεχνολογία γίνει δύσκολο να ελεγχθεί.
Η πρώτη εγκύκλιος είχε ήδη AI στο κέντρο
Ο Λέων έχει ήδη τοποθετήσει την AI πολύ ψηλά στην ατζέντα του.
Η πρώτη του εγκύκλιος, «Magnifica Humanitas», επικεντρώθηκε στην τεχνολογία και στην ανάγκη προστασίας της ανθρώπινης αξιοπρέπειας από ανεξέλεγκτες εφαρμογές.
Άρα η νέα δήλωση δεν είναι μεμονωμένη.
Είναι μέρος σταθερής γραμμής.
Στο κάδρο Anthropic και OpenAI
Ο Πάπας αναφέρθηκε γενικότερα στις προειδοποιήσεις στελεχών της AI βιομηχανίας.
Το timing είναι ιδιαίτερο.
Anthropic και OpenAI έχουν και οι δύο τοποθετήσει πιο έντονα το safety στο κέντρο της δημόσιας συζήτησης.
Η Anthropic μιλά για ακραίους κινδύνους.
Η OpenAI καθυστερεί μοντέλα ή εταιρικές κινήσεις όταν θεωρεί ότι τα safety standards δεν έχουν καλυφθεί.
Το δείπνο Trump–Amodei
Η τοποθέτηση του Πάπα ήρθε λίγο μετά το ιδιωτικό δείπνο του Trump με τον Dario Amodei, CEO της Anthropic.
Ο Λευκός Οίκος ανέφερε ότι συζητήθηκαν οι ανησυχίες για την τεχνολογία αλλά και ο τρόπος με τον οποίο οι ΗΠΑ θα διατηρήσουν την παγκόσμια πρωτοκαθεδρία τους.
Αυτό δείχνει πόσο πιο σύνθετη γίνεται η αμερικανική θέση.
Η κυβέρνηση μπορεί να απορρίπτει μέρος της alarmist rhetoric.
Δεν μπορεί όμως να αγνοήσει τις ίδιες τις εταιρείες που αναπτύσσουν τα frontier models.
Το μεγάλο δίλημμα
Υπάρχουν πλέον δύο διαφορετικοί φόβοι.
Ο πρώτος είναι:
να προχωρήσει η AI πολύ γρήγορα.
Ο δεύτερος είναι:
να προχωρήσει η Κίνα πιο γρήγορα από τις ΗΠΑ.
Και οι δύο μπορούν να οδηγήσουν σε εντελώς διαφορετικές πολιτικές επιλογές.
Η παρέμβαση του Βατικανού
Το Βατικανό επιχειρεί να μεταφέρει τη συζήτηση από τον γεωπολιτικό ανταγωνισμό στο ζήτημα της ανθρώπινης ευθύνης.
Η θέση του Λέοντα είναι ουσιαστικά ότι ακόμη και αν υπάρχει τεχνολογικός ανταγωνισμός, αυτό δεν απαλλάσσει κυβερνήσεις και εταιρείες από την υποχρέωση να εξετάζουν τον κίνδυνο.
Το μήνυμα προς την Ουάσιγκτον είναι επομένως σαφές:
η ταχύτητα δεν μπορεί να είναι το μοναδικό κριτήριο.
Πηγή: pagenews.gr