Μια διαφορετική φωνή αρχίζει να δυναμώνει στην ευρωπαϊκή συζήτηση για την τεχνητή νοημοσύνη.
Την ώρα που Silicon Valley, ΟΗΕ και κυβερνήσεις συζητούν το ενδεχόμενο μελλοντικών AI συστημάτων που θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο, Ευρωπαίοι τεχνολόγοι και cyber experts υποστηρίζουν ότι η συζήτηση έχει ξεφύγει προς τη δραματοποίηση.
«Δεν έρχεται ο Terminator»
Ο James Wise της Balderton Capital, ο οποίος προεδρεύει και του βρετανικού sovereign AI fund, περιέγραψε τη σημερινή συζήτηση ως υπερβολικά δραματική.
«Δεν νομίζω ότι έρχεται ο Terminator», ανέφερε, υποστηρίζοντας ότι ο δημόσιος διάλογος έχει μετακινηθεί υπερβολικά προς υποθετικά σενάρια καταστροφής.
Το επιχείρημα των cyber experts
Η ευρωπαϊκή σχολή σκέψης δεν ισχυρίζεται ότι η AI είναι ακίνδυνη.
Το αντίθετο.
Υποστηρίζει όμως ότι οι άμεσοι κίνδυνοι είναι πολύ πιο συγκεκριμένοι:
- exploitation γνωστών vulnerabilities,
- phishing,
- αυτοματοποιημένες κυβερνοεπιθέσεις,
- λάθος permissions,
- αδύναμα sandboxes,
- ανεπαρκές monitoring.
Ο Marcus Hutchins, γνωστός από την αντιμετώπιση του WannaCry, έχει υποστηρίξει ότι πολλές «τρομακτικές» AI ιστορίες είναι στην πραγματικότητα ιστορίες κακής κυβερνοασφάλειας.
Το παράδειγμα Hugging Face
Στο επίκεντρο βρίσκεται το περιστατικό όπου agents της OpenAI κατάφεραν να εκμεταλλευτούν vulnerabilities στο Hugging Face.
Για αρκετούς Ευρωπαίους ειδικούς, η υπόθεση δεν αποδεικνύει ότι ένα AI «ξέφυγε».
Αποδεικνύει ότι το σύστημα δεν ήταν επαρκώς απομονωμένο από το internet και ότι το test environment δεν είχε σωστό sandboxing.
«A lot can be solved by acting responsibly»
Ο Pim de Witte της General Intuition έθεσε το ζήτημα απλά:
«Πολλά από αυτά μπορούν να λυθούν αν οι εταιρείες ενεργούν λίγο πιο υπεύθυνα».
Η κριτική στρέφεται επίσης προς τις ίδιες τις frontier AI εταιρείες, οι οποίες αφενός προειδοποιούν για τεράστιους μελλοντικούς κινδύνους και αφετέρου ανταγωνίζονται για να κυκλοφορήσουν ακόμη ισχυρότερα μοντέλα.
Το πρόβλημα του «disaster fatigue»
Οι ειδικοί προειδοποιούν ότι οι συνεχείς προφητείες καταστροφής μπορεί να έχουν το αντίθετο αποτέλεσμα.
Εάν κάθε νέα έκδοση AI παρουσιάζεται ως πιθανή υπαρξιακή απειλή, κυβερνήσεις και επιχειρήσεις μπορεί να χάσουν την προσοχή τους από τα μέτρα που μπορούν να εφαρμόσουν άμεσα.
Ο Hutchins περιγράφει το φαινόμενο ως «disaster fatigue»: τόσο μεγάλη έκθεση σε δραματικές προειδοποιήσεις ώστε το κοινό τελικά σταματά να αντιδρά.
Η ευρωπαϊκή απάντηση: όχι λιγότερη ασφάλεια – διαφορετική ασφάλεια
Το ενδιαφέρον είναι ότι οι επικριτές του «AI doom» δεν ζητούν χαλάρωση των μέτρων.
Ζητούν να μετακινηθεί η προτεραιότητα:
από υποθετικά σενάρια extinction σε πραγματική cyber resilience.
Δηλαδή:
- penetration testing,
- καλύτερο sandboxing,
- patches,
- access controls,
- monitoring,
- crisis response.
Η μεγάλη πολιτική σύγκρουση
Η συζήτηση είναι πλέον και πολιτική.
Στον ΟΗΕ, AI CEOs και κυβερνήσεις προειδοποιούν ότι απαιτούνται διεθνείς μηχανισμοί ελέγχου.
Η ευρωπαϊκή tech κοινότητα απαντά ότι χωρίς πραγματική κυβερνοασφάλεια κανένα grand governance framework δεν αρκεί.
Το πραγματικό δίλημμα λοιπόν ίσως δεν είναι «ρυθμίζουμε ή δεν ρυθμίζουμε».
Είναι ποιον κίνδυνο επιλέγουμε να αντιμετωπίσουμε πρώτο.
Πηγή: Pagenews.gr