Το σενάριο που τρομάζει τη Silicon Valley
Η δημόσια συζήτηση γύρω από την τεχνητή νοημοσύνη περιστρέφεται συνήθως γύρω από τις θέσεις εργασίας, την παραπληροφόρηση, την ιδιωτικότητα ή την αντικατάσταση ανθρώπινων επαγγελμάτων.
Πίσω από τις κλειστές πόρτες των μεγαλύτερων εργαστηρίων τεχνητής νοημοσύνης, όμως, η μεγαλύτερη ανησυχία είναι διαφορετική.
Σύμφωνα με αποκαλυπτικό ρεπορτάζ του Axios, όταν κορυφαίοι επιστήμονες, μηχανικοί και επικεφαλής εταιρειών AI ερωτώνται ιδιωτικά ποιος είναι ο σοβαρότερος κίνδυνος της τεχνολογίας που αναπτύσσουν, η απάντηση είναι σχεδόν πάντα η ίδια:
Η πιθανότητα δημιουργίας ενός νέου θανατηφόρου βιολογικού παθογόνου με τη βοήθεια της τεχνητής νοημοσύνης.
Δεν πρόκειται για σενάριο επιστημονικής φαντασίας.
Ούτε σημαίνει ότι θεωρείται πιθανό να συμβεί άμεσα.
Αποτελεί όμως ένα ενδεχόμενο που πλέον αντιμετωπίζεται σοβαρά από τους ίδιους τους ανθρώπους που κατασκευάζουν τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης.
Η AI αρχίζει να κατανοεί τη βιολογία όπως κατανοεί τον κυβερνοχώρο
Τα σύγχρονα μεγάλα γλωσσικά μοντέλα δεν περιορίζονται πλέον στην παραγωγή κειμένου.
Επεξεργάζονται τεράστιους όγκους επιστημονικών δεδομένων, γονιδιωματικών πληροφοριών, βιολογικών δομών και χημικών αλληλεπιδράσεων.
Αυτό σημαίνει ότι μπορούν να βοηθήσουν ερευνητές:
- να σχεδιάσουν νέα φάρμακα,
- να επιταχύνουν την ανακάλυψη εμβολίων,
- να αναλύσουν πρωτεΐνες,
- να εντοπίσουν μεταλλάξεις.
Η ίδια δυνατότητα, όμως, θα μπορούσε θεωρητικά να χρησιμοποιηθεί και αντίστροφα.
Ένας κακόβουλος χρήστης θα μπορούσε να αξιοποιήσει ένα ιδιαίτερα προηγμένο μοντέλο για να αναζητήσει τρόπους τροποποίησης γνωστών παθογόνων ή να εντοπίσει βιολογικές αδυναμίες που μέχρι σήμερα απαιτούσαν χρόνια εξειδικευμένης έρευνας.
Οι αριθμοί που προβληματίζουν
Η ανησυχία δεν βασίζεται μόνο σε θεωρητικές υποθέσεις.
Νέα μελέτη του MIT FutureTech και του University of Queensland, στην οποία συμμετείχαν 272 ειδικοί στην τεχνητή νοημοσύνη, αξιολόγησε συνολικά 24 διαφορετικούς κινδύνους που σχετίζονται με την εξέλιξη της AI.
Τα αποτελέσματα είναι ενδεικτικά.
Οι ερευνητές εκτίμησαν ότι υπάρχει περίπου:
- 12% πιθανότητα μέχρι το 2030 οι επικίνδυνες δυνατότητες της AI να οδηγήσουν σε καταστροφικό γεγονός,
- 12% πιθανότητα ανάπτυξης όπλων ή τεχνολογιών μαζικής καταστροφής με τη βοήθεια της AI.
Ακόμη πιο ανησυχητικό είναι ότι, χωρίς τα σημερινά μέτρα περιορισμού κινδύνου, οι πιθανότητες αυτές ξεπερνούν το 20%.
Ως «καταστροφικό γεγονός» η έρευνα ορίζει περιστατικά που προκαλούν:
- περισσότερους από 1 εκατομμύριο θανάτους, ή
- οικονομικές ζημιές άνω των 100 δισεκατομμυρίων δολαρίων.
Γιατί οι βιολογικοί κίνδυνοι βρίσκονται στην κορυφή
Η δημιουργία ενός εντελώς νέου παθογόνου εξακολουθεί σήμερα να απαιτεί:
- εξειδικευμένες γνώσεις,
- προηγμένα εργαστήρια,
- πολυετή πειράματα,
- σημαντικούς οικονομικούς πόρους.
Η τεχνητή νοημοσύνη μπορεί να μειώσει δραστικά τον χρόνο αυτής της διαδικασίας.
Οι ειδικοί περιγράφουν ένα πιθανό σενάριο:
Ένας κρατικός φορέας ή μια καλά χρηματοδοτούμενη τρομοκρατική οργάνωση χρησιμοποιεί ένα προηγμένο μοντέλο AI για να αναλύσει εκατομμύρια βιολογικά δεδομένα.
Το μοντέλο εντοπίζει ποιες γενετικές μεταλλάξεις μπορούν να κάνουν έναν γνωστό ιό:
- πιο μεταδοτικό,
- δυσκολότερο στον εντοπισμό,
- ανθεκτικό στα υπάρχοντα φάρμακα,
- λιγότερο αναγνωρίσιμο από τα σημερινά διαγνωστικά συστήματα.
Στη συνέχεια, τα υποψήφια γενετικά σχέδια θα μπορούσαν θεωρητικά να συνδυαστούν με σύγχρονες τεχνολογίες γονιδιακής επεξεργασίας.
Η ίδια η AI δεν δημιουργεί τον ιό.
Μπορεί όμως να μειώσει δραστικά το επιστημονικό και χρονικό κόστος ανάπτυξής του.
Το μάθημα της COVID-19
Η πανδημία COVID-19 απέδειξε πόσο δύσκολη είναι η έγκαιρη ανίχνευση ενός νέου παθογόνου.
Οι ειδικοί φοβούνται ότι ένα μελλοντικό παθογόνο σχεδιασμένο με τη βοήθεια της AI θα μπορούσε να παρουσιάζει χαρακτηριστικά που θα καθιστούσαν ακόμη δυσκολότερη την αναγνώρισή του.
Εάν η εξάπλωση ξεκινούσε πριν τα συστήματα δημόσιας υγείας καταλάβουν τι ακριβώς αντιμετωπίζουν, η ανάσχεση θα μπορούσε να αποδειχθεί πολύ πιο περίπλοκη από ό,τι στην πανδημία του κορωνοϊού.
Αυτός είναι ο λόγος που η βιοασφάλεια βρίσκεται πλέον στο επίκεντρο των συζητήσεων ανάμεσα στις κυβερνήσεις και τις εταιρείες AI.
Η κοινή προειδοποίηση των «γιγάντων» της AI
Το εντυπωσιακό είναι ότι η ανησυχία αυτή δεν εκφράζεται μόνο από ακαδημαϊκούς.
Πριν από λίγες εβδομάδες, κορυφαία στελέχη της βιομηχανίας τεχνητής νοημοσύνης υπέγραψαν κοινή δημόσια επιστολή ζητώντας ισχυρότερες δικλίδες ασφαλείας.
Ανάμεσά τους βρίσκονται:
- Sam Altman (OpenAI)
- Dario Amodei (Anthropic)
- Demis Hassabis (Google DeepMind)
- Mustafa Suleyman (Microsoft AI)
- Alexandr Wang (Meta Superintelligence)
Παρά τον έντονο ανταγωνισμό μεταξύ των εταιρειών, υπάρχει αξιοσημείωτη συναίνεση ότι η ανάπτυξη όλο και ισχυρότερων μοντέλων πρέπει να συνοδεύεται από αυστηρότερους μηχανισμούς ελέγχου.
Το μεγάλο δίλημμα του open source
Ένα από τα πιο δύσκολα ζητήματα αφορά τα λεγόμενα μοντέλα ανοικτού κώδικα (open source).
Οι εταιρείες που αναπτύσσουν κλειστά εμπορικά μοντέλα μπορούν να ενσωματώνουν:
- φίλτρα,
- περιορισμούς,
- μηχανισμούς ασφαλείας,
- παρακολούθηση χρήσης.
Στα ανοικτά μοντέλα, όμως, η κατάσταση είναι διαφορετική.
Μόλις δημοσιευθούν, μπορούν να αντιγραφούν, να τροποποιηθούν και να λειτουργήσουν χωρίς κανέναν κεντρικό έλεγχο.
Αυτό σημαίνει ότι ακόμη κι αν οι μεγάλες εταιρείες εφαρμόσουν αυστηρές δικλίδες ασφαλείας, κάποιος θα μπορούσε να χρησιμοποιήσει τροποποιημένες εκδόσεις εκτός οποιουδήποτε ρυθμιστικού πλαισίου.
Η συζήτηση γύρω από το open source έχει εξελιχθεί σε μία από τις σημαντικότερες πολιτικές και τεχνολογικές αντιπαραθέσεις της εποχής.
Η μάχη άμυνας και επίθεσης
Η τεχνητή νοημοσύνη δεν δημιουργεί μόνο νέους κινδύνους.
Δημιουργεί και νέες δυνατότητες προστασίας.
Οι ίδιες τεχνολογίες που μπορούν να επιταχύνουν την κατανόηση της βιολογίας χρησιμοποιούνται ήδη για:
- ανάπτυξη νέων φαρμάκων,
- σχεδιασμό εμβολίων,
- πρόβλεψη μεταλλάξεων,
- ταχύτερη διάγνωση,
- συστήματα βιοεπιτήρησης.
Η πραγματική πρόκληση είναι ποια πλευρά θα εξελιχθεί γρηγορότερα:
Οι μηχανισμοί επίθεσης ή οι μηχανισμοί άμυνας.
Η επόμενη μεγάλη μάχη δεν θα δοθεί μόνο στα data centers
Η δημόσια συζήτηση συχνά παρουσιάζει την τεχνητή νοημοσύνη ως οικονομικό ή γεωπολιτικό ανταγωνισμό ανάμεσα στις Ηνωμένες Πολιτείες και την Κίνα.
Στην πραγματικότητα, ένα εξίσου κρίσιμο μέτωπο αναπτύσσεται στη βιοασφάλεια.
Οι κυβερνήσεις επενδύουν πλέον όχι μόνο σε υπολογιστική ισχύ αλλά και σε:
- βιολογική επιτήρηση,
- ανίχνευση συνθετικών παθογόνων,
- γονιδιωματική ανάλυση,
- προστασία ερευνητικών εργαστηρίων,
- διεθνείς κανόνες ασφαλείας.
Η τεχνητή νοημοσύνη εξελίσσεται σε διπλής χρήσης τεχνολογία.
Μπορεί να αποτελέσει το σημαντικότερο εργαλείο πρόληψης μιας μελλοντικής πανδημίας.
Θα μπορούσε όμως, εάν χρησιμοποιηθεί κακόβουλα, να μειώσει δραστικά τα εμπόδια για τη δημιουργία βιολογικών απειλών.
Το πραγματικό στοίχημα δεν είναι η ίδια η AI
Οι κορυφαίοι δημιουργοί της τεχνητής νοημοσύνης δεν υποστηρίζουν ότι μια καταστροφή είναι αναπόφευκτη.
Υποστηρίζουν όμως ότι η τεχνολογία εξελίσσεται ταχύτερα από τους μηχανισμούς ελέγχου της.
Αυτός είναι και ο λόγος που οι μεγαλύτερες εταιρείες του κλάδου πιέζουν πλέον για:
- αυστηρότερες δοκιμές πριν από τη διάθεση νέων μοντέλων,
- διεθνή πρότυπα ασφαλείας,
- συνεργασία κυβερνήσεων και βιομηχανίας,
- επενδύσεις στη βιοασφάλεια,
- συνεχή αξιολόγηση των πιο προηγμένων μοντέλων.
Το μεγάλο ερώτημα δεν είναι αν η AI θα γίνει ισχυρότερη.
Αυτό θεωρείται πλέον δεδομένο.
Το πραγματικό ερώτημα είναι αν οι κοινωνίες θα καταφέρουν να αναπτύξουν τους μηχανισμούς προστασίας πριν οι δυνατότητές της ξεπεράσουν την ικανότητά μας να τις ελέγχουμε.
Πηγή: pagenews.gr