Μια παρέμβαση με σημαντικές προεκτάσεις για τη διεθνή τεχνολογική αγορά πραγματοποιεί η Microsoft, ζητώντας αυστηρότερους και δεσμευτικούς κανόνες ασφαλείας για την τεχνητή νοημοσύνη, την ώρα που τα αυτόνομα συστήματα αποκτούν ολοένα μεγαλύτερη πρόσβαση σε δεδομένα, εταιρικές εφαρμογές και κρίσιμες επιχειρηματικές λειτουργίες.
Ο πρόεδρος του αμερικανικού τεχνολογικού κολοσσού, Μπραντ Σμιθ, υποστηρίζει ότι η ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης έχει δημιουργήσει ένα επικίνδυνο χάσμα ανάμεσα στις τεχνολογικές δυνατότητες και στους μηχανισμούς ελέγχου.
Μιλώντας στο BBC, επέλεξε μια ιδιαίτερα χαρακτηριστική σύγκριση: το γάλα και τα πλυντήρια ρούχων υπόκεινται σε περισσότερους κανόνες ασφαλείας από ό,τι η τεχνητή νοημοσύνη.
Η τοποθέτηση αυτή δεν αποτελεί απλώς κριτική στην απουσία επαρκούς εποπτείας.
Αναδεικνύει ένα βαθύτερο πρόβλημα: ποιος φέρει την ευθύνη όταν ένα σύστημα τεχνητής νοημοσύνης ενεργεί αυτόνομα, παραβιάζει δεδομένα ή προκαλεί οικονομική ζημιά;
Η απάντηση δεν αφορά μόνο τους δημιουργούς των μοντέλων, αλλά και τις επιχειρήσεις που τα χρησιμοποιούν, τους παρόχους υπολογιστικών υπηρεσιών, τους ασφαλιστικούς οργανισμούς και τις δημόσιες ρυθμιστικές αρχές.
«Το γάλα και τα πλυντήρια ελέγχονται περισσότερο από την AI»
Η παρέμβαση του Μπραντ Σμιθ ξεχωρίζει επειδή προέρχεται από την ίδια τη Microsoft, μία από τις επιχειρήσεις που επενδύουν περισσότερο στην ανάπτυξη και εμπορική αξιοποίηση της τεχνητής νοημοσύνης.
Ο πρόεδρος του ομίλου υποστήριξε ότι ακόμη και συνηθισμένα καταναλωτικά προϊόντα υπόκεινται σε πιο συγκεκριμένες διαδικασίες ελέγχου ασφαλείας από πολλές προηγμένες εφαρμογές AI.
Η σύγκριση με το γάλα και τα πλυντήρια αποσκοπεί στο να αναδείξει την ανάγκη για ένα πιο συνεκτικό πλαίσιο προστασίας.
Σε παραδοσιακούς βιομηχανικούς κλάδους, υπάρχουν κανόνες για την ασφάλεια των προϊόντων, τη διαδικασία ελέγχου και τις υποχρεώσεις των κατασκευαστών όταν εντοπίζεται ένα πρόβλημα.
Η τεχνητή νοημοσύνη, αντίθετα, εξελίσσεται με ταχύτητα που συχνά υπερβαίνει την προσαρμογή των υφιστάμενων μηχανισμών εποπτείας.
Η σύγκριση του Σμιθ αποτελεί πολιτική και επιχειρηματική τοποθέτηση, όχι κυριολεκτική καταμέτρηση όλων των κανόνων που εφαρμόζονται στους διαφορετικούς κλάδους.
Το ουσιαστικό του επιχείρημα είναι ότι η ανάπτυξη ολοένα ισχυρότερων συστημάτων πρέπει να συνοδεύεται από αντίστοιχα αποτελεσματικούς μηχανισμούς ασφαλείας.
Οι αυτόνομοι πράκτορες AI αλλάζουν τα δεδομένα
Η μεγαλύτερη ανησυχία αφορά τους λεγόμενους αυτόνομους πράκτορες τεχνητής νοημοσύνης, δηλαδή συστήματα που δεν περιορίζονται στην παραγωγή κειμένων ή στην παροχή απαντήσεων.
Οι εφαρμογές αυτές μπορούν, εφόσον τους δοθούν οι αντίστοιχες εξουσιοδοτήσεις, να εκτελούν ενέργειες σε ψηφιακά περιβάλλοντα.
Μπορούν να διαχειρίζονται εργασίες, να αλληλεπιδρούν με λογισμικό, να επεξεργάζονται αρχεία και να συνδέονται με εταιρικές υπηρεσίες.
Αυτό σημαίνει ότι ένα σφάλμα δεν περιορίζεται απαραίτητα σε μια λανθασμένη απάντηση.
Ενδέχεται να οδηγήσει σε λανθασμένη εντολή, ακατάλληλη πρόσβαση σε δεδομένα ή ανεπιθύμητη μεταβολή σε ένα πληροφοριακό σύστημα.
Η έκταση του κινδύνου εξαρτάται από τις πραγματικές δυνατότητες και τα δικαιώματα που έχουν παραχωρηθεί στο συγκεκριμένο σύστημα.
Ένας πράκτορας με περιορισμένη πρόσβαση δημιουργεί διαφορετικό επίπεδο κινδύνου από έναν πράκτορα που μπορεί να πραγματοποιεί οικονομικές συναλλαγές ή να μεταβάλλει κρίσιμα εταιρικά δεδομένα.
Αυτή ακριβώς η διαφοροποίηση καθιστά αναγκαία την ανάπτυξη κανόνων ανάλογων με τις δυνατότητες και τις πιθανές επιπτώσεις κάθε εφαρμογής.
Διακόπτης έκτακτης ανάγκης: Να σταματά η AI πριν προκαλέσει μεγαλύτερη ζημιά
Μία από τις βασικές προτάσεις που παρουσιάζει ο Μπραντ Σμιθ αφορά τη δημιουργία αποτελεσματικών μηχανισμών άμεσης διακοπής της λειτουργίας αυτόνομων συστημάτων.
Η ιδέα είναι απλή: όταν εντοπίζεται ανεπιθύμητη ή επικίνδυνη συμπεριφορά, οι υπεύθυνοι πρέπει να έχουν τη δυνατότητα να σταματήσουν εγκαίρως την εκτέλεση περαιτέρω ενεργειών.
Στην πράξη, όμως, η εφαρμογή ενός τέτοιου μηχανισμού είναι περισσότερο σύνθετη.
Ένα σύστημα μπορεί να λειτουργεί ταυτόχρονα σε διαφορετικές εφαρμογές, να έχει ήδη αποστείλει εντολές ή να έχει ξεκινήσει διαδικασίες που συνεχίζονται ανεξάρτητα από αυτό.
Επομένως, η δυνατότητα απενεργοποίησης πρέπει να συνοδεύεται από σαφείς κανόνες περιορισμού δικαιωμάτων, καταγραφής ενεργειών και ελέγχου των εξωτερικών συστημάτων με τα οποία αλληλεπιδρά η AI.
Για μια επιχείρηση, το ζητούμενο δεν είναι μόνο να υπάρχει ένα κουμπί διακοπής.
Είναι να γνωρίζει ποιος έχει την εξουσία να το ενεργοποιήσει, σε ποιες περιπτώσεις και με ποιες συνέπειες για τη συνέχεια της λειτουργίας της.
Υποχρεωτική αναφορά περιστατικών: Να ενημερώνονται όσοι πλήττονται
Η δεύτερη σημαντική πρόταση της Microsoft αφορά την υποχρεωτική αναφορά σοβαρών περιστατικών που συνδέονται με συστήματα τεχνητής νοημοσύνης.
Σύμφωνα με τη θέση του Μπραντ Σμιθ, όταν αυτόνομοι πράκτορες παραβιάζουν συστήματα ή προκαλούν ζημιές, πρέπει να υπάρχουν διαδικασίες ενημέρωσης των προσώπων και των οργανισμών που επηρεάζονται.
Το ζήτημα αποκτά ιδιαίτερη σημασία όταν η AI χρησιμοποιείται για τη διαχείριση προσωπικών δεδομένων, οικονομικών συναλλαγών ή εταιρικών πληροφοριών.
Η έγκαιρη γνωστοποίηση ενός περιστατικού μπορεί να επιτρέψει στον θιγόμενο οργανισμό να περιορίσει τις συνέπειες, να προστατεύσει τα δεδομένα του και να διερευνήσει τι συνέβη.
Παράλληλα, οι αναφορές περιστατικών μπορούν να προσφέρουν στις αρμόδιες αρχές καλύτερη εικόνα για τις πραγματικές αστοχίες της τεχνολογίας.
Χωρίς αξιόπιστη καταγραφή, υπάρχει κίνδυνος σοβαρά προβλήματα να παραμένουν αόρατα ή να αντιμετωπίζονται ως μεμονωμένα περιστατικά.
Η υποχρεωτική ενημέρωση, ωστόσο, δεν απαντά αυτομάτως στο ζήτημα της αποζημίωσης.
Αποτελεί μηχανισμό διαφάνειας και αντιμετώπισης κινδύνων, όχι από μόνη της πλήρες σύστημα απόδοσης ευθυνών.
Ανεξάρτητοι έλεγχοι πριν από την κυκλοφορία νέων συστημάτων
Η Microsoft προτείνει επίσης την ανάπτυξη διαδικασιών εξωτερικής αξιολόγησης νέων συστημάτων τεχνητής νοημοσύνης.
Στόχος είναι να προσδιορίζεται πότε οι δυνατότητες μιας εφαρμογής δημιουργούν κινδύνους που δικαιολογούν ανεξάρτητο έλεγχο πριν από την εμπορική διάθεσή της.
Η προσέγγιση αυτή θα μπορούσε να μεταβάλει τη διαδικασία ανάπτυξης προϊόντων AI.
Οι εταιρείες θα πρέπει να τεκμηριώνουν περισσότερο τις δοκιμές ασφαλείας, τους περιορισμούς λειτουργίας και τις διαδικασίες αντιμετώπισης προβλημάτων.
Για τους πελάτες, ένας τέτοιος μηχανισμός θα μπορούσε να προσφέρει μεγαλύτερη διαφάνεια σχετικά με τις δυνατότητες και τους κινδύνους των συστημάτων που αγοράζουν.
Για τους προμηθευτές, όμως, ενδέχεται να αυξήσει το κόστος συμμόρφωσης και τον χρόνο που απαιτείται μέχρι την κυκλοφορία ενός προϊόντος.
Αυτό δημιουργεί ένα νέο επιχειρηματικό δίλημμα.
Πώς μπορεί να διατηρηθεί η καινοτομία χωρίς να υποβαθμίζεται η ασφάλεια;
Η απάντηση εξαρτάται σε μεγάλο βαθμό από το εάν οι έλεγχοι θα είναι αναλογικοί προς τον κίνδυνο και από το πώς θα οριστούν οι αρμοδιότητες των ανεξάρτητων αξιολογητών.
Σάτια Ναντέλα: Συστήματα που μπορούμε να παρακολουθούμε και να περιορίζουμε
Στην ίδια κατεύθυνση κινείται και ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα.
Ο επικεφαλής του τεχνολογικού ομίλου έχει αναδείξει τη σημασία της παρατηρήσιμης συμπεριφοράς των συστημάτων, των ελέγξιμων ορίων και της δυνατότητας περιορισμού των ενεργειών τους.
Η έννοια της παρατηρησιμότητας αποκτά κεντρικό ρόλο στην ανάπτυξη αυτόνομων εφαρμογών.
Οι επιχειρήσεις χρειάζεται να μπορούν να γνωρίζουν ποιες εντολές εκτελεί ένα σύστημα, σε ποιους πόρους αποκτά πρόσβαση και πώς καταλήγει σε συγκεκριμένες ενέργειες.
Η καταγραφή των ενεργειών δεν σημαίνει απαραίτητα ότι κάθε εσωτερική διαδικασία ενός μοντέλου είναι πλήρως εξηγήσιμη.
Μπορεί, όμως, να επιτρέψει τον αποτελεσματικότερο έλεγχο των ενεργειών που πραγματοποιούνται και την ανασύνθεση ενός περιστατικού.
Για τις εταιρείες που χρησιμοποιούν AI σε κρίσιμες λειτουργίες, αυτή η δυνατότητα αποτελεί βασικό στοιχείο της διαχείρισης επιχειρησιακού κινδύνου.
Ποιος πληρώνει όταν η AI προκαλεί οικονομική ζημιά;
Εδώ βρίσκεται ίσως το σημαντικότερο οικονομικό ερώτημα που αναδεικνύει η παρέμβαση της Microsoft.
Ας υποθέσουμε ότι μια επιχείρηση χρησιμοποιεί έναν αυτόνομο πράκτορα τεχνητής νοημοσύνης για τη διαχείριση παραγγελιών.
Το σύστημα αποκτά πρόσβαση σε λανθασμένα δεδομένα και εκτελεί μια σειρά ανεπιθύμητων ενεργειών, προκαλώντας οικονομική ζημιά.
Ποιος αναλαμβάνει την ευθύνη;
Ο κατασκευαστής του μοντέλου;
Η εταιρεία που παρέχει την πλατφόρμα;
Ο προμηθευτής της εφαρμογής;
Ή η επιχείρηση που επέλεξε να χρησιμοποιήσει το σύστημα και του παραχώρησε τα συγκεκριμένα δικαιώματα;
Η απάντηση δεν είναι ενιαία.
Εξαρτάται από τις συμβάσεις, τη νομοθεσία, τις πραγματικές συνθήκες του περιστατικού και το εάν υπήρξε αμέλεια, ελάττωμα προϊόντος ή ανεπαρκής έλεγχος.
Ο μηχανισμός απενεργοποίησης μπορεί να περιορίσει μια ζημιά.
Η αναφορά περιστατικού μπορεί να διευκολύνει τη διερεύνησή της.
Κανένα από τα δύο, όμως, δεν καθορίζει αυτομάτως ποιος θα αποζημιώσει τον πελάτη.
Η κατανομή της ευθύνης αποτελεί ξεχωριστό νομικό και οικονομικό ζήτημα.
Το νέο κόστος για τις επιχειρήσεις που επενδύουν στην αυτοματοποίηση
Η χρήση τεχνητής νοημοσύνης συχνά παρουσιάζεται ως τρόπος περιορισμού λειτουργικών δαπανών και αύξησης της παραγωγικότητας.
Ωστόσο, όσο αυξάνεται η αυτονομία των εφαρμογών, τόσο μεγαλύτερη σημασία αποκτά το κόστος ελέγχου τους.
Μια επιχείρηση δεν χρειάζεται μόνο να αγοράσει ή να αναπτύξει ένα σύστημα AI.
Πρέπει επίσης να προβλέψει πόρους για την παρακολούθησή του, την προστασία των δεδομένων, τη διαχείριση περιστατικών και την εκπαίδευση του προσωπικού.
Σε ορισμένες περιπτώσεις, μπορεί να χρειαστεί να επανεξετάσει ασφαλιστήρια συμβόλαια, συμβάσεις προμηθευτών και διαδικασίες εσωτερικού ελέγχου.
Η οικονομική αξιολόγηση μιας επένδυσης στην AI οφείλει επομένως να περιλαμβάνει όχι μόνο τα πιθανά οφέλη παραγωγικότητας, αλλά και το κόστος διαχείρισης κινδύνων.
Αυτό δεν σημαίνει ότι η αυτοματοποίηση παύει να είναι συμφέρουσα.
Σημαίνει ότι η πραγματική της απόδοση εξαρτάται και από την ικανότητα μιας επιχείρησης να διαχειρίζεται με ασφάλεια τα νέα εργαλεία.
Ευρωπαϊκή Ένωση: Το κανονιστικό πλαίσιο και οι νέες απαιτήσεις
Η συζήτηση που ανοίγει η Microsoft έχει ιδιαίτερη σημασία για την Ευρωπαϊκή Ένωση.
Η ΕΕ έχει ήδη θεσπίσει τον Κανονισμό για την Τεχνητή Νοημοσύνη, γνωστό ως AI Act, ο οποίος προβλέπει διαφορετικές υποχρεώσεις ανάλογα με τον κίνδυνο που συνδέεται με τις εφαρμογές.
Το ευρωπαϊκό πλαίσιο περιλαμβάνει απαιτήσεις για συγκεκριμένα συστήματα υψηλού κινδύνου, καθώς και υποχρεώσεις για παρόχους μοντέλων γενικού σκοπού.
Η εφαρμογή των επιμέρους διατάξεων πραγματοποιείται σταδιακά, με ειδικές προθεσμίες και μεταβατικές ρυθμίσεις.
Παράλληλα, η προστασία προσωπικών δεδομένων εξακολουθεί να διέπεται από τον Γενικό Κανονισμό Προστασίας Δεδομένων.
Η παρέμβαση της Microsoft δεν σημαίνει ότι σήμερα δεν υπάρχουν καθόλου κανόνες για την τεχνητή νοημοσύνη.
Αναδεικνύει, αντίθετα, το ερώτημα εάν οι υφιστάμενοι κανόνες επαρκούν για τα νέα αυτόνομα συστήματα και κατά πόσο απαιτούνται πρόσθετες διαδικασίες ελέγχου.
Ιδιαίτερα κρίσιμη είναι η αποσαφήνιση των υποχρεώσεων όταν διαφορετικοί πάροχοι συμμετέχουν στην ίδια αλυσίδα τεχνολογικών υπηρεσιών.
Γιατί η Microsoft ζητά περισσότερη ρύθμιση ενώ επενδύει δισεκατομμύρια στην AI;
Η παρέμβαση του Μπραντ Σμιθ δημιουργεί ένα εύλογο επιχειρηματικό ερώτημα.
Γιατί ένας από τους μεγαλύτερους επενδυτές στην τεχνητή νοημοσύνη ζητά αυστηρότερες ρυθμίσεις;
Μια πιθανή εξήγηση είναι ότι η ανάπτυξη της αγοράς προϋποθέτει την εμπιστοσύνη των επιχειρήσεων και των καταναλωτών.
Οι μεγάλοι εταιρικοί πελάτες δύσκολα θα παραχωρήσουν εκτεταμένα δικαιώματα σε αυτόνομα συστήματα χωρίς επαρκείς εγγυήσεις ασφαλείας.
Οι σαφείς κανόνες μπορούν να περιορίσουν την αβεβαιότητα και να διευκολύνουν την ευρύτερη εμπορική υιοθέτηση της τεχνολογίας.
Υπάρχει, όμως, και μια δεύτερη διάσταση.
Οι απαιτήσεις συμμόρφωσης δημιουργούν κόστος, το οποίο μπορεί να είναι ευκολότερα διαχειρίσιμο για μεγάλους τεχνολογικούς ομίλους από ό,τι για μικρότερες επιχειρήσεις.
Επομένως, η ρύθμιση πρέπει να σχεδιάζεται με τρόπο που να προστατεύει τους χρήστες χωρίς να δημιουργεί δυσανάλογα εμπόδια στον ανταγωνισμό.
Η πραγματική επίδραση των προτάσεων της Microsoft θα εξαρτηθεί από το περιεχόμενο των κανόνων που ενδεχομένως υιοθετηθούν.
Η επόμενη ημέρα: Από την τεχνολογική καινοτομία στη λογοδοσία
Η παρέμβαση της Microsoft σηματοδοτεί μια σημαντική μετατόπιση στη δημόσια συζήτηση για την τεχνητή νοημοσύνη.
Το ερώτημα δεν είναι πλέον μόνο πόσο ισχυρά μπορούν να γίνουν τα νέα συστήματα ή πόσες εργασίες μπορούν να αυτοματοποιήσουν.
Είναι επίσης ποιος τα επιβλέπει, πώς ελέγχονται οι ενέργειές τους και ποια διαδικασία ενεργοποιείται όταν προκαλείται ένα σοβαρό περιστατικό.
Η υποχρεωτική αναφορά αστοχιών, οι ανεξάρτητοι έλεγχοι και οι μηχανισμοί απενεργοποίησης αποτελούν τρία διαφορετικά εργαλεία για τη διαχείριση του ίδιου προβλήματος.
Ωστόσο, η αποκατάσταση της ζημιάς και η απόδοση νομικής ευθύνης παραμένουν ξεχωριστές προκλήσεις.
Το βασικό μήνυμα της παρέμβασης Σμιθ είναι ότι η αυτοματοποίηση δεν μπορεί να λειτουργεί χωρίς σαφείς κανόνες ανθρώπινου ελέγχου και λογοδοσίας.
Για τις επιχειρήσεις, η ασφαλής χρήση της AI μετατρέπεται σταδιακά από τεχνικό ζήτημα σε κεντρική απόφαση εταιρικής διακυβέρνησης.
Για τις κυβερνήσεις, το ζητούμενο είναι η δημιουργία κανόνων που θα συμβαδίζουν με την εξέλιξη της τεχνολογίας.
Και για τους χρήστες, το σημαντικότερο ερώτημα παραμένει απολύτως πρακτικό: όταν μια μηχανή κάνει λάθος, ποιος θα αναλάβει την ευθύνη και ποιος θα πληρώσει τον λογαριασμό;
Πηγή: pagenews.gr