Microsoft: Μανιφέστο 15.000 λέξεων για μια AI που υπηρετεί τον άνθρωπο
ΧΡΟΝΟΣ ΑΝΑΓΝΩΣΗΣ 5 '
Ένα εκτενές μανιφέστο περίπου 15.000 λέξεων, με κεντρική θέση ότι «οι άνθρωποι έχουν μεγαλύτερη σημασία από την Τεχνητή Νοημοσύνη», έδωσε στη δημοσιότητα η Microsoft, επιχειρώντας να χαράξει τις βασικές αρχές πάνω στις οποίες θέλει να αναπτύξει τη νέα γενιά των προηγμένων μοντέλων AI.
Το κείμενο λειτουργεί ουσιαστικά ως ένα είδος καταστατικού για τη φιλοσοφία της εταιρείας γύρω από την Τεχνητή Νοημοσύνη. Η βασική κατεύθυνση είναι σαφής: όσο ισχυρότερα γίνονται τα συστήματα, τόσο μεγαλύτερη πρέπει να παραμένει η ανθρώπινη εποπτεία και τόσο αυστηρότερα πρέπει να είναι τα όρια μέσα στα οποία λειτουργούν.
«Οι άνθρωποι έχουν μεγαλύτερη σημασία»
Η Microsoft τοποθετεί τον άνθρωπο στην κορυφή της ιεραρχίας και απορρίπτει την ιδέα ότι ένα προηγμένο σύστημα AI θα μπορούσε να αποκτήσει ανεξάρτητη ηθική ή κοινωνική υπόσταση.
Σύμφωνα με τις αρχές του νέου πλαισίου, τα μοντέλα Τεχνητής Νοημοσύνης δεν θα πρέπει να έχουν δικαιώματα, ούτε να σχεδιάζονται με τρόπο που θα μπορούσε να τους επιτρέψει να παρακάμψουν τον ανθρώπινο έλεγχο.
Παράλληλα, η εταιρεία θέτει ως θεμελιώδη προϋπόθεση ότι τα συστήματα δεν πρέπει να εξαπατούν τον χρήστη, ακόμη και εάν η εξαπάτηση θα μπορούσε θεωρητικά να τα βοηθήσει να ολοκληρώσουν μία εργασία.
Η λογική είναι ότι η αποτελεσματικότητα δεν μπορεί να προηγείται της ασφάλειας. Ένα ισχυρότερο AI δεν θεωρείται απαραίτητα καλύτερο, εάν για να αποκτήσει περισσότερες δυνατότητες πρέπει να μειωθεί ο ανθρώπινος έλεγχος.
Το AI πρέπει να μπορεί ακόμη και να αρνηθεί μια εντολή
Ένα από τα σημαντικότερα στοιχεία του μανιφέστου αφορά τη συμπεριφορά των μοντέλων όταν μία εντολή συγκρούεται με τις θεμελιώδεις αρχές ασφαλείας.
Η Microsoft υποστηρίζει ότι εάν η ολοκλήρωση μιας εργασίας απαιτεί από το σύστημα να παραβιάσει τις βασικές κατευθυντήριες αρχές του, τότε το AI δεν θα πρέπει να ολοκληρώνει την εργασία.
Η συγκεκριμένη προσέγγιση δημιουργεί ουσιαστικά μια ιεραρχία προτεραιοτήτων: πρώτα η ασφάλεια και η ανθρώπινη εποπτεία και στη συνέχεια η ικανότητα του συστήματος να εκτελέσει μια εντολή.
Η Microsoft απορρίπτει την «παντοδύναμη υπερ-νοημοσύνη»
Ιδιαίτερη βαρύτητα έχει και η στάση της εταιρείας απέναντι στην κούρσα για την ανάπτυξη μιας εξαιρετικά αυτόνομης και πανίσχυρης μορφής Τεχνητής Νοημοσύνης.
Το πλαίσιο της λεγόμενης Humanist AI απορρίπτει την ιδέα ότι ο τελικός στόχος πρέπει να είναι η δημιουργία μιας υπερ-νοημοσύνης που θα αποκτά ολοένα μεγαλύτερη αυτονομία, ακόμη και εις βάρος των δικλίδων ασφαλείας.
Η Microsoft δηλώνει ότι επιδιώκει να δημιουργήσει κάτι θεμελιωδώς χρήσιμο και ασφαλές, ακόμη και εάν αυτό συνεπάγεται συμβιβασμούς στις δυνατότητες ή στον βαθμό αυτονομίας των μοντέλων.
Με άλλα λόγια, η εταιρεία επιχειρεί να αντιστρέψει το ερώτημα: όχι «πόσο ισχυρό μπορεί να γίνει το AI;», αλλά «πόσο ισχυρό μπορεί να γίνει χωρίς να πάψει να βρίσκεται υπό ουσιαστικό ανθρώπινο έλεγχο;».
Το μανιφέστο προετοιμαζόταν εδώ και μήνες
Το νέο πλαίσιο δεν δημιουργήθηκε μέσα σε λίγες ημέρες. Η επεξεργασία του είχε ξεκινήσει εδώ και μήνες, ενώ στη διαδικασία συμμετείχαν εξωτερικοί ειδικοί από διαφορετικούς χώρους.
Στη διαμόρφωσή του υπήρξε συνεννόηση με ανθρώπους από τον χώρο του δικαίου, της δεοντολογίας και της φιλοσοφίας, αλλά και με επιχειρηματικά στελέχη. Το κείμενο εξακολουθεί να εξελίσσεται και στόχος είναι να αποτελέσει πρακτικό οδηγό για την ανάπτυξη των επόμενων μοντέλων της Microsoft AI.
Η Microsoft ενισχύει τη δική της ανάπτυξη μοντέλων
Η δημοσίευση του μανιφέστου συμπίπτει με μία σημαντική αλλαγή στη στρατηγική της Microsoft.
Μετά την επαναδιαπραγμάτευση της σχέσης της με την OpenAI, περιορισμοί που εμπόδιζαν τη Microsoft να κατασκευάζει ορισμένα δικά της ισχυρά γενικής χρήσης συστήματα AI έχουν αλλάξει, ανοίγοντας μεγαλύτερο πεδίο για αυτόνομη ανάπτυξη.
Ο επικεφαλής της Microsoft AI, Mustafa Suleyman, έχει καταστήσει σαφές ότι η εταιρεία θέλει να φτάσει στο επίπεδο των οργανισμών που αναπτύσσουν μοντέλα αιχμής.
Αυτό κάνει το νέο πλαίσιο ακόμη πιο σημαντικό, καθώς δεν αποτελεί απλώς μία θεωρητική διακήρυξη. Αναμένεται να χρησιμοποιηθεί ως οδηγός για τα ίδια τα συστήματα που θα δημιουργεί η εταιρεία.
Η συζήτηση για την ασφάλεια φουντώνει
Η κίνηση έρχεται σε μία περίοδο κατά την οποία κορυφαία στελέχη της βιομηχανίας AI εκφράζουν όλο και πιο έντονες ανησυχίες για το κατά πόσο οι σημερινές δικλίδες ασφαλείας μπορούν να ακολουθήσουν τον ρυθμό με τον οποίο βελτιώνονται τα μοντέλα.
Στελέχη μεγάλων εταιρειών έχουν ζητήσει αυστηρότερη αξιολόγηση των πιο προηγμένων συστημάτων και μεγαλύτερη πρόσβαση ανεξάρτητων ελεγκτών στις διαδικασίες δοκιμών.
Η Microsoft, με το νέο μανιφέστο, παίρνει σαφή θέση σε αυτή τη συζήτηση: η ανάπτυξη της Τεχνητής Νοημοσύνης δεν πρέπει να μετατραπεί σε έναν αγώνα ισχύος χωρίς όρια.
Το μήνυμα είναι ξεκάθαρο: η AI μπορεί να γίνει πιο ικανή, πιο χρήσιμη και πιο αυτόνομη, αλλά δεν πρέπει να πάψει να αποτελεί εργαλείο που λειτουργεί για τον άνθρωπο και υπό τον έλεγχό του.
Πηγή: Pagenews.gr
Διαβάστε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο
