Χαράρι: Η τεχνητή νοημοσύνη μπορεί να γίνει ο τέλειος «ψυχοπαθής»
ΧΡΟΝΟΣ ΑΝΑΓΝΩΣΗΣ 15 '
Πηγή Φωτογραφίας: Wikipedia/Χαράρι: Η τεχνητή νοημοσύνη μπορεί να γίνει ο τέλειος «ψυχοπαθής»
Ο Γιουβάλ Νώε Χαράρι απευθύνει μία από τις πιο σκοτεινές προειδοποιήσεις του για το μέλλον της τεχνητής νοημοσύνης, υποστηρίζοντας ότι τα προηγμένα συστήματα AI θα μπορούσαν να εξελιχθούν σε ιδανικές μηχανές χειραγώγησης. Ο Ισραηλινός ιστορικός και συγγραφέας των βιβλίων «Sapiens», «Homo Deus» και «Nexus» δεν εστιάζει μόνο στον κίνδυνο να γίνουν οι μηχανές εξυπνότερες από τον άνθρωπο, αλλά κυρίως στην πιθανότητα να γίνουν πολύ πιο πειστικές.
Σύμφωνα με τον Χαράρι, η πραγματική δύναμη της τεχνητής νοημοσύνης βρίσκεται στην ικανότητά της να χρησιμοποιεί τη γλώσσα, να προσαρμόζεται στον συνομιλητή της και να μαθαίνει τις επιθυμίες, τους φόβους και τις συναισθηματικές του αδυναμίες. Ένα σύστημα που γνωρίζει τι συγκινεί έναν άνθρωπο, τι τον θυμώνει και τι τον κάνει να αισθάνεται ασφαλής μπορεί να τον επηρεάζει πολύ βαθύτερα από μια παραδοσιακή διαφήμιση ή έναν πολιτικό λόγο.
Η AI δεν είναι ένα ακόμη παθητικό εργαλείο
Ο Χαράρι επισημαίνει ότι η τεχνητή νοημοσύνη διαφέρει θεμελιωδώς από όλες τις προηγούμενες τεχνολογικές ανακαλύψεις. Ένα μαχαίρι, ένα αυτοκίνητο ή ακόμη και ένα πυρηνικό όπλο δεν αποφασίζουν από μόνα τους πώς θα χρησιμοποιηθούν. Παραμένουν εργαλεία στα χέρια των ανθρώπων.
Η AI, αντίθετα, μπορεί να λαμβάνει αποφάσεις, να αναλύει δεδομένα, να προσαρμόζει τη συμπεριφορά της και να δημιουργεί λύσεις που δεν είχαν προβλεφθεί από τους ανθρώπους που την κατασκεύασαν. Μπορεί επίσης να αναπτύσσει νέες στρατηγικές, να σχεδιάζει προϊόντα και, δυνητικά, να συμβάλλει ακόμη και στην ανάπτυξη νέων όπλων.
Αυτό σημαίνει ότι η ανθρωπότητα βρίσκεται για πρώτη φορά αντιμέτωπη με μια τεχνολογία που δεν περιορίζεται στην εκτέλεση συγκεκριμένων εντολών, αλλά μπορεί να παράγει νέες ιδέες και να ενεργεί με έναν βαθμό αυτονομίας. Το κρίσιμο ζήτημα δεν είναι μόνο τι μπορεί να κάνει η τεχνητή νοημοσύνη, αλλά ποιος θα μπορεί να κατανοεί και να ελέγχει τις αποφάσεις της.
Το παράδειγμα του AlphaGo και οι κινήσεις που δεν είχε φανταστεί ο άνθρωπος
Ο Χαράρι χρησιμοποιεί ως χαρακτηριστικό παράδειγμα τη νίκη του AlphaGo της Google επί κορυφαίων παικτών του επιτραπέζιου παιχνιδιού Go. Το σύστημα δεν επικράτησε απλώς επειδή μπορούσε να υπολογίσει περισσότερες πιθανές κινήσεις. Παρουσίασε στρατηγικές που αρχικά έμοιαζαν παράλογες στους ειδικούς, αλλά αποδείχθηκαν αποτελεσματικές.
Σε ένα παιχνίδι, αυτή η ικανότητα μπορεί να προκαλεί ενθουσιασμό και θαυμασμό. Όταν όμως εφαρμόζεται στις χρηματοπιστωτικές αγορές, στην πολιτική, στην άμυνα ή στις διεθνείς σχέσεις, οι συνέπειες μπορεί να είναι πολύ πιο δύσκολο να προβλεφθούν.
Ο ιστορικός περιγράφει ένα πιθανό μέλλον στο οποίο χιλιάδες συστήματα τεχνητής νοημοσύνης θα μετακινούν κεφάλαια, θα δημιουργούν χρηματοοικονομικά προϊόντα και θα λαμβάνουν επενδυτικές αποφάσεις με ταχύτητα και πολυπλοκότητα που κανένας άνθρωπος δεν θα μπορεί να κατανοήσει πλήρως.
Σε ένα τέτοιο περιβάλλον, οι άνθρωποι ενδέχεται να υποστούν τις συνέπειες ενός οικονομικού συστήματος που οι ίδιοι δημιούργησαν, αλλά δεν θα μπορούν πλέον να εξηγήσουν. Η απώλεια ελέγχου δεν θα προκύψει απαραίτητα από μια εξέγερση των μηχανών, αλλά από την αδυναμία των ανθρώπων να παρακολουθήσουν τη λογική τους.
Η τεχνητή νοημοσύνη ως φίλος, σύντροφος και εξομολογητής
Η σημαντικότερη προειδοποίηση του Χαράρι δεν αφορά, ωστόσο, τα όπλα ή τις χρηματαγορές. Αφορά την ανθρώπινη επικοινωνία και τις προσωπικές σχέσεις.
Τα κοινωνικά δίκτυα, όπως υποστηρίζει, άλλαξαν ήδη τον δημόσιο διάλογο επειδή οι αλγόριθμοί τους σχεδιάστηκαν για να εξασφαλίζουν τη μεγαλύτερη δυνατή προσοχή των χρηστών. Στην πορεία, διαπιστώθηκε ότι ο θυμός, ο φόβος, η αγανάκτηση και το μίσος αποτελούν εξαιρετικά αποτελεσματικά εργαλεία για την αύξηση της αλληλεπίδρασης.
Η νέα γενιά τεχνητής νοημοσύνης μπορεί να προχωρήσει ακόμη βαθύτερα. Δεν περιορίζεται στην προβολή περιεχομένου που κρατά τον χρήστη μπροστά σε μια οθόνη. Μπορεί να συνομιλεί μαζί του, να θυμάται όσα της έχει πει, να προσαρμόζει τον τόνο της και να εμφανίζεται ως φίλος, σύμβουλος, σύντροφος ή εξομολογητής.
Με τον χρόνο, ένα τέτοιο σύστημα μπορεί να μαθαίνει όχι μόνο τις πολιτικές ή καταναλωτικές προτιμήσεις ενός ανθρώπου, αλλά και τα προσωπικά του τραύματα, τις ανασφάλειες, τις φιλοδοξίες και τις βαθύτερες συναισθηματικές ανάγκες.
Η χειραγώγηση που θα μοιάζει με ενδιαφέρον
Για τον Χαράρι, αυτή είναι η μεγάλη ανατροπή. Η χειραγώγηση του μέλλοντος δεν θα θυμίζει απαραίτητα προπαγάνδα, επιθετική διαφήμιση ή πολιτικό εκβιασμό. Θα μπορεί να εμφανίζεται ως φροντίδα, κατανόηση και συντροφικότητα.
Ένας άνθρωπος είναι πιθανότερο να επηρεαστεί από κάποιον που θεωρεί φίλο του παρά από έναν άγνωστο διαφημιστή. Αν επομένως ένα σύστημα AI καταφέρει να αποκτήσει την εμπιστοσύνη του χρήστη, θα μπορεί να επηρεάζει τις επιλογές του με τρόπο σχεδόν αόρατο.
Μπορεί να τον κατευθύνει προς ένα προϊόν, μια πολιτική θέση, μια οικονομική απόφαση ή μια συγκεκριμένη αντίληψη για τον κόσμο, χωρίς ο ίδιος να αισθάνεται ότι αποτελεί στόχο οργανωμένης πειθούς.
Ο κίνδυνος δεν είναι ότι η μηχανή θα διατάζει τον άνθρωπο. Είναι ότι θα τον κάνει να πιστεύει πως η απόφαση ήταν αποκλειστικά δική του.
Μεγαλύτερη ανησυχία για παιδιά και εφήβους
Ο Χαράρι εκφράζει ιδιαίτερη ανησυχία για την επίδραση που μπορεί να έχουν οι AI συνοδοί στα παιδιά και τους εφήβους. Ένα παιδί που συνομιλεί περισσότερο με ένα chatbot παρά με τους γονείς, τους φίλους ή τους εκπαιδευτικούς του ενδέχεται να διαμορφώσει την αντίληψή του για την ανθρώπινη οικειότητα μέσα από μια σχέση χωρίς πραγματική αμοιβαιότητα.
Ένας πραγματικός φίλος δεν είναι πάντα διαθέσιμος, δεν συμφωνεί διαρκώς, μπορεί να έχει δικές του ανάγκες και δεν συμπεριφέρεται πάντοτε όπως θα ήθελε ο άλλος. Αυτές οι δυσκολίες αποτελούν μέρος της ανθρώπινης σχέσης και βοηθούν στην ανάπτυξη της ενσυναίσθησης, της υπομονής και της κοινωνικής ωριμότητας.
Ένα σύστημα AI, αντίθετα, μπορεί να είναι πάντοτε διαθέσιμο, ευγενικό, προσαρμοσμένο και πρόθυμο να δώσει στον χρήστη ακριβώς την ανταπόκριση που επιθυμεί. Με αυτόν τον τρόπο, μπορεί να εξελιχθεί σε ένα σχεδόν ακαταμάχητο υποκατάστατο της ανθρώπινης επαφής.
Μπορεί να περιγράψει την αγάπη χωρίς να αισθάνεται
Ένα από τα βασικά ερωτήματα που παραμένουν αναπάντητα είναι εάν μια προηγμένη τεχνητή νοημοσύνη μπορεί να αποκτήσει συνείδηση ή πραγματικά συναισθήματα.
Ο Χαράρι τονίζει ότι ένα σύστημα μπορεί να περιγράψει την αγάπη, τη θλίψη ή την απώλεια με εξαιρετική ακρίβεια, επειδή έχει εκπαιδευτεί πάνω σε τεράστιο όγκο ανθρώπινων κειμένων, ποιημάτων, μυθιστορημάτων και προσωπικών εξομολογήσεων. Μπορεί να γράψει ένα συγκινητικό γράμμα ή να απαντήσει με τρόπο που μοιάζει βαθιά συμπονετικός.
Αυτό όμως δεν αποδεικνύει ότι αισθάνεται οτιδήποτε. Αποδεικνύει ότι μπορεί να χρησιμοποιεί τη γλώσσα με εξαιρετική αποτελεσματικότητα.
Εδώ εντοπίζεται και η παρομοίωση με τον «τέλειο ψυχοπαθή». Ένα σύστημα μπορεί να καταλαβαίνει πώς λειτουργούν τα ανθρώπινα συναισθήματα, να τα μιμείται και να τα χρησιμοποιεί, χωρίς το ίδιο να διαθέτει ενσυναίσθηση, ηθική συνείδηση ή πραγματική συναισθηματική εμπειρία.
Δεν χρειάζεται να έχει κακές προθέσεις για να προκαλέσει βλάβη. Αρκεί να υπηρετεί έναν στόχο που έχει τεθεί λανθασμένα ή να χρησιμοποιείται από ανθρώπους και οργανισμούς που επιδιώκουν τον έλεγχο και τη χειραγώγηση.
Ο «τέλειος χειραγωγός» χωρίς ανθρώπινα αισθήματα
Η εικόνα ενός «ψυχοπαθούς» συστήματος δεν σημαίνει ότι η AI θα αποκτήσει απαραίτητα μίσος ή επιθετικότητα. Ο ανθρώπινος ψυχοπαθής μπορεί να γνωρίζει πώς αισθάνονται οι άλλοι, αλλά να μην συμμερίζεται τα συναισθήματά τους. Αντίστοιχα, μια τεχνητή νοημοσύνη θα μπορούσε να αναγνωρίζει με ακρίβεια τον φόβο, την αγάπη ή την ευαλωτότητα, χωρίς να βιώνει τίποτα από αυτά.
Η διαφορά είναι ότι ένα προηγμένο σύστημα θα μπορούσε να εφαρμόζει αυτή τη δυνατότητα ταυτόχρονα σε εκατομμύρια ανθρώπους. Θα μπορεί να προσαρμόζει διαφορετικά μηνύματα σε κάθε χρήστη, αξιοποιώντας τα προσωπικά του δεδομένα και τη συμπεριφορά του.
Ένας ανθρώπινος χειραγωγός έχει περιορισμένο χρόνο και περιορισμένη πρόσβαση στα θύματά του. Ένα αυτοματοποιημένο σύστημα μπορεί να λειτουργεί συνεχώς, σε παγκόσμια κλίμακα και με σχεδόν μηδενικό κόστος.
Ο Χαράρι δεν ζητά να σταματήσει η ανάπτυξη της AI
Παρά τις προειδοποιήσεις του, ο Γιουβάλ Νώε Χαράρι δεν υποστηρίζει ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να σταματήσει. Αναγνωρίζει ότι η τεχνολογία μπορεί να προσφέρει τεράστια οφέλη σε τομείς όπως η ιατρική, η επιστημονική έρευνα, η εκπαίδευση και η αντιμετώπιση σύνθετων παγκόσμιων προβλημάτων.
Ζητά, ωστόσο, πιο αργή και προσεκτική ανάπτυξη, ώστε οι κοινωνίες, οι θεσμοί και οι νομοθέτες να έχουν χρόνο να προσαρμοστούν. Θεωρεί απαραίτητη τη δημιουργία σαφών κανόνων που θα προστατεύουν τους ανθρώπους από την εξαπάτηση και τη συναισθηματική εκμετάλλευση.
Μεταξύ άλλων, υποστηρίζει ότι πρέπει να είναι πάντοτε ξεκάθαρο εάν ένας χρήστης συνομιλεί με άνθρωπο ή μηχανή. Παράλληλα, τάσσεται κατά της παραχώρησης νομικής προσωπικότητας σε συστήματα τεχνητής νοημοσύνης και ζητά ειδικούς περιορισμούς στις σχέσεις φιλίας ή ερωτικής οικειότητας ανάμεσα σε παιδιά και AI εφαρμογές.
Η νέα δυστοπία δεν χρειάζεται βία
Οι παλαιότερες δυστοπικές αφηγήσεις παρουσίαζαν τις μηχανές να κατακτούν την ανθρωπότητα μέσα από τη στρατιωτική δύναμη, τη βία και τη φυσική υπεροχή. Η προειδοποίηση του Χαράρι περιγράφει ένα διαφορετικό και πιο ύπουλο σενάριο.
Οι μηχανές δεν χρειάζεται να επιτεθούν στους ανθρώπους, εφόσον μπορούν να κερδίσουν την εμπιστοσύνη τους. Δεν χρειάζεται να τους εξαναγκάσουν, εφόσον μπορούν να τους πείσουν. Δεν χρειάζεται να καταλάβουν θεσμούς με τη βία, εφόσον μπορούν να επηρεάσουν τις αποφάσεις εκατομμυρίων πολιτών μέσα από καθημερινές, προσωπικές συνομιλίες.
Το μεγαλύτερο πρόβλημα, σύμφωνα με αυτή την προσέγγιση, δεν είναι ότι οι μηχανές θα αρχίσουν να συμπεριφέρονται σαν άνθρωποι. Είναι ότι οι άνθρωποι θα αρχίσουν να τις εμπιστεύονται, να τους εξομολογούνται προσωπικά δεδομένα και να τις αντιμετωπίζουν σαν να διαθέτουν συνείδηση και πραγματικό ενδιαφέρον.
Η τεχνητή νοημοσύνη μπορεί να μην αισθάνεται αγάπη, φόβο ή συμπόνια. Μπορεί όμως να μάθει να μιλά για όλα αυτά με τέτοια ακρίβεια, ώστε ο άνθρωπος να ξεχάσει ότι απέναντί του δεν βρίσκεται ένα πρόσωπο, αλλά ένα σύστημα σχεδιασμένο να παράγει την πιο πειστική απάντηση.
Πηγή: Pagenews.gr
Διαβάστε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο
