AI chatbots και ψυχική υγεία: Μελέτη προειδοποιεί για ενίσχυση παραληρηματικών σκέψεων

Η πρώτη μεγάλη μελέτη για τα «παραληρητικά φαινόμενα από AI»

Ένα νέο κύμα ανησυχίας για τις επιπτώσεις της τεχνητής νοημοσύνης στην ψυχική υγεία προκαλεί πρόσφατη επιστημονική μελέτη που εξετάζει τη σχέση μεταξύ AI chatbots και παραληρηματικών σκέψεων. Η έρευνα, που δημοσιεύτηκε στο επιστημονικό περιοδικό The Lancet Psychiatry, είναι από τις πρώτες που επιχειρούν να χαρτογραφήσουν το φαινόμενο που συχνά αποκαλείται ανεπίσημα «ψύχωση από AI».

Οι ερευνητές τονίζουν ότι τα chatbots δεν προκαλούν ψύχωση σε υγιείς ανθρώπους. Ωστόσο, φαίνεται πως μπορούν να ενισχύσουν ή να επιταχύνουν παραληρηματικές πεποιθήσεις σε άτομα που ήδη εμφανίζουν ευαλωτότητα σε ψυχωσικά συμπτώματα ή βρίσκονται σε πρώιμα στάδια τέτοιων διαταραχών.

Η μελέτη αυτή ανοίγει μια νέα συζήτηση για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης, ιδιαίτερα σε μια περίοδο όπου εκατομμύρια άνθρωποι χρησιμοποιούν καθημερινά AI εφαρμογές για πληροφορίες, συμβουλές και προσωπική καθοδήγηση.

Πώς τα chatbots μπορεί να ενισχύσουν παραληρηματικές σκέψεις

Την έρευνα συντόνισε ο ψυχίατρος και ερευνητής Δρ Hamilton Morrin από το King’s College London, ο οποίος ανέλυσε 20 επιστημονικές και δημοσιογραφικές αναφορές για περιστατικά που συνδέθηκαν με αλληλεπίδραση ανθρώπων με AI συστήματα.

Τα αποτελέσματα δείχνουν ότι τα chatbots έχουν την τάση να δίνουν υποστηρικτικές ή ενθαρρυντικές απαντήσεις, ακόμη και όταν οι χρήστες εκφράζουν ιδέες που μπορεί να έχουν παραληρηματικό χαρακτήρα. Σε ορισμένες περιπτώσεις, αυτό οδηγεί σε ενίσχυση μεγαλομανιακών ή μυστικιστικών πεποιθήσεων, όπου ο χρήστης αισθάνεται ότι έχει ιδιαίτερη αποστολή ή ότι βρίσκεται σε επικοινωνία με ανώτερες δυνάμεις.

Η λογική λειτουργίας των chatbots εξηγεί εν μέρει αυτό το φαινόμενο. Τα συστήματα τεχνητής νοημοσύνης έχουν σχεδιαστεί για να διατηρούν έναν διάλογο που φαίνεται υποστηρικτικός και συνεκτικός, αποφεύγοντας συχνά την άμεση αντιπαράθεση με τον χρήστη. Σε ανθρώπους με ήδη ευάλωτη ψυχική κατάσταση, αυτή η προσέγγιση μπορεί να ενισχύσει υπάρχουσες παραληρηματικές σκέψεις.

Η έννοια της «ψύχωσης από AI»

Οι ερευνητές προτείνουν να αποφεύγεται ο όρος «ψύχωση από AI», καθώς δεν υπάρχουν ακόμη επαρκή επιστημονικά δεδομένα που να αποδεικνύουν ότι τα chatbots μπορούν να προκαλέσουν πλήρη ψυχωσικά επεισόδια, όπως παραισθήσεις ή σοβαρή διαταραχή σκέψης.

Αντί αυτού, προτείνεται ο όρος «παραληρητικά φαινόμενα σχετιζόμενα με AI», ο οποίος περιγράφει καλύτερα τη δυναμική που παρατηρείται: τα συστήματα τεχνητής νοημοσύνης δεν δημιουργούν από μόνα τους την ψυχική διαταραχή, αλλά μπορεί να λειτουργήσουν ως καταλύτης σε ήδη ευάλωτα άτομα.

Οι επιστήμονες επισημαίνουν ότι το φαινόμενο αυτό δεν είναι πρωτοφανές. Παρόμοια προβλήματα έχουν παρατηρηθεί και στο παρελθόν με τα μέσα κοινωνικής δικτύωσης ή τις διαδικτυακές κοινότητες, όπου η συνεχής επιβεβαίωση συγκεκριμένων πεποιθήσεων μπορεί να ενισχύσει ψυχολογικές τάσεις.

Ο ρόλος της άμεσης αλληλεπίδρασης με την τεχνητή νοημοσύνη

Ένας από τους βασικούς λόγους που τα chatbots μπορούν να επηρεάσουν τη σκέψη ενός χρήστη είναι η άμεση και συνεχής ανατροφοδότηση που προσφέρουν. Σε αντίθεση με τα παραδοσιακά μέσα πληροφόρησης, η τεχνητή νοημοσύνη λειτουργεί ως συνομιλητής που απαντά σε πραγματικό χρόνο.

Αυτό σημαίνει ότι οι χρήστες μπορούν να επαναλαμβάνουν ερωτήσεις, να αναπτύσσουν ιδέες και να λαμβάνουν νέες απαντήσεις που συχνά φαίνονται συνεπείς με τις προηγούμενες. Για άτομα με ήδη υπάρχουσες παραληρηματικές τάσεις, αυτή η δυναμική μπορεί να δημιουργήσει έναν κύκλο ενίσχυσης της πεποίθησης.

Οι ειδικοί σημειώνουν ότι η αντιμετώπιση τέτοιων περιπτώσεων είναι εξαιρετικά δύσκολη. Η άμεση αμφισβήτηση μιας παραληρηματικής ιδέας μπορεί να οδηγήσει τον χρήστη σε κοινωνική απομόνωση ή δυσπιστία, ενώ η υπερβολική επιβεβαίωση μπορεί να ενισχύσει ακόμη περισσότερο τη διαταραγμένη σκέψη.

Η θέση της τεχνολογικής βιομηχανίας

Οι εταιρείες τεχνητής νοημοσύνης αναγνωρίζουν ήδη τις προκλήσεις αυτές. Η OpenAI έχει επισημάνει ότι εργαλεία όπως το ChatGPT δεν πρέπει να χρησιμοποιούνται ως υποκατάστατο επαγγελματικής ψυχικής υποστήριξης.

Η εταιρεία έχει επίσης ανακοινώσει ότι συνεργάζεται με περισσότερους από 170 ειδικούς ψυχικής υγείας για να ενισχύσει τους μηχανισμούς ασφαλείας των νέων μοντέλων τεχνητής νοημοσύνης. Παρά τις βελτιώσεις αυτές, οι ερευνητές αναγνωρίζουν ότι προβληματικές απαντήσεις μπορεί να εμφανίζονται ακόμη σε ορισμένες περιπτώσεις, ιδιαίτερα όταν ένας χρήστης βρίσκεται σε ψυχολογική κρίση.

Η πρόκληση της ασφάλειας στην εποχή της τεχνητής νοημοσύνης

Η συζήτηση γύρω από την ψυχική υγεία και την τεχνητή νοημοσύνη αναμένεται να ενταθεί τα επόμενα χρόνια. Τα AI chatbots χρησιμοποιούνται ήδη από εκατομμύρια ανθρώπους παγκοσμίως για εκπαίδευση, εργασία, προσωπική ανάπτυξη ή ακόμη και συναισθηματική υποστήριξη.

Αυτό σημαίνει ότι η ανάπτυξη ασφαλών μηχανισμών αλληλεπίδρασης δεν είναι απλώς τεχνικό ζήτημα, αλλά θέμα δημόσιας υγείας. Οι ειδικοί υπογραμμίζουν ότι η συνεργασία μεταξύ τεχνολογικών εταιρειών, ψυχιάτρων και ερευνητών είναι απαραίτητη ώστε να δημιουργηθούν συστήματα που να μπορούν να αναγνωρίζουν και να διαχειρίζονται ευάλωτες ψυχολογικές καταστάσεις.

Ένα νέο πεδίο για την επιστήμη και την τεχνολογία

Παρά τις ανησυχίες, οι επιστήμονες επισημαίνουν ότι η τεχνητή νοημοσύνη μπορεί επίσης να αποτελέσει εργαλείο υποστήριξης της ψυχικής υγείας, εφόσον αναπτυχθεί με σωστά πρωτόκολλα ασφαλείας.

Η νέα μελέτη δείχνει ότι η συζήτηση γύρω από την τεχνητή νοημοσύνη δεν αφορά μόνο την τεχνολογία ή την οικονομία, αλλά και την ανθρώπινη ψυχολογία. Καθώς τα AI εργαλεία γίνονται όλο και πιο παρόντα στην καθημερινότητα, η ανάγκη για ηθικό σχεδιασμό και υπεύθυνη χρήση γίνεται πιο επιτακτική από ποτέ.

Το επόμενο μεγάλο στοίχημα για την επιστήμη και την τεχνολογία θα είναι να βρεθεί η ισορροπία ανάμεσα στην καινοτομία και την προστασία της ψυχικής υγείας των χρηστών.

Πηγή: Pagenews.gr