«Επικίνδυνο και ανησυχητικό»: Η Google αφαιρεί ορισμένες AI Overviews για την υγεία

Η Google προχώρησε στην αφαίρεση ορισμένων AI Overviews (περιλήψεων δημιουργημένων από τεχνητή νοημοσύνη) που αφορούν θέματα υγείας, μετά από έρευνα του Guardian που αποκάλυψε ότι οι χρήστες διατρέχουν σοβαρό κίνδυνο βλάβης από ανακριβείς και παραπλανητικές πληροφορίες.

Οι AI Overviews, που εμφανίζονται στην κορυφή των αποτελεσμάτων αναζήτησης, χρησιμοποιούν γενετική τεχνητή νοημοσύνη για να παρέχουν γρήγορα «στιγμιότυπα» βασικών πληροφοριών. Η Google τις χαρακτηρίζει «χρήσιμες» και «αξιόπιστες», αλλά η έρευνα έδειξε ότι σε ορισμένες περιπτώσεις παρείχαν επικίνδυνα λανθασμένα δεδομένα, ιδιαίτερα σε ευαίσθητα ιατρικά θέματα.

Η «επικίνδυνη» περίπτωση των εξετάσεων ηπατικής λειτουργίας

Σε μια από τις πιο ανησυχητικές περιπτώσεις, η αναζήτηση «ποιο είναι το φυσιολογικό εύρος των εξετάσεων αίματος για το ήπαρ» οδηγούσε σε μια λίστα αριθμών χωρίς επαρκές πλαίσιο και χωρίς καμία αναφορά σε εθνικότητα, φύλο ή ηλικία – παράγοντες που επηρεάζουν δραματικά τα φυσιολογικά όρια.

Οι ειδικοί χαρακτήρισαν την κατάσταση «εξαιρετικά επικίνδυνη» και «ανησυχητική», καθώς οι αριθμοί που παρουσιάζονταν ως «φυσιολογικοί» θα μπορούσαν να οδηγήσουν ασθενείς με σοβαρή ηπατική νόσο να πιστέψουν λανθασμένα ότι είναι υγιείς και να παραλείψουν τις απαραίτητες ιατρικές επισκέψεις.

Μετά την αποκάλυψη, η Google αφαίρεσε τις συγκεκριμένες AI Overviews για τις αναζητήσεις «ποιο είναι το φυσιολογικό εύρος για τις εξετάσεις αίματος του ήπατος» και «ποιο είναι το φυσιολογικό εύρος για τις εξετάσεις της ηπατικής λειτουργίας».

Η αντίδραση των ειδικών – «Δεν αντιμετωπίζεται το μεγαλύτερο πρόβλημα»

Η Βανέσα Χέμπντιτς, διευθύντρια επικοινωνίας και πολιτικής στο British Liver Trust, χαιρέτισε την απόφαση, αλλά τόνισε ότι το πρόβλημα παραμένει:

«Αυτά είναι εξαιρετικά νέα και είμαστε ευχαριστημένοι που διαγράφηκαν οι Google AI Overviews σε αυτές τις περιπτώσεις. Ωστόσο, αν η ερώτηση τεθεί με διαφορετικό τρόπο, μπορεί να δοθεί μια πιθανώς παραπλανητική AI Overview και εξακολουθούμε να ανησυχούμε ότι άλλες πληροφορίες για την υγεία που παράγονται από την τεχνητή νοημοσύνη μπορεί να είναι ανακριβείς και να προκαλούν σύγχυση».

Η Χέμπντιτς εξήγησε ότι οι εξετάσεις ηπατικής λειτουργίας (LFT) είναι πολύπλοκες και δεν αρκεί η απλή σύγκριση αριθμών. Οι AI Overviews παρουσίαζαν μια «λίστα με έντονη γραφή», κάνοντας τους χρήστες να παραβλέπουν ότι τα «φυσιολογικά» αποτελέσματα μπορεί να κρύβουν σοβαρή νόσο.

Παραπλανητικές παραλλαγές – Το πρόβλημα συνεχίζεται

Ο Guardian διαπίστωσε ότι παραλλαγές των ερωτημάτων (π.χ. «LFT reference range» ή «LFT test reference range») εξακολουθούσαν να εμφανίζουν AI Overviews με παρόμοια ανακριβή δεδομένα. Αυτό, σύμφωνα με τους ειδικούς, καθιστά την αφαίρεση μόνο μεμονωμένων φράσεων ανεπαρκή λύση.

Η Σου Φάρινγκτον, πρόεδρος του Patient Information Forum, χαιρέτισε την κίνηση αλλά τόνισε:

«Αυτό είναι ένα καλό αποτέλεσμα, αλλά είναι μόνο το πρώτο βήμα για να διατηρηθεί η εμπιστοσύνη στα αποτελέσματα αναζήτησης της Google που σχετίζονται με την υγεία. Υπάρχουν ακόμα πάρα πολλά παραδείγματα όπου οι περιλήψεις της τεχνητής νοημοσύνης της Google παρέχουν στους ανθρώπους ανακριβείς πληροφορίες για την υγεία».

Η απάντηση της Google

Εκπρόσωπος της Google δήλωσε:

«Δεν σχολιάζουμε μεμονωμένες διαγραφές στο Search. Σε περιπτώσεις όπου οι AI Overviews παραλείπουν κάποιο πλαίσιο, προσπαθούμε να κάνουμε γενικές βελτιώσεις και, όπου κρίνεται σκόπιμο, λαμβάνουμε μέτρα σύμφωνα με τις πολιτικές μας».

Η εταιρεία εξετάζει τα νέα παραδείγματα που της παρέχονται από τον Guardian, αλλά δεν έχει ανακοινώσει ευρύτερες αλλαγές στις AI Overviews για θέματα υγείας.

Το μεγαλύτερο πρόβλημα παραμένει

Οι ειδικοί συμφωνούν ότι η κατάργηση ορισμένων φράσεων είναι θετική, αλλά δεν αντιμετωπίζει το κεντρικό ζήτημα: η γενετική τεχνητή νοημοσύνη της Google εξακολουθεί να παρέχει ανακριβείς, ατελείς ή παραπλανητικές πληροφορίες για την υγεία σε εκατομμύρια χρήστες παγκοσμίως. Εκατομμύρια ενήλικες ήδη δυσκολεύονται να βρουν αξιόπιστες πληροφορίες υγείας – και οι AI Overviews ενδέχεται να επιδεινώνουν το πρόβλημα αντί να το λύνουν.

Η Google καλείται να κατευθύνει τους χρήστες αποκλειστικά σε αξιόπιστες πηγές (οργανισμούς υγείας, ιατρικά sites) και να σταματήσει να παράγει ιατρικές πληροφορίες χωρίς επαρκές πλαίσιο, ενημέρωση και προειδοποιήσεις.

Πηγή: Pagenews.gr