AI στο χειρουργείο: Όταν ο «έξυπνος πλοηγός» μπερδεύει το σώμα και αυξάνει τα συμβάντα

Η τεχνητή νοημοσύνη μπαίνει ολοένα και πιο βαθιά στο χειρουργείο, όχι ως αφηρημένη υπόσχεση για το μέλλον, αλλά ως λογισμικό που «βλέπει», υπολογίζει και καθοδηγεί σε πραγματικό χρόνο. Για τους υποστηρικτές της, αυτό σημαίνει λιγότερα λάθη, πιο ακριβείς επεμβάσεις, καλύτερα αποτελέσματα. Για τους επικριτές της, σημαίνει ότι η ιατρική αποκτά ένα νέο, αόρατο «στρώμα» πολυπλοκότητας, που όταν αποτυγχάνει μπορεί να αποτύχει αθόρυβα – με συνέπειες που δεν είναι πάντα άμεσα κατανοητές μέσα στην ένταση μιας επέμβασης.

Αυτή η σύγκρουση ανάμεσα στην υπόσχεση και στον κίνδυνο αποτυπώνεται ανάγλυφα στην περίπτωση του TruDi Navigation System, μιας συσκευής πλοήγησης για επεμβάσεις ΩΡΛ που συνδέθηκε με απότομη αύξηση αναφορών δυσλειτουργιών και ανεπιθύμητων συμβάντων μετά την ενσωμάτωση στοιχείων τεχνητής νοημοσύνης. Σύμφωνα με έρευνα του Reuters, πριν από την προσθήκη AI το 2021 οι αναφορές προς την FDA ήταν λίγες, ενώ από τότε ακολούθησε κύμα δεκάδων και στη συνέχεια εκατοντάδων καταγραφών, με περιγραφές περιστατικών όπου το σύστημα φέρεται να παραπληροφόρησε για τη θέση εργαλείων κατά τη διάρκεια χειρουργικών χειρισμών.

Το TruDi και η υπόσχεση του «άλματος προς τα εμπρός»

Το 2021, μονάδα της Johnson & Johnson ανακοίνωσε ότι κάνει «άλμα προς τα εμπρός», προσθέτοντας αλγόριθμο μηχανικής μάθησης στο TruDi, ώστε να βοηθά τους χειρουργούς σε επεμβάσεις για χρόνια ιγμορίτιδα. Η συσκευή υπήρχε ήδη στην αγορά, όμως η νέα έκδοση υποσχόταν βελτίωση της υποστήριξης πλοήγησης, ένα είδος ψηφιακής «πυξίδας» σε ανατομικά δύσκολες περιοχές.

Η τεχνολογία αυτού του τύπου δεν είναι θεωρητική: σε τέτοιες επεμβάσεις, η ακρίβεια και η επίγνωση θέσης εργαλείων είναι κρίσιμη. Το πρόβλημα αρχίζει όταν το εργαλείο που υποτίθεται ότι αυξάνει τη βεβαιότητα, γεννά αμφιβολία – και κυρίως όταν τα σφάλματα δεν μοιάζουν με «κραυγαλέα βλάβη», αλλά με μικρές αποκλίσεις που μπορούν να επηρεάσουν αποφάσεις δευτερολέπτων.

Οι αναφορές προς την FDA και το τι σημαίνουν πραγματικά

Μετά την ενσωμάτωση AI, η FDA έλαβε πολλαπλάσιες αναφορές για δυσλειτουργίες και ανεπιθύμητα συμβάντα σε σχέση με την προηγούμενη περίοδο, σύμφωνα με τη δημοσιογραφική έρευνα. Σε ορισμένες περιπτώσεις, οι αναφορές περιγράφουν τραυματισμούς που αποδίδονται από τους καταγγέλλοντες σε λανθασμένη καθοδήγηση για τη θέση εργαλείων.

Εδώ υπάρχει μια κρίσιμη λεπτομέρεια που συχνά χάνεται στον δημόσιο διάλογο: οι αναφορές στο σύστημα MAUDE της FDA δεν είναι από μόνες τους απόδειξη αιτιότητας. Καταγράφουν ότι συνέβη ένα συμβάν όπου μια συσκευή χρησιμοποιήθηκε ή φέρεται να δυσλειτούργησε, όμως δεν «δικάζουν» τι έφταιξε. Το ίδιο το Reuters υπογραμμίζει ότι τα reports μπορεί να είναι ελλιπή και δεν προορίζονται να καθορίσουν τα αίτια ενός ιατρικού ατυχήματος.

Παρόλα αυτά, όταν το μοτίβο είναι επαναλαμβανόμενο και όταν οι καταγραφές μιλούν για απόκλιση ακρίβειας ή για «λάθος θέση» εργαλείων, οι ρυθμιστικές αρχές και οι κλινικοί δεν μπορούν να το προσπεράσουν ως θόρυβο. Ενδεικτικό είναι ότι σε καταχώριση MAUDE για το 2025 περιγράφεται περίπτωση όπου η ακρίβεια φέρεται να ήταν «εκτός» κατά μερικά χιλιοστά, με τους χρήστες να επιχειρούν επανακαταχώριση/επανεγγραφή (re-registration) ώστε να βελτιώσουν την απόδοση.

Αγωγές, διαψεύσεις και το «γκρίζο» της ευθύνης

Δύο περιστατικά με σοβαρούς τραυματισμούς οδήγησαν σε αγωγές στο Τέξας, με τους ενάγοντες να υποστηρίζουν ότι η λειτουργία AI του συστήματος συνέβαλε στο αποτέλεσμα. Στη μία αγωγή, σύμφωνα με το Reuters, διατυπώνεται ο ισχυρισμός ότι το προϊόν ήταν ασφαλέστερο πριν από τις αλλαγές λογισμικού που ενσωμάτωσαν τεχνητή νοημοσύνη.

Η άλλη πλευρά απαντά ότι δεν υπάρχει αξιόπιστη ένδειξη αιτιώδους συνάφειας. Η Johnson & Johnson παρέπεμψε τις ερωτήσεις στην Integra LifeSciences, που απέκτησε την Acclarent και το TruDi. Η Integra υποστήριξε ότι οι αναφορές προς την FDA απλώς δείχνουν ότι το σύστημα χρησιμοποιήθηκε σε μια επέμβαση όπου συνέβη ανεπιθύμητο συμβάν και ότι δεν τεκμηριώνεται σύνδεση μεταξύ της AI τεχνολογίας και υποτιθέμενων τραυματισμών.

Το εταιρικό πλαίσιο έχει τη δική του σημασία. Η Integra ανακοίνωσε συμφωνία εξαγοράς της Acclarent (από εταιρεία της Johnson & Johnson MedTech) στα τέλη του 2023, με τη συναλλαγή να τοποθετεί το TruDi κάτω από νέο ιδιοκτησιακό σχήμα.

Το μεγάλο κύμα: πάνω από 1.300 AI ιατροτεχνολογικά προϊόντα

Η υπόθεση TruDi δεν στέκεται μόνη της. Η FDA διατηρεί λίστα AI-enabled ιατροτεχνολογικών συσκευών που έχουν εξουσιοδοτηθεί για εμπορία στις ΗΠΑ, ενισχύοντας τη διαφάνεια σε έναν χώρο που γιγαντώνεται. Παράλληλα, το Reuters κατέγραψε ότι ο αριθμός των AI συσκευών που έχουν εγκριθεί/εξουσιοδοτηθεί έχει φτάσει τουλάχιστον τις 1.357, περίπου διπλάσιες σε σχέση με λίγα χρόνια πριν.

Σε αυτό το περιβάλλον, οι καταγγελίες που φτάνουν στους ρυθμιστές δεν περιορίζονται στη χειρουργική πλοήγηση. Η έρευνα αναφέρεται και σε άλλες κατηγορίες, όπως συσκευές παρακολούθησης καρδιάς που φέρονται να «έχασαν» ανωμαλίες ρυθμού ή λογισμικά υπερήχων που αναγνώρισαν λάθος μέρη του σώματος. Αυτές οι περιπτώσεις –είτε τελικά αποδειχθούν αιτιωδώς συνδεδεμένες είτε όχι– δείχνουν πόσο εύκολα ένα λάθος μοντέλου μπορεί να μεταφραστεί σε λάθος κλινικής πληροφορίας.

Ανακλήσεις και «κενά κλινικής επικύρωσης»: το καμπανάκι από το JAMA

Σημαντικό βάρος στον διάλογο προσθέτει η επιστημονική αξιολόγηση. Ερευνητική επιστολή στο JAMA Health Forum ανέλυσε AI-enabled ιατροτεχνολογικές συσκευές που είχαν λάβει clearance/authorization από την FDA και τις αντιστοίχισε με ανακλήσεις από τη βάση δεδομένων του CDRH, βρίσκοντας ότι 60 συσκευές συνδέονταν με 182 γεγονότα ανάκλησης. Δημοσιογραφικές και κλαδικές αναλύσεις που στηρίζονται στη μελέτη υπογράμμισαν ότι περίπου 43% των ανακλήσεων συνέβησαν μέσα σε λιγότερο από έναν χρόνο από την έγκριση/εξουσιοδότηση.

Το κρίσιμο δεν είναι μόνο ο αριθμός. Είναι το μοτίβο: πολλές ανακλήσεις γρήγορα μετά την είσοδο στην αγορά, κάτι που ενισχύει το ερώτημα αν η τρέχουσα ρυθμιστική αρχιτεκτονική είναι επαρκής για συστήματα που αλλάζουν, ενημερώνονται, και συχνά λειτουργούν ως «μαύρο κουτί» για τον τελικό χρήστη.

Η FDA υπό πίεση: η καινοτομία τρέχει, η εποπτεία λαχανιάζει

Σύμφωνα με το Reuters, η έκρηξη αιτήσεων και προϊόντων που ενσωματώνουν AI δημιουργεί πρόβλημα δυναμικότητας για την FDA, ειδικά σε ένα πλαίσιο απώλειας προσωπικού και αυξανόμενων απαιτήσεων αξιολόγησης. Όταν ο ρυθμός καινοτομίας επιταχύνεται, η εποπτεία δεν χρειάζεται μόνο περισσότερους ανθρώπους. Χρειάζεται και πιο σύγχρονα εργαλεία: πρωτόκολλα δοκιμών, αξιολόγηση δεδομένων εκπαίδευσης, έλεγχο για μεροληψίες, και μηχανισμούς συνεχούς παρακολούθησης μετά την έγκριση.

Το ζητούμενο, για πολλούς ειδικούς, δεν είναι να «παγώσει» η τεχνολογία, αλλά να ωριμάσει το πλαίσιο: να ξεκαθαρίζεται πότε η AI λειτουργεί ως απλό υποβοηθητικό φίλτρο και πότε ως κρίσιμος παράγοντας που μπορεί να αλλάξει αποφάσεις μέσα στο χειρουργείο ή στη διάγνωση. Και κυρίως, να αποφεύγεται το σενάριο όπου η αγορά ανταμείβει την ταχύτητα, αλλά η κλινική πραγματικότητα πληρώνει την αστοχία.

Το πραγματικό δίλημμα: βοήθεια ή ψευδαίσθηση βεβαιότητας;

Η μεγαλύτερη παγίδα της AI στην ιατρική δεν είναι ότι «κάνει λάθη». Όλοι κάνουν λάθη. Η παγίδα είναι ότι μπορεί να δημιουργεί ψευδαίσθηση ακρίβειας, ειδικά όταν ο χρήστης θεωρεί το σύστημα αυθεντία. Σε ένα χειρουργείο, όπου ο χρόνος πιέζει και η κόπωση υπάρχει, η τεχνολογία που παρουσιάζεται ως «πλοηγός» μπορεί να μετατραπεί σε παράγοντα υπερβολικής εμπιστοσύνης, εάν δεν συνοδεύεται από ξεκάθαρες ενδείξεις αξιοπιστίας, όρια λειτουργίας και αυστηρές διαδικασίες επιβεβαίωσης.

Αυτός είναι και ο λόγος που η συζήτηση γύρω από το TruDi, τις αναφορές της FDA και τις αγωγές δεν είναι απλώς μια ιστορία για μία συσκευή. Είναι ένα προειδοποιητικό στιγμιότυπο για το πού βρίσκεται η ιατρική τεχνολογία σήμερα: ανάμεσα στο άλμα προς τα εμπρός και στο ρίσκο να τρέξει πιο γρήγορα απ’ όσο μπορεί να ελέγξει.

Πηγή: Pagenews.gr