Τεχνητή νοημοσύνη: Αναφορές για αποτυχημένες χειρουργικές επεμβάσεις και λάθος αναγνώριση μερών του σώματος

Το 2021, μια μονάδα του γίγαντα της υγειονομικής περίθαλψης Johnson & Johnson ανακοίνωσε «ένα άλμα προς τα εμπρός»: Είχε προσθέσει τεχνητή νοημοσύνη σε μια ιατρική συσκευή που χρησιμοποιείται για τη θεραπεία της χρόνιας ιγμορίτιδας, μιας φλεγμονής των ιγμόριων. Η Acclarent δήλωσε ότι το λογισμικό για το σύστημα πλοήγησης TruDi θα χρησιμοποιεί πλέον έναν αλγόριθμο μηχανικής μάθησης για να βοηθά τους ωτορινολαρυγγολόγους σε χειρουργικές επεμβάσεις.

Τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη έχουν πλέον εγκριθεί από τον FDA – διπλάσιος αριθμός από αυτόν που είχε επιτρέψει έως το 2022.

Η συσκευή κυκλοφορούσε ήδη στην αγορά για περίπου τρία χρόνια. Μέχρι τότε, η Υπηρεσία Τροφίμων και Φαρμάκων των ΗΠΑ είχε λάβει ανεπιβεβαίωτες αναφορές για επτά περιπτώσεις δυσλειτουργίας της συσκευής και μια ακόμη αναφορά για τραυματισμό ασθενούς. Από τότε που προστέθηκε η Τεχνητή Νοημοσύνη στη συσκευή, ο FDA έχει λάβει ανεπιβεβαίωτες αναφορές για τουλάχιστον 100 δυσλειτουργίες και ανεπιθύμητα συμβάντα.

Η εταιρεία ιατρικών συσκευών Acclarent πρόσθεσε τεχνητή νοημοσύνη στο σύστημα πλοήγησης TruDi για να βοηθήσει τους γιατρούς με χειρουργικές επεμβάσεις κόλπων. Μια ανάρτηση στο Twitter της εταιρείας τον Οκτώβριο του 2021 παρουσίασε τις νέες λειτουργίες τεχνητής νοημοσύνης. Στιγμιότυπο οθόνης μέσω REUTERS

Τουλάχιστον 10 άτομα τραυματίστηκαν μεταξύ τελών του 2021 και Νοεμβρίου 2025, σύμφωνα με τις αναφορές στις οποίες αναφέρεται ρεπορτάζ του Reuters. Τα περισσότερα περιστατικά φέρονται να αφορούσαν σφάλματα στα οποία το σύστημα πλοήγησης TruDi παραπληροφόρησε τους χειρουργούς σχετικά με τη θέση των εργαλείων τους, ενώ τα χρησιμοποιούσαν μέσα στα κεφάλια των ασθενών κατά τη διάρκεια των επεμβάσεων.

Σύμφωνα με πληροφορίες, εγκεφαλονωτιαίο υγρό διέρρευσε από τη μύτη ενός ασθενούς. Σε μια άλλη αναφερόμενη περίπτωση, ένας χειρουργός τρύπησε κατά λάθος τη βάση του κρανίου ενός ασθενούς. Σε δύο άλλες περιπτώσεις, ασθενείς φέρονται να υπέστησαν εγκεφαλικά επεισόδια μετά από τυχαίο τραυματισμό μιας μεγάλης αρτηρίας.

Οι αναφορές της FDA για τις συσκευές ενδέχεται να είναι ελλιπείς και δεν αποσκοπούν στον προσδιορισμό των αιτιών των ιατρικών ατυχημάτων, επομένως δεν είναι σαφές ποιος είναι ο ρόλος που μπορεί να έπαιξε η Τεχνητή Νοημοσύνη σε αυτά τα συμβάντα. Τα δύο θύματα εγκεφαλικού επεισοδίου υπέβαλαν αγωγή στο Τέξας, ισχυριζόμενα ότι η Τεχνητή Νοημοσύνη του συστήματος TruDi συνέβαλε στους τραυματισμούς τους. «Το προϊόν ήταν αναμφισβήτητα ασφαλέστερο πριν από την ενσωμάτωση αλλαγών στο λογισμικό για την ενσωμάτωση της τεχνητής νοημοσύνης παρά μετά την εφαρμογή των τροποποιήσεων στο λογισμικό», ισχυρίζεται μία από τις αγωγές.

Το Reuters δεν μπόρεσε να επαληθεύσει ανεξάρτητα τους ισχυρισμούς των αγωγών.

Ερωτηθείσα σχετικά με τις εκθέσεις του FDA σχετικά με τη συσκευή TruDi, η Johnson & Johnson παρέπεμψε σε ερωτήσεις στην Integra LifeSciences, η οποία το 2024 αγόρασε την Acclarent και το Σύστημα Πλοήγησης TruDi. Η Integra LifeSciences δήλωσε ότι οι εκθέσεις «δεν κάνουν τίποτα περισσότερο από το να υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιούνταν σε μια χειρουργική επέμβαση όπου έλαβε χώρα ένα ανεπιθύμητο συμβάν». Πρόσθεσε ότι «δεν υπάρχουν αξιόπιστα στοιχεία που να δείχνουν οποιαδήποτε αιτιώδη σύνδεση μεταξύ του Συστήματος Πλοήγησης TruDi, της τεχνολογίας τεχνητής νοημοσύνης και τυχόν φερόμενων τραυματισμών».

Ένα βίντεο που δημοσιεύτηκε από την Acclarent στο LinkedIn παρουσιάζει μια λειτουργία τεχνητής νοημοσύνης στο σύστημα πλοήγησης TruDi. Το TruPath, όπως ονομάζεται, δείχνει στους χειρουργούς «τη συντομότερη, έγκυρη διαδρομή μεταξύ δύο σημείων». Στιγμιότυπο οθόνης μέσω REUTERS

Τεχνητή Νοημοσύνη και υγειονομική περίθαλψη

Η γνώση των περιστατικών έρχεται καθώς η Τεχνητή Νοημοσύνη αρχίζει να μεταμορφώνει τον κόσμο της υγειονομικής περίθαλψης. Οι υποστηρικτές προβλέπουν ότι η νέα τεχνολογία θα βοηθήσει στην εύρεση θεραπειών για σπάνιες ασθένειες, στην ανακάλυψη νέων φαρμάκων, στην ενίσχυση των δεξιοτήτων των χειρουργών και στην ενδυνάμωση των ασθενών. Ωστόσο, μια ανασκόπηση του Reuters για τα αρχεία ασφαλείας και τα νομικά αρχεία, καθώς και συνεντεύξεις με γιατρούς, νοσηλευτές, επιστήμονες και ρυθμιστικές αρχές, καταγράφει ορισμένους από τους κινδύνους της Τεχνητής Νοημοσύνης στην ιατρική, καθώς οι κατασκευαστές συσκευών, οι τεχνολογικοί γίγαντες και οι προγραμματιστές λογισμικού αγωνίζονται να την εφαρμόσουν.

Τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη έχουν πλέον εγκριθεί από τον FDA – διπλάσιος αριθμός από αυτόν που είχε επιτρέψει έως το 2022. Το σύστημα TruDi δεν είναι το μόνο που αμφισβητείται: Ο FDA έχει λάβει αναφορές που αφορούν δεκάδες άλλες συσκευές ενισχυμένες με τεχνητή νοημοσύνη, συμπεριλαμβανομένου ενός καρδιακού μόνιτορ που λέγεται ότι παρέβλεψε μη φυσιολογικούς καρδιακούς παλμούς και μιας συσκευής υπερήχων που φέρεται να αναγνώρισε εσφαλμένα μέρη του σώματος του εμβρύου.

Ερευνητές από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσαν πρόσφατα ότι 60 ιατρικές συσκευές που είχαν εγκριθεί από τον FDA και χρησιμοποιούν τεχνητή νοημοσύνη συνδέονταν με 182 ανακλήσεις προϊόντων, σύμφωνα με ερευνητική επιστολή που δημοσιεύτηκε στο JAMA Health Forum τον Αύγουστο. Η ανασκόπησή τους έδειξε ότι το 43% των ανακλήσεων πραγματοποιήθηκε λιγότερο από ένα χρόνο αφότου οι συσκευές έλαβαν το πράσινο φως. Αυτό είναι περίπου το διπλάσιο ποσοστό ανάκλησης όλων των συσκευών που έχουν εγκριθεί βάσει παρόμοιων κανόνων του FDA, σημείωσε η ανασκόπηση.

Η άνθηση της τεχνητής νοημοσύνης θέτει πρόβλημα για τον FDA, δήλωσαν στο Reuters πέντε νυν και πρώην επιστήμονες του οργανισμού: Ο οργανισμός αγωνίζεται να συμβαδίσει με την πλημμύρα ιατρικών συσκευών ενισχυμένων με τεχνητή νοημοσύνη που ζητούν έγκριση μετά την απώλεια βασικού προσωπικού. Ένας εκπρόσωπος του Υπουργείου Υγείας και Ανθρωπίνων Υπηρεσιών των ΗΠΑ, στο οποίο περιλαμβάνεται ο FDA, δήλωσε ότι επιδιώκει να ενισχύσει τις δυνατότητές του σε αυτόν τον τομέα.

Chatbots και στην… ιατρική

Μια άλλη μορφή τεχνητής νοημοσύνης, τα chatbots γενετικής τεχνητής νοημοσύνης (generative-AI chatbots), κάνουν επίσης την εμφάνισή τους στην ιατρική. Πολλοί γιατροί χρησιμοποιούν πλέον την τεχνητή νοημοσύνη για να εξοικονομήσουν χρόνο, όπως στην καταγραφή των σημειώσεων των ασθενών. Ωστόσο, οι γιατροί λένε επίσης ότι πολλοί ασθενείς χρησιμοποιούν chatbots για να κάνουν αυτοδιάγνωση ή να αμφισβητήσουν επαγγελματικές συμβουλές, θέτοντας νέες προκλήσεις και κινδύνους.

Η τεχνητή νοημοσύνη έγινε εμπορική και κοινωνική αίσθηση μετά την κυκλοφορία του ChatGPT πριν από περίπου τρία χρόνια. Το ChatGPT και άλλα δημοφιλή chatbots, όπως το Gemini της Google και το Claude της Anthropic, χρησιμοποιούν την λεγόμενη γενετική τεχνητή νοημοσύνη (generative AI) για τη δημιουργία περιεχομένου. Βασίζονται σε μεγάλα γλωσσικά μοντέλα ή LLM, τα οποία εκπαιδεύονται σε τεράστιους όγκους κειμένου και άλλων δεδομένων για να κατανοούν και να παράγουν ανθρώπινη γλώσσα. Αυτά τα εργαλεία τεχνητής νοημοσύνης εισάγονται τώρα σε ιατρικούς τομείς, όπως οι εφαρμογές υγειονομικής περίθαλψης για καταναλωτές.

«Λάθος μέρη του σώματος»

Ο FDA προειδοποιεί ότι οι αναφορές για ανεπιθύμητα συμβάντα και δυσλειτουργίες συσκευών είναι περιορισμένες: Συχνά δεν παρέχουν λεπτομέρειες, έχουν υποστεί επεξεργασία για την προστασία των εμπορικών μυστικών και δεν μπορούν να χρησιμοποιηθούν μόνες τους για την απόδοση ευθυνών. Ο οργανισμός λαμβάνει επίσης μερικές φορές πολλαπλές αναφορές για ένα μόνο περιστατικό.

Το Reuters διαπίστωσε ότι τουλάχιστον 1.401 από τις αναφορές που υποβλήθηκαν στον FDA μεταξύ 2021 και Οκτωβρίου 2025 αφορούν ιατροτεχνολογικά προϊόντα που βρίσκονται σε μια λίστα του FDA με 1.357 προϊόντα που χρησιμοποιούν τεχνητή νοημοσύνη. Ο οργανισμός αναφέρει ότι η λίστα δεν είναι πλήρης. Από αυτές τις αναφορές, τουλάχιστον 115 αναφέρουν προβλήματα με λογισμικό, αλγόριθμους ή προγραμματισμό.

Μια έκθεση του FDA τον Ιούνιο του 2025 ισχυρίστηκε ότι το λογισμικό τεχνητής νοημοσύνης που χρησιμοποιείται για προγεννητικούς υπερήχους αναγνώριζε εσφαλμένα μέρη του σώματος του εμβρύου. Το λογισμικό, που ονομάζεται Sonio Detect, χρησιμοποιεί τεχνικές μηχανικής μάθησης για να βοηθήσει στην ανάλυση εικόνων εμβρύου.

«Ο αλγόριθμος τεχνητής νοημοσύνης του λογισμικού Sonio detect είναι ελαττωματικός και επισημαίνει λανθασμένα τις εμβρυϊκές δομές και τις συσχετίζει με λάθος μέρη του σώματος», αναφέρει η έκθεση, η οποία δεν αναφέρει ότι κάποιος ασθενής υπέστη βλάβη. Το Sonio Detect ανήκει στη Samsung Medison, μια μονάδα της Samsung Electronics. Η Samsung Medison δήλωσε ότι η έκθεση του FDA σχετικά με το Sonio Detect «δεν υποδεικνύει κανένα ζήτημα ασφάλειας, ούτε ο FDA έχει ζητήσει οποιαδήποτε ενέργεια από τη Sonio».

Ο εκπρόσωπος του HHS δεν απάντησε σε ερωτήσεις σχετικά με το Sonio Detect.

Τουλάχιστον 16 αναφορές ισχυρίστηκαν ότι τα καρδιοαναπνευστικά μόνιτορ με υποβοήθηση τεχνητής νοημοσύνης που κατασκευάζονται από τον γίγαντα ιατρικών συσκευών Medtronic δεν αναγνώρισαν μη φυσιολογικούς ρυθμούς ή παύσεις. Καμία από τις αναφορές δεν ανέφερε τραυματισμούς. Η Medtronic δήλωσε στον FDA ότι ορισμένα από τα περιστατικά προκλήθηκαν από «σύγχυση των χρηστών».

Οι αλγόριθμοι τεχνητής νοημοσύνης στη σειρά εμφυτεύσιμου καρδιακού μόνιτορ LINQ της Medtronic περιγράφονται ως «τεχνητή νοημοσύνη βαθιάς μάθησης». Έχουν μειώσει σημαντικά τις ψευδείς ειδοποιήσεις και έχουν διατηρήσει τις πραγματικές ειδοποιήσεις καρδιακών συμβάντων, σύμφωνα με την ιστοσελίδα της εταιρείας . Ωστόσο, η εταιρεία αναφέρει επίσης στην ιστοσελίδα της και στη βιβλιογραφία του προϊόντος ότι η τεχνολογία τεχνητής νοημοσύνης της, AccuRhythm AI, μπορεί να ταξινομήσει εσφαλμένα πραγματικούς μη φυσιολογικούς καρδιακούς ρυθμούς ή παύσεις.

Η Medtronic δήλωσε στο Reuters ότι εξέτασε και τα 16 επεισόδια και κατέληξε στο συμπέρασμα ότι η συσκευή της έχασε μόνο ένα μη φυσιολογικό συμβάν καρδιακού ρυθμού. «Καμία από αυτές τις αναφορές δεν οδήγησε σε βλάβη του ασθενούς», ανέφερε. Η Medtronic δήλωσε ότι ορισμένα από τα περιστατικά σχετίζονταν με προβλήματα με την εμφάνιση δεδομένων, όχι με την τεχνολογία τεχνητής νοημοσύνης. Αρνήθηκε να εξηγήσει πλήρως τι πήγε στραβά σε κάθε περιστατικό.

Περικοπές στον FDA υπό τον Τραμπ

Σε συνεντεύξεις, πέντε νυν και πρώην επιστήμονες του FDA που εξέτασαν ιατρικές συσκευές με τεχνητή νοημοσύνη δήλωσαν στο Reuters ότι οι ομοσπονδιακές ρυθμιστικές αρχές είναι πλέον λιγότερο εξοπλισμένες για να διαχειριστούν την πλημμύρα νέων συσκευών.

Πριν από περίπου τέσσερα χρόνια, ο FDA επέκτεινε το σύνολο των επιστημόνων που ειδικεύονται στην Τεχνητή Νοημοσύνη, ιδίως για την αξιολόγηση συσκευών ιατρικής απεικόνισης και ακτινολογίας που χρησιμοποιούν την τεχνολογία. Πολλοί νεοσύλλεκτοι τοποθετήθηκαν στο Τμήμα Απεικόνισης, Διαγνωστικής και Αξιοπιστίας Λογισμικού (DIDSR). Η μονάδα έγινε ο βασικός πόρος του οργανισμού για την αξιολόγηση της ασφάλειας της Τεχνητής Νοημοσύνης στην ιατρική, δήλωσαν στο Reuters ένας νυν και δύο πρώην υπάλληλοι του FDA. Ο αριθμός των ατόμων αυξήθηκε σε περίπου 40 στις αρχές του περασμένου έτους.

«Ορισμένες ανώτερες ρυθμιστικές αρχές δεν έχουν ιδέα πώς λειτουργούν αυτές οι τεχνολογίες», δήλωσε ένας πρώην υπάλληλος. «Συναντηθήκαμε στενά με ανώτερες ρυθμιστικές αρχές και τους εξηγήσαμε γιατί πιστεύουμε ότι αυτή η τεχνολογία είναι ασφαλής ή όχι για χρήση στην αγορά».

Δεν ήταν εύκολο να προσελκύσουν κορυφαία ταλέντα σε κυβερνητικές υπηρεσίες. Η πρόσληψη επιστημόνων υπολογιστών συχνά απαιτούσε να πειστούν να αρνηθούν υψηλότερους μισθούς στον ιδιωτικό τομέα.

Στην εργασία τους, οι επιστήμονες προσπάθησαν να «σπάσουν» τα μοντέλα τεχνητής νοημοσύνης των συσκευών, δήλωσε ένας πρώην υπάλληλος. Θα δοκίμαζαν τους αλγόριθμους μιας συσκευής σε μια ποικιλία κλινικών καταστάσεων και θα έλεγχαν εάν η απόδοση της τεχνητής νοημοσύνης επιδεινωνόταν με την πάροδο του χρόνου. Επιδίωξαν επίσης να ελαχιστοποιήσουν τις «παραισθήσεις», στις οποίες τα μοντέλα τεχνητής νοημοσύνης μερικές φορές παράγουν ψευδείς πληροφορίες, έγραψαν αξιωματούχοι του FDA σε μια εργασία που δημοσιεύθηκε τον Οκτώβριο.

Στις αρχές του περασμένου έτους, όμως, η κυβέρνηση Τραμπ άρχισε να διαλύει την ομάδα τεχνητής νοημοσύνης στο πλαίσιο της εκστρατείας μείωσης κόστους του Ίλον Μασκ, του Υπουργείου Αποδοτικότητας της Κυβέρνησης ή DOGE. Περίπου 15 από τους 40 επιστήμονες τεχνητής νοημοσύνης στη μονάδα DIDSR απολύθηκαν ή επέλεξαν να φύγουν, ανέφεραν οι πηγές του FDA. Μια άλλη μονάδα που χάραξε πολιτική για τις συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη, το Κέντρο Αριστείας Ψηφιακής Υγείας, έχασε περίπου το ένα τρίτο του προσωπικού της, που ανέρχεται σε περίπου 30 άτομα.