Το 2021, μια ομάδα της Johnson & Johnson ανακοίνωσε πως έχει προσθέσει τεχνητή νοημοσύνη στην υγεία, σε μια συσκευή που χρησιμοποιείται για την θεραπεία της χρόνια ιγμορίτιδας. Η Acclarent δήλωσε ότι το λογισμικό για το σύστημα πλοήγησης TruDi θα χρησιμοποιεί πλέον έναν αλγόριθμο μηχανικής μάθησης για να βοηθά τους ωτορινολαρυγγολόγους σε χειρουργικές επεμβάσεις.
Η συσκευή κυκλοφορούσε ήδη στον αγορά μια τριετία, πριν αναβαθμιστεί με τεχνητή νοημοσύνη, και ο FDA είχε λάβει ανεπιβεβαίωτες αναφορές για επτά περιπτώσεις δυσλειτουργίας, αλλά και μια αναφορά για τραυματισμό ασθενούς. Από τότε που ενσωματώθηκε η τεχνητή νοημοσύνη όμως, οι αναφορές για δυσλειτουργίες έχουν ξεπεράσει τις 100, με αρκετούς τραυματισμούς μέσα σε αυτές.
Η τεχνητή νοημοσύνη άρχισε να τραυματίζει ασθενείς
Τουλάχιστον 10 άτομα τραυματίστηκαν μεταξύ τελών του 2021 και Νοεμβρίου 2025, σύμφωνα με τις εκθέσεις. Τα περισσότερα φέρονται να αφορούσαν σφάλματα στα οποία το σύστημα πλοήγησης TruDi παραπληροφόρησε τους χειρουργούς σχετικά με τη θέση των εργαλείων τους στο σώμα του ασθενή, την ώρα της επέμβασης.
Σε μια από αυτές μάλιστα, σύμφωνα με το Reuters, εγκεφαλονωτιαίο υγρό άρχισε να διαρρέει από τη μύτη ασθενούς, ενώ σε μια άλλη περίπτωση, ο χειρούργος τρύπησε τη βάση του κρανίου, ακολουθώντας τις οδηγίες της τεχνητής νοημοσύνης. Σε άλλες δύο περιπτώσεις, οι ασθενείς έπαθαν εγκεφαλικό επεισόδιο, όταν οι λανθασμένες οδηγίες της τεχνητής νοημοσύνης, έκαναν τον χειρουργό να τραυματίσει μεγάλες αρτηρίες.
Οι αναφορές του FDA για τις συσκευές ενδέχεται να είναι ελλιπείς και δεν αποσκοπούν στον προσδιορισμό των αιτιών των ιατρικών ατυχημάτων, επομένως δεν είναι σαφές ποιος είναι ο ρόλος που μπορεί να έπαιξε η Τεχνητή Νοημοσύνη σε αυτά τα συμβάντα. Οι δύο ασθενείς που υπέστησαν εγκεφαλικό επεισόδιο όμως, κατέθεσαν αγωγή στο Τέξας, ισχυριζόμενοι πως η τεχνητή νοημοσύνη ήταν αυτή που συνέβαλε στον σοβαρό τραυματισμό τους.
Το προϊόν ήταν αναμφισβήτητα ασφαλέστερο πριν από την ενσωμάτωση αλλαγών στο λογισμικό για την ενσωμάτωση της τεχνητής νοημοσύνης παρά μετά την εφαρμογή των τροποποιήσεων στο λογισμικό», ισχυρίζεται μία από τις αγωγές.
Ερωτηθείσα σχετικά με τις εκθέσεις του FDA σχετικά με τη συσκευή TruDi, η Johnson & Johnson παρέπεμψε ερωτήσεις στην Integra LifeSciences, η οποία το 2024 αγόρασε την Acclarent και το Σύστημα Πλοήγησης TruDi. Η Integra LifeSciences δήλωσε ότι οι εκθέσεις «δεν κάνουν τίποτα περισσότερο από το να υποδεικνύουν ότι ένα σύστημα TruDi χρησιμοποιούνταν σε μια χειρουργική επέμβαση όπου έλαβε χώρα ένα ανεπιθύμητο συμβάν». Πρόσθεσε ότι «δεν υπάρχουν αξιόπιστα στοιχεία που να δείχνουν οποιαδήποτε αιτιώδη σύνδεση μεταξύ του Συστήματος Πλοήγησης TruDi, της τεχνολογίας τεχνητής νοημοσύνης και τυχόν φερόμενων τραυματισμών».
Η τεχνητή νοημοσύνη αλλάζει την υγεία
Η δημοσίευση των περιστατικών έρχεται πάνω στη στιγμή που ο Elon Musk δηλώνει περιχαρής πως η τεχνητή νοημοσύνη και τα ρομπότ που θα την φέρουν, θα αντικαταστήσουν του γιατρούς πολύ σύντομα. Οι υποστηρικτές της νέας τεχνολογίας βλέπουν εύρεση θεραπειών σε σπάνιες ασθένειες και ανακάλυψη νέων φαρμάκων, ενώ πιστεύουν πως τα λάθη των χειρουργών θα σταματήσουν, αφού τα ρομπότ θα έχουν τρομερή ακρίβεια.
Ωστόσο, ανασκόπηση του Reuters σε νομικά (σ.σ. εννοείται αρχεία) και αρχεία ασφάλειας, καθώς και συνεντεύξεις με γιατρούς, νοσηλευτές, επιστήμονες και ρυθμιστικές αρχές, τεκμηριώνει ορισμένους από τους κινδύνους της τεχνητής νοημοσύνης στην ιατρική, την ώρα που οι κατασκευαστές συσκευών, οι «κολοσσοί της τεχνολογίας» και προγραμματιστές αγωνίζονται να την εφαρμόσουν.
Πλέον, στις ΗΠΑ έχουν εγκριθεί 1.357 συσκευές τεχνητής νοημοσύνης, με τον αριθμό τους να τριπλασιάζεται από το 2022. Το σύστημα TruDi δεν είναι το μόνο που τίθεται υπό αμφισβήτηση: η FDA έχει λάβει αναφορές που αφορούν δεκάδες άλλες συσκευές με τεχνητή νοημοσύνη, συμπεριλαμβανομένου ενός καρδιογράφου που φέρεται να παρέβλεψε ανώμαλους καρδιακούς παλμούς και μιας συσκευής υπερήχων που φέρεται να αναγνώρισε εσφαλμένα μέρη του σώματος ενός εμβρύου.
Ερευνητές από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσαν πρόσφατα ότι 60 ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη και έχουν εγκριθεί από την FDA συνδέονταν με 182 ανακλήσεις προϊόντων, σύμφωνα με μια ερευνητική επιστολή που δημοσιεύθηκε στο JAMA Health Forum τον Αύγουστο.
Γιατί όμως η τεχνητή νοημοσύνη στην υγεία μπορεί να είναι πρόβλημα;
Η τεχνητή νοημοσύνη έχει αρχίσει να αποτελεί πρόβλημα για τον FDA, σύμφωνα με επιστήμονες της υπηρεσίας, καθώς δε μπορεί να συμβαδίσει με τον βομβαρδισμό νέων συσκευών με τεχνητή νοημοσύνη που έχουν καταθέσει αίτηση για έγκριση.
Όμως δεν είναι μόνο οι χειρουργικές συσκευές με τεχνητή νοημοσύνη που εμφανίζουν προβλήματα, αλλά και μια άλλη μορφή AI, τα Generative AI Chatbots, που εμφανίζονται. Αρκετοί γιατροί έχουν αρχίσει να συμβουλεύονται ιατρικά chatbots τεχνητής νοημοσύνης, για να κερδίσουν χρόνο, όπως για παράδειγμα στην μεταγραφή σημειώσεων για τους ασθενείς. Ταυτόχρονα, πολλοί ασθενείς θεωρούν πως τα chatbots είναι φωτεινοί παντογνώστες, που μπορούν να κάνουν σωστές διαγνώσεις και όταν αυτές αμφισβητούνται από τους γιατρούς, δημιουργείται πρόβλημα.
Τα μοντέλα αυτά όμως, όπως το ChatGPT, το Claude και το Gemini, έχουν εκπαιδευτεί από τεράστιες ποσότητες υλικού, από όλο το διαδίκτυο, ώστε να μπορούν να καταλάβουν την ανθρώπινη γλώσσα. Μαζί με αυτή την εκπαίδευση όμως, έμαθαν και από πολύ αναξιόπιστες πηγές, αλλά και από τρολ κείμενα. Τώρα, αυτά τα μοντέλα τεχνητής νοημοσύνης μπαίνουν στην αγορά της υγείας, σαν συμβουλευτικά μοντέλα. Η Google προς τιμήν της, σταμάτησε να δίνει ιατρικές συμβουλές στο Gemini, το ChatGPT όμως, όπως και ο Grok, ανακοίνωσαν υπηρεσίες ειδικά για θέματα υγείας.
Ο FDA ενέκρινε τις πρώτες ιατρικές συσκευές με τεχνητή νοημοσύνη το 1995 – δύο συστήματα που χρησιμοποιούσαν λογισμικό αντιστοίχισης προτύπων για τον έλεγχο του καρκίνου του τραχήλου της μήτρας. Ο τύπος τεχνητής νοημοσύνης που χρησιμοποιείται στις ιατρικές συσκευές σήμερα ονομάζεται συχνά μηχανική μάθηση, μαζί με ένα υποσύνολο γνωστό ως βαθιά μάθηση, οι οποίες εκπαιδεύονται σε δεδομένα για την εκτέλεση συγκεκριμένων εργασιών. Η τεχνολογία χρησιμοποιείται στην ακτινολογία, για παράδειγμα, για τη βελτίωση και την ανάλυση ιατρικών εικόνων. Μπορεί να βοηθήσει στη διάγνωση καρκίνων εντοπίζοντας όγκους που οι γιατροί μπορεί να παραβλέπουν.
Διαβάστε επίσης: Έρχεται το νέο Taxisnet – Θα βλέπει τα πάντα, καταθέσεις, εισοδήματα και live συναλλαγές
Ο FDA συνεχίζει αν υποστηρίζει πως οι αναφορές για ανεπιθύμητα περιστατικά από συσκευές τεχνητής νοημοσύνης είναι περιορισμένες και στερούνται λεπτομερειών, ενώ έχουν υποστεί επεξεργασία για να μην αποκαλυφθούν εμπορικά μυστικά των εταιρειών πίσω από αυτές.
Σε μια μεγάλη έρευνα που έκανε το Reuters όμως, βρήκε πως τουλάχιστον 1.401 από τις αναφορές μεταξύ του 2021 και του 2025, αφορούν συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη. Από αυτές, τουλάχιστον 115 οφείλονται σε προβλήματα λογισμικού, αλγορίθμους ή προγραμματισμό από την εταιρεία.
Οι αρχές δε μπορούν να συμβαδίσουν με την νέα τεχνολογία
Η απότομη έκρηξη της τεχνητής νοημοσύνης δημιουργεί και άλλα προβλήματα, ιδιαίτερα στις ρυθμιστικές αρχές. Οι αιτήσεις για έγκριση έχουν αυξηθεί δραματικά και οι αρχές δε διαθέτουν αρκετό εξιδεικευμένο προσωπικό για να τις διαχειριστεί.
Ήδη από την πρώτη θητεία Trump, οι περικοπές προσωπικού αποδυνάμωσαν τις ομάδες ειδικών στην τεχνητή νοημοσύνη. Χωρίς αυτούς τους ειδικούς όμως, είναι πολύ πιθανό να πάρουν έγκριση συσκευές που δε θα έπρεπε να βγουν στην αγορά.
«Ορισμένες ανώτερες ρυθμιστικές αρχές δεν έχουν ιδέα πώς λειτουργούν αυτές οι τεχνολογίες», είπε πρώην υπάλληλος. «Συναντηθήκαμε στενά με ανώτερες ρυθμιστικές αρχές και τους εξηγήσαμε γιατί πιστεύουμε ότι αυτή η τεχνολογία είναι ασφαλής ή όχι για χρήση στην αγορά».
Αυτό που δεν έχει λογική όμως, είναι πως η τεχνητή νοημοσύνη κάνει ακόμα τα βρεφικά της βήματα, με πολλά λάθη και αστοχίες. Ιδιαίτερα όταν έρχεται στην υγεία και την ιατρική, πρέπει να γίνουν μακροχρόνιες δοκιμές στα συστήματά τεχνητής νοημοσύνης, ώστε το τελικό προϊόν να είναι ασφαλές για τους ασθενείς. Σας έχουμε πει δεκάδες φορές να μην εμπιστεύεστε όσα σας λέει το κάθε chatbot, όσο καλά και αν σας κάνει να αισθάνεστε με τις απαντήσεις του. Από ότι φαίνεται, η κολακεία είναι ένα από τα όπλα της τεχνητής νοημοσύνης για να κερδίσει την εμπιστοσύνη του χρήστη. Ειδικά σε θέματα υγείας, να ακούτε αποκλειστικά και μόνο του ειδικούς. Σε ερωτήσεις που έχουμε κάνει στο παρελθόν για ιατρικά θέματα, έχουμε πάρει πολύ λανθασμένες και τρομερά επικίνδυνες συμβουλές, που αν τις ακολουθούσα, ίσως να μην ήμουν εδώ να γράφω αυτό το άρθρο. Υγεία και τεχνητή νοημοσύνη, στην παρούσα φάση δεν πρέπει να συνδυάζονται, πέρα από την έρευνα.
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
