Lo situation da incubo preferito da tutti quando si parla di intelligenza artificiale è che in qualche modo acquisisca la sensibilità e inizi a uccidere gli esseri umani. Si scopre che non è necessario acquisire una superintelligenza perché l’intelligenza artificiale inizi a costare vite umane; richiede semplicemente che gli esseri umani concedano troppa fiducia e deferenza verso sistemi difettosi. UN nuovo rapporto della Reuters evidenzia la proliferazione dell’intelligenza artificiale nel settore sanitario, dai dispositivi medici con funzionalità di intelligenza artificiale ai sistemi destinati a supportare i medici in sala operatoria, e rileva che la tecnologia, presentata come un importante passo avanti, potrebbe produrre risultati peggiori.
Centrale per il Lo riferisce la Reuters è il TruDi Navigation System, un sistema di navigazione guidato da immagini prodotto da una filiale di Johnson & Johnson e progettato per il trattamento della sinusite cronica. Nel 2021, la società ha annunciato che avrebbe utilizzato l’intelligenza artificiale per assistere gli specialisti dell’orecchio, del naso e della gola negli interventi chirurgici per risolvere l’infiammazione dei seni.
Fino all’iniezione AI, il dispositivo period sul mercato da tre anni e presentava sette segnalazioni non confermate di malfunzionamento. Da quando è stato introdotto l’“aggiornamento” dell’IA nel sistema, la Meals and Drug Administration statunitense avrebbe ricevuto più di 100 notifiche di malfunzionamenti e almeno 10 segnalazioni di pazienti feriti da errori apparentemente dovuti a cattive informazioni provenienti dal sistema di intelligenza artificiale.
Alcune di queste lesioni erano incredibilmente gravi e apparentemente erano state causate principalmente dal sistema che informava erroneamente i chirurghi su dove si trovavano i loro strumenti all’interno del paziente durante l’operazione. Secondo quanto riferito, ciò ha comportato casi in cui un chirurgo ha perforato la base del cranio di un paziente, perdite di liquido cerebrospinale dal naso di un paziente e pazienti che hanno subito ictus dopo che il chirurgo ha colpito accidentalmente un’arteria importante.
Poiché gli incidenti sono ancora in fase di revisione, la FDA non ha attribuito i danni all’intelligenza artificiale. Ma le vittime sembrano certamente credere che possa aver avuto un ruolo. Secondo Reuters, due persone che hanno subito un ictus a causa di un intervento chirurgico che coinvolgeva il sistema di navigazione TruDi hanno fatto causa sostenendo che “il prodotto period probabilmente più sicuro prima di integrare le modifiche nel software program per incorporare l’intelligenza artificiale che dopo l’implementazione delle modifiche al software program”.
Sebbene il sistema di navigazione TruDi sia un esempio di alto profilo dei potenziali rischi derivanti dall’affidarsi all’intelligenza artificiale in ambienti come la sala operatoria, è ben lungi dall’essere l’unico dispositivo che integra l’intelligenza artificiale nel suo funzionamento. Secondo Reuters, ci sono 1.357 dispositivi medici che utilizzano l’intelligenza artificiale approvati dalla FDA. Pochi sono liberi da preoccupazioni. Ricerca pubblicata su JAMA Health Forum all’inizio di quest’anno ha scoperto che i dispositivi medici abilitati all’intelligenza artificiale hanno un tasso di ritiro sorprendentemente alto: il 43% ha avuto problemi abbastanza gravi da toglierli dal mercato meno di un anno dopo la loro approvazione iniziale, circa il doppio del tasso dei dispositivi non basati sull’intelligenza artificiale.
In particolare, la ricerca ha rilevato che molti di questi dispositivi provenivano da società quotate in borsa. Tali aziende, come Johnson & Johnson, potrebbero essere cadute nella trappola di lanciare affrettatamente un prodotto sul mercato senza sufficienti take a look at di sicurezza. Questa è l’accusa di una delle trigger legali relative al sistema di navigazione TruDi, che sostiene che le sue funzionalità di intelligenza artificiale sono state presentate come uno “strumento di advertising” e in realtà non hanno migliorato la precisione. In effetti, la causa sostiene che il produttore del dispositivo ha abbassato il suo commonplace di sicurezza all’”80% di precisione” per spingere la nuova tecnologia sul mercato più velocemente.
Anche quando i dispositivi di intelligenza artificiale non sono coinvolti in operazioni che possono portare direttamente a esiti avversi per la salute, possono comunque fornire informazioni errate. Advert esempio, Sonio Detect, un sistema di intelligenza artificiale per l’analisi delle immagini fetali, presumibilmente etichetta erroneamente le strutture fetali e “le associa alle parti del corpo sbagliate”. secondo un rapporto della FDA. Ciò è in linea con i rapporti dell’anno scorso che hanno rilevato L’intelligenza artificiale medica di Google allucina le parti del corpo.
Le aziende responsabili di questa tecnologia non sembrano vedere il problema. Integra LifeSciences, la società che ha acquisito il sistema di navigazione TruDi da Johnson & Johnson nel 2024, ha detto alla Reuters che i rapporti della FDA “non fanno altro che indicare che un sistema TruDi period in uso in un intervento chirurgico in cui si è verificato un evento avverso” e sostengono che “non esistono show credibili per dimostrare alcuna connessione causale tra il sistema di navigazione TruDi, la tecnologia AI e eventuali presunte lesioni”.
Inoltre, non puoi davvero contare sul fatto che la FDA agisca su questi presunti problemi. La parte dell’agenzia incaricata di rivedere e valutare la sicurezza dei dispositivi medici abilitati all’intelligenza artificiale è stata gravemente ostacolata dai tagli del Dipartimento di Efficienza Governativa (DOGE), perdendo 15 dei suoi 40 scienziati, secondo Reuters. Un’altra unità coinvolta nell’intelligenza artificiale in medicina ha perso un terzo del suo personale. In particolare, il DOGE guidato da Elon Musk ha anche tagliato una parte della FDA incaricata di rivedere la sicurezza del suo dispositivo di interfaccia cervello-computer, Neuralink. Nel frattempo, sembra che sempre più dispositivi IA stiano ottenendo il through libera senza una revisione approfondita.
Forse l’approccio tecnologico “muoviti velocemente e rompi le cose” non dovrebbe applicarsi quando le “cose” sono il corpo umano.
