Siamo stati tutti lì. Senti uno strano dolore al fianco o ricevi un risultato confuso dal medico e la prima cosa che fai è aprire Google. Non stai cercando una laurea in medicina; vuoi solo una risposta rapida a “sto bene?” Ma recentemente, Google ha dovuto frenare i suoi riepiloghi di ricerca basati sull’intelligenza artificiale perché, a quanto pare, chiedere un consiglio medico a un robotic potrebbe effettivamente essere pericoloso.
Google ha silenziosamente cancellato una serie di riepiloghi sanitari generati dall’intelligenza artificiale dai suoi risultati di ricerca dopo che un’indagine ha rivelato che fornivano informazioni imprecise e francamente spaventose. Tutto è iniziato dopo una segnalazione di Lo ha sottolineato il Guardian che queste “Panoramiche AI”, le caselle colorate che compaiono nella parte superiore della ricerca, fornivano dati incompleti.
L’esempio più lampante riguardava gli esami del sangue del fegato
Se chiedessi all’intelligenza artificiale “intervalli normali”, ti sputerebbe semplicemente un elenco di numeri. Non ti chiedeva se eri maschio o femmina. Non ha chiesto informazioni sulla tua età, etnia o storia medica. Ha semplicemente dato un numero fisso. Gli esperti medici hanno esaminato la situazione e sostanzialmente hanno detto: “Questo è pericoloso”.
Il problema qui non è solo che l’intelligenza artificiale period sbagliata; è che period pericolosamente fuorviante. Immagina qualcuno con una malattia epatica in stadio iniziale che controlla i risultati dei check. L’intelligenza artificiale cube loro che i loro numeri rientrano nell’intervallo “normale” recuperato da qualche sito Internet casuale. Quella persona potrebbe pensare: “Oh, sto bene allora” e saltare un appuntamento di follow-up. In realtà, un numero “normale” per un ventenne potrebbe essere un segnale di allarme per un cinquantenne. L’intelligenza artificiale non ha la sfumatura necessaria per saperlo, e questa lacuna nel contesto può avere gravi conseguenze nel mondo reale.
La risposta di Google è stata piuttosto commonplace: hanno rimosso le question specifiche contrassegnate e hanno insistito sul fatto che il loro sistema è generalmente utile. Ma ecco il bello: organizzazioni sanitarie come il British Liver Belief hanno scoperto che se si riformulava leggermente la domanda, tornavano fuori le stesse informazioni sbagliate. È come un gioco digitale “colpisci la talpa”. Correggi un errore e l’intelligenza artificiale ne genera uno nuovo cinque secondi dopo.
Il vero problema qui è la fiducia
Poiché questi riepiloghi dell’intelligenza artificiale si trovano proprio nella parte superiore della pagina, sopra i collegamenti effettivi agli ospedali o alle riviste mediche, hanno un’aria di autorità. Siamo addestrati a fidarci del massimo risultato. Quando Google presenta una risposta in una piccola scatola ordinata, il nostro cervello la tratta inconsciamente come la risposta “corretta”. Ma non lo è. È solo un motore di previsione che cerca di indovinare quali parole verranno dopo.
Per ora, questo è un enorme campanello d’allarme. L’intelligenza artificiale è ottima per riassumere un’e-mail o pianificare un itinerario di viaggio, ma quando si tratta della tua salute, chiaramente non è pronta per il debutto. Fino a quando questi sistemi non saranno in grado di comprendere il contesto, o fino a quando Google non metterà in atto guardrail più rigidi, è probabilmente più sicuro scorrere oltre il robotic e fare clic su un collegamento effettivo di un vero medico. La velocità è positiva, ma la precisione è l’unica cosa che conta quando parli della tua salute.
