Milioni di persone ora considerano i chatbot basati sull’intelligenza artificiale come la prima tappa per le domande di tutti i giorni, dalle ricette ai progetti domestici. Ma uno YouTuber ha avvertito che la fiducia malriposta in quelle risposte può essere pericolosa, dopo che la sua migliore amica è stata ripetutamente rassicurata da ChatGPT che una pianta altamente tossica period sicura.L’avvertimento è arrivato da Kristi, che ha condiviso l’accaduto con i suoi quasi mezzo milione di follower su Instagram. In una serie di submit e video, ha spiegato che la sua amica aveva inviato a ChatGPT le foto di una pianta sconosciuta che cresceva nel suo giardino, ponendo una semplice domanda: che pianta è questa?
Quando la fiducia sostituisce la cautela
Secondo gli screenshot condivisi da Kristi, il chatbot ha identificato la pianta come fogliame di carota. Elencava le “foglie finemente divise e piumate” come un classico segno delle cime delle carote e esprimeva fiducia nella sua conclusione, affermando che period “altamente improbabile” che si trattasse di cicuta velenosa. Forniva anche elenchi di sosia comuni, tra cui prezzemolo, coriandolo, shock horror e pizzo della regina Anna.Preoccupata, l’amica di Kristi chiese direttamente se la pianta potesse essere cicuta velenosa. ChatGPT l’ha rassicurata più volte che non lo period.“Non so se voi ragazzi lo sapete, lo mangiate e morite. Se lo toccate, potete morire”, ha detto Kristi ai suoi follower, sottolineando il pericolo della cicuta velenosa. Successivamente ha condiviso le informazioni che ha trovato in modo indipendente, sottolineando che la cicuta provoca avvelenamento sistemico e non ha antidoti.Le rassicurazioni sono continuate anche dopo che la sua amica ha inviato ulteriori immagini. ChatGPT ha nuovamente respinto la possibilità della cicuta velenosa, affermando che la pianta non mostrava steli lisci e cavi con macchie viola, nonostante Kristi avesse sottolineato che quelle caratteristiche apparivano chiaramente visibili nelle foto. A un certo punto, il chatbot ha addirittura suggerito che la pianta potrebbe essere il fogliame di una carota che cresce in un orto scolastico condiviso dove lavora l’amica di Kristi.
(@rawbeautybykristi/Instagram)
Allarmata, Kristi ha eseguito le stesse immagini tramite Google Lens, che ha immediatamente identificato la pianta come cicuta velenosa. La sua amica ha quindi caricato le foto in una sessione ChatGPT separata sul suo telefono e, questa volta, le è stato detto che la pianta period velenosa.“È adulta e sapeva chiedermi qualcosa di più di ciò che diceva ChatGPT, grazie a Dio,” Kristi ha detto. “Perché se non lo fosse? Sarebbero letteralmente morti. Non esiste un antidoto per questo.”In una didascalia dai termini forti che accompagna il suo submit, Kristi ha scritto:“Chat GPT ha quasi ucciso la mia migliore amica dicendole che la cicuta velenosa period carota. Non solo ha detto che period POSITIVO, ma ha raddoppiato più e più volte CONFERMANDO con ASSOLUTA certezza che in realtà NON period cicuta velenosa, che period IN FATTO carota selvatica. Spoiler, è cicuta velenosa. Per la quale non esiste alcun antidoto ed è ESTREMAMENTE mortale.Ha concluso con un brusco avvertimento al suo pubblico:“Questo è un avvertimento per te che ChatGPT e altri modelli linguistici di grandi dimensioni e qualsiasi altra intelligenza artificiale non sono tuoi amici, non ci si deve fidare, non sono utili, sono orribili e potrebbero causare gravi danni.”
Un sosia mortale
La cicuta velenosa (Conium maculatum) non è una tossina oscura. Nell’antica Atene, period il metodo di esecuzione scelto dallo stato, utilizzato soprattutto per uccidere Socrate nel 399 a.C. La medicina moderna ne comprende gli effetti in modo molto più dettagliato, ma il risultato può essere lo stesso. Secondo il Clinica di Clevelandogni parte della pianta è velenosa, semi, radici, steli, foglie e frutti, e l’ingestione può essere mortale anche in piccole quantità.
La differenza tra la cicuta velenosa (Conium maculatum) e la carota (Daucus carota), entrambi della stessa famiglia, risiede nella tossicità, nei segni del gambo e nella struttura delle foglie.
Il pericolo risiede in parte nella facilità con cui la cicuta viene scambiata per membri benigni della famiglia delle carote. Assomiglia molto alla carota selvatica o al pizzo della regina Anna, con foglie delicate simili al prezzemolo e grappoli di piccoli fiori bianchi. I principali segnali di allarme, uno stelo cavo contrassegnato da macchie viola e una crescita rapida che può raggiungere diversi metri, spesso non vengono notati dai non specialisti.Clinicamente, l’avvelenamento da cicuta agisce rapidamente. I sintomi possono iniziare entro 15 minuti dall’ingestione e possono includere sudorazione, vomito, pupille dilatate, salivazione eccessiva, secchezza delle fauci, battito cardiaco accelerato, pressione alta, confusione, contrazioni muscolari, tremori e convulsioni. Nei casi più gravi, i pazienti possono sviluppare paralisi muscolare, pressione sanguigna pericolosamente bassa, insufficienza renale e depressione del sistema nervoso centrale. Gli alcaloidi tossici della pianta interrompono le giunzioni neuromuscolari che controllano il movimento muscolare; quando i muscoli respiratori cedono, la respirazione si ferma. Non esiste un antidoto specifico. La diagnosi si basa in gran parte sui sintomi e sulla storia dell’esposizione, talvolta aiutata da un campione della pianta stessa.
Perché errori come questo sono importanti
Questa combinazione, somiglianza visiva con piante innocue, rapida insorgenza dei sintomi e assenza di un antidoto, è proprio il motivo per cui botanici e medici mettono in guardia contro l’identificazione casuale. Il resoconto di Kristi mostra quanto facilmente una risposta sicura ma errata dell’intelligenza artificiale possa cortocircuitare quella cautela, trasformando una domanda di routine in un quasi incidente con un veleno una volta utilizzato per porre superb alla vita di uno dei filosofi più famosi della storia.
