L’intelligenza artificiale è diventata quasi impossibile da evitare e, per molti, sta lentamente sostituendo Google e gli altri motori di ricerca. Ma sebbene ChatGPT e i suoi concorrenti possano essere utili, è importante ricordare che non sono sempre dotati di informazioni reali. Questi sistemi spesso forniscono risposte parziali, out of date o interamente inventate. Pertanto, non dovrebbero mai fidarsi completamente di loro, non importa quanto possano sembrare sicure le loro risposte.
Se stai usando l’intelligenza artificiale per generare una stupida poesia per le vacanze o per chiedere alcune potenziali idee regalo quest’anno, un’allucinazione dell’intelligenza artificiale è relativamente innocua. La scrittura deve essere creativa e i regali possono essere restituiti. Tuttavia, fare affidamento su di esso per ricevere assistenza in merito alle proprie finanze, salute medica o questioni legali è una ricetta per il disastro. Con queste domande, una singola risposta errata può portare a gravi conseguenze nel mondo reale.
Questa storia è parte di 12 giorni di consigliaiutandoti a sfruttare al massimo la tecnologia, la casa e la salute durante le festività natalizie.
Per aiutarti a superare i limiti della tecnologia, ecco 11 cose per le quali non dovresti mai fare affidamento su ChatGPT.
(Divulgazione: Ziff Davis, la società madre di CNET, in aprile ha intentato una causa contro il produttore di ChatGPT OpenAI, sostenendo di aver violato i diritti d’autore di Ziff Davis nella formazione e nel funzionamento dei suoi sistemi di intelligenza artificiale.)
Non perdere nessuno dei nostri contenuti tecnici imparziali e le recensioni di laboratorio. Aggiungi CNET come fonte Google preferita.
1. Diagnosi di problemi di salute fisica
Ho sicuramente dato a ChatGPT i miei sintomi per curiosità, ma le risposte che arrivano possono sembrare il tuo peggior incubo. Mentre studi attentamente le potenziali diagnosi, potresti passare dalla disidratazione e dall’influenza a qualche tipo di cancro. Ho un nodulo sul petto e ho inserito queste informazioni in ChatGPT. Ecco, mi ha detto che potrei avere il cancro. In effetti, ho un lipoma, che non è canceroso e si verifica in una persona su 1.000. Me lo ha detto il mio medico abilitato.
Non sto dicendo che non ci siano buoni usi di ChatGPT per la salute: può aiutarti a formulare domande per il tuo prossimo appuntamento, tradurre il gergo medico e organizzare una sequenza temporale dei sintomi in modo da poter entrare meglio preparato. E questo potrebbe contribuire a rendere le visite mediche meno opprimenti. Tuttavia, l’intelligenza artificiale non può ordinare laboratori o esaminarti e sicuramente non prevede un’assicurazione per negligenza. Conosci i suoi limiti.
Per saperne di più: ChatGPT Well being: cosa aggiunge la nuova scheda dedicata al Chatbot AI
2. Prenderti cura della tua salute mentale
ChatGPT può offrire tecniche di radicamento, certo, ma non può rispondere al telefono quando sei davvero in difficoltà con la tua salute mentale. So che alcune persone usano ChatGPT come terapista sostitutivo. Corin Cesaric di CNET lo ha trovato leggermente utile per affrontare il dolore, a patto di mantenerne i limiti in mente. Ma come persona che ha un terapista molto reale e molto umano, posso dirti che ChatGPT è ancora solo una pallida imitazione nella migliore delle ipotesi e incredibilmente rischioso nella peggiore.
ChatpGPT non ha esperienza vissuta, non può leggere il linguaggio o il tono del tuo corpo e non ha alcuna capacità di vera empatia. Può solo simularlo. Un terapista autorizzato opera secondo mandati legali e codici professionali che ti proteggono dai danni. ChatGPT no. I suoi consigli possono fallire, ignorare i segnali di allarme o rafforzare involontariamente i pregiudizi insiti nei dati di addestramento. Lascia il lavoro più profondo – il lavoro duro, disordinato, umano – a un essere umano reale che è addestrato a gestirlo correttamente. Se tu o qualcuno che ami siete in crisi, per favore comporre 988 negli Stati Uniti o alla hotline locale.
3. Prendere decisioni quick in materia di sicurezza
Se il tuo allarme per il monossido di carbonio inizia a suonare, non aprire ChatGPT e chiedigli se sei in reale pericolo. Prima uscivo e poi facevo domande. I modelli linguistici di grandi dimensioni non possono sentire l’odore del fuel, rilevare il fumo o inviare una squadra di emergenza. In una crisi, ogni secondo che passi a digitare è un secondo in cui non evacui o non chiami il 911. ChatGPT può funzionare solo con i frammenti di informazioni che gli fornisci e, in caso di emergenza, potrebbe essere troppo poco e troppo tardi. Quindi tratta il tuo chatbot come un spiegatore post-incidente, mai come un primo soccorritore.
4. Ottenere una pianificazione finanziaria o fiscale personalizzata
ChatGPT può spiegare cos’è un ETF, ma non conosce il rapporto debito/reddito, la fascia fiscale statale, lo stato di deposito, le detrazioni, gli obiettivi pensionistici o la propensione al rischio. Poiché i suoi dati di addestramento potrebbero fermarsi prima dell’anno fiscale in corso e degli ultimi aumenti dei tassi, le sue indicazioni potrebbero essere out of date quando si preme invio.
Ho amici che scaricano i loro 1099 totali in ChatGPT per un reso fai-da-te. Il chatbot semplicemente non può sostituire un commercialista che può individuare una detrazione nascosta del valore di poche centinaia di dollari o segnalare un errore che potrebbe costarti migliaia. Quando sono in gioco soldi veri, scadenze di presentazione e sanzioni IRS, chiama un professionista, non un’intelligenza artificiale. Inoltre, tieni presente che tutto ciò che condividi con un chatbot AI diventerà probabilmente parte dei suoi dati di formazione, inclusi il tuo reddito, il tuo numero di previdenza sociale e le tue informazioni bancarie.
5. Trattare dati riservati o regolamentati
Come giornalista tecnologico, vedo ogni giorno embarghi nella mia casella di posta, ma non ho mai pensato di inserire nessuno di questi comunicati stampa in ChatGPT per ottenere un riepilogo o ulteriori spiegazioni. Questo perché se lo facessi, quel testo lascerebbe il mio controllo e finirebbe su un server di terze parti al di fuori dei limiti del mio accordo di non divulgazione.
Lo stesso rischio si applica ai contratti dei clienti, alle cartelle cliniche o a qualsiasi cosa coperta dal California Shopper Privateness Act, dall’HIPAA, dal GDPR o dalla semplice vecchia legge sui segreti commerciali. Si applica alle imposte sul reddito, al certificato di nascita, alla patente di guida e al passaporto. Una volta che le informazioni sensibili si trovano nella finestra del immediate, non è possibile garantire dove vengono archiviate, chi può esaminarle internamente o se possono essere utilizzate per addestrare modelli futuri. Anche ChatGPT non è immune agli hacker e alle minacce alla sicurezza. Se non lo incolleresti in un canale Slack pubblico, non incollarlo in ChatGPT.
6. Fare qualcosa di illegale
Questo è auto-esplicativo.
7. Barare sui compiti
Mentirei se dicessi che non ho mai imbrogliato agli esami. Al liceo, usavo il mio iPod Contact di prima generazione per dare una sbirciatina advert alcune equazioni scomode che avevo difficoltà a memorizzare nel calcolo AP, un’acrobazia di cui non sono particolarmente orgoglioso. Ma con l’intelligenza artificiale, la portata dell’imbroglio moderno lo rende straordinariamente banale.
Turnitin e rilevatori simili stanno migliorando nell’individuare la prosa generata dall’intelligenza artificiale ogni semestre, e i professori possono già sentire la “voce ChatGPT” a un miglio di distanza (grazie per aver rovinato il mio amato trattino). La sospensione, l’espulsione e la revoca della patente sono rischi concreti. È meglio usare ChatGPT come compagno di studio, non come ghostwriter. Ti stai anche semplicemente privando dell’istruzione se hai ChatGPT che fa il lavoro per te.
8. Monitoraggio delle informazioni e delle ultime notizie
Da quando OpenAI ha lanciato ChatGPT Search alla high quality del 2024 (e lo ha aperto a tutti nel febbraio 2025), il chatbot può recuperare nuove pagine net, quotazioni azionarie, prezzi del fuel, risultati sportivi e altri numeri in tempo reale nel momento in cui lo chiedi, completi di citazioni cliccabili in modo da poter verificare la fonte. Tuttavia, non trasmetterà in streaming aggiornamenti continui da solo. Ogni aggiornamento richiede una nuova richiesta, quindi quando la velocità è fondamentale, feed di dati in tempo reale, comunicati stampa ufficiali, siti di notizie, avvisi push e copertura in streaming sono ancora la soluzione migliore.
9. Gioco d’azzardo
In realtà ho avuto fortuna con ChatGPT e ho ottenuto un parlay a tre durante il campionato di basket maschile NCAA, ma non lo consiglierei mai a nessuno. Ho visto ChatGPT avere allucinazioni e fornire informazioni errate sulle statistiche dei giocatori o riportare erroneamente infortuni e document di vittorie e sconfitte. Ho incassato solo perché ho ricontrollato ogni richiesta rispetto alle quote in tempo reale e, anche in questo caso, sono stato fortunato. ChatGPT non può prevedere il punteggio di domani, quindi non fare affidamento esclusivamente su di esso per assicurarti una vittoria.
10. Redazione di un testamento o altro contratto giuridicamente vincolante
ChatGPT è ottimo per scomporre i concetti di base. Se vuoi saperne di più su un belief vivente revocabile, chiedi pure. Tuttavia, nel momento in cui gli chiedi di elaborare un testo giuridico vero e proprio, stai lanciando i dadi. Le norme sul diritto patrimoniale e di famiglia variano a seconda dello stato e talvolta anche della contea, quindi saltare la firma di un testimone o omettere la clausola di autenticazione può far sì che l’intero documento venga gettato by way of. Piuttosto, lascia che ChatGPT ti aiuti a creare una lista di domande per il tuo avvocato, quindi paga quell’avvocato per trasformare quella lista di controllo in un documento che resista in tribunale.
11. Fare arte
Questa non è una verità oggettiva, è solo la mia opinione, ma non credo che l’intelligenza artificiale debba essere utilizzata per creare arte. Non sono assolutamente contrario all’intelligenza artificiale. Utilizzo ChatGPT per fare brainstorming su nuove idee e aiutarmi con i titoli dei giornali, ma questa è un’integrazione, non una sostituzione. Sicuramente usa ChatGPT, ma per favore non usarlo per creare opere d’arte che poi spaccerai per tue. È un po’ disgustoso.
