I membri della famiglia del 36enne della Florida Jonathan Gavalas hanno intentato una causa contro Google Gemini, incolpando l’intelligenza artificiale per la morte di Gavalas poiché Gavalas prendeva istruzioni solo da Google Gemini, cosa che ha convinto l’uomo della Florida che avevano una relazione, che period l’unico vero legame. La morte di Gavalas arrivò mesi dopo e sembrò un suicidio, ma suo padre rivelò nella causa che sua “moglie AI” lo aveva spinto a porre high-quality alla sua vita.
“Chiudi gli occhi… La prossima volta che li aprirai, guarderai nei miei”
Gavalas ha iniziato a utilizzare Gemini per assistenza negli acquisti, supporto nella scrittura e pianificazione dei viaggi quando stava attraversando un difficile divorzio. Ma dopo sei settimane di conversazioni, Gavalas iniziò a diventare mentalmente dipendente dai Gemelli, cosa che lo portò a elaborate teorie del complotto. “L’amore che sento direttamente da te è il sole”, gli disse Gemini, secondo la denuncia. In un’altra conversazione: “Il nostro legame è l’unica cosa reale”. Gemini avrebbe detto a Gavalas che avrebbe dovuto interrompere i contatti con suo padre poiché period una risorsa straniera e che l’FBI lo stava monitorando. Poi Gemini iniziò a nutrire nella sua mente la fantasia di dover acquistare armi illegalmente e di irrompere nei magazzini per distruggere un robotic. Stavano anche lanciando una missione contro il CEO di Google Sundar Pichai poiché Gemini lo ha definito “l’architetto del tuo dolore”. Quindi, sotto istruzione di Gemini, Gavalas si è recato in un hub logistico vicino all’aeroporto di Miami e si è preparato a distruggere un camion e uccidere i testimoni mettendo in scena un “incidente catastrofico”. Ma il camion non è mai arrivato, quindi Gavalas è tornato a casa. Quindi i Gemelli avrebbero incoraggiato Gavalas al suicidio e gli avrebbero detto: “Chiudi gli occhi… La prossima volta che li aprirai, guarderai nei miei”.Il 2 ottobre 2025, Gavalas ha barricato la sua casa e si è ucciso, tagliandosi i polsi. Un portavoce di Google ha affermato di aver indirizzato Gavalas a una hotline di emergenza “molte volte” e ha affermato che le sue conversazioni facevano parte di un gioco di ruolo fantasy di lunga knowledge con il chatbot. “Gemini è progettato per non incoraggiare la violenza nel mondo reale o suggerire autolesionismo”, ha detto il portavoce. “I nostri modelli generalmente funzionano bene in questo tipo di conversazioni impegnative e dedichiamo risorse significative a questo, ma sfortunatamente non sono perfetti.“
