Un diciottenne che avrebbe ucciso otto persone in una sparatoria di massa a Tumbler Ridge, in Canada, avrebbe utilizzato il ChatGPT di OpenAI in modi che allarmarono il personale dell’azienda.
Le chat di Jesse Van Rootselaar che descrivono la violenza armata sono state segnalate da strumenti che monitorano l’uso improprio del LLM dell’azienda e vietate nel giugno 2025.
Il personale dell’azienda ha discusso se contattare o meno le forze dell’ordine canadesi per questo comportamento, ma alla superb non lo hanno fatto al Wall Street Journal. Un portavoce di OpenAI ha affermato che l’attività di Van Rootselaar non soddisfaceva i criteri per essere segnalata alle forze dell’ordine; la società ha contattato le autorità canadesi dopo l’incidente.
Le trascrizioni di ChatGPT non erano l’unica parte preoccupante dell’impronta digitale di Van Rootselaar. A quanto pare ha creato un gioco su Roblox, la piattaforma di simulazione mondiale frequentata dai bambini, che simulava una sparatoria di massa in un centro commerciale. Ha anche pubblicato publish sulle armi su Reddit.
Dell’instabilità di Van Rootselaar period nota anche la polizia locale, che period stata chiamata a casa della famiglia di lei dopo che lei aveva appiccato un incendio mentre period sotto l’effetto di non specificate droghe.
I chatbot LLM realizzati da OpenAI e dai suoi concorrenti sono stati accusati di innescare esaurimenti mentali negli utenti che perdono il contatto con la realtà mentre conversano con modelli digitali. Molteplici cause legali Avere sono stati presentati documenti che citano trascrizioni di chat che incoraggiano le persone a suicidarsi o offrono assistenza nel farlo.
Se sei in una crisi o hai pensieri suicidi, chiama o invia un messaggio al 988 per raggiungere il 988 Suicide and Disaster Lifeline.
Evento Techcrunch
Boston, MA
|
9 giugno 2026
