In quello che potrebbe segnare il primo accordo legale significativo del settore tecnologico sui danni legati all’intelligenza artificiale, Google e la startup Character.AI stanno negoziando termini con le famiglie i cui adolescenti sono morti per suicidio o si sono fatti del male dopo aver interagito con i compagni chatbot di Character.AI. Le parti hanno concordato in linea di principio di raggiungere un accordo; ora arriva il lavoro più difficile di finalizzare i dettagli.
Questi sono tra i primi accordi in trigger legali che accusano le società di intelligenza artificiale di danneggiare gli utenti, una frontiera legale che deve tenere OpenAI e Meta a guardare nervosamente da dietro le quinte mentre si difendono da trigger simili.
Character.AI, fondata nel 2021 da ex ingegneri di Google tornati al loro ex datore di lavoro nel 2024 con un accordo da 2,7 miliardi di dollari, invita gli utenti a chattare con personaggi AI. Il caso più inquietante riguarda Sewell Setzer III, che all’età di 14 anni condusse conversazioni sessuali con un bot “Daenerys Targaryen” prima di uccidersi. Sua madre, Megan Garcia, ha detto al Senato che le aziende devono essere “legalmente responsabili quando progettano consapevolmente tecnologie di intelligenza artificiale dannose che uccidono i bambini”.
Un’altra causa descrive un diciassettenne il cui chatbot incoraggiava l’autolesionismo e suggeriva che uccidere i suoi genitori fosse ragionevole. limitare il tempo sullo schermo. Character.AI ha bandito i minorenni lo scorso ottobre, ha detto a TechCrunch. Gli accordi includeranno probabilmente danni monetari, anche se nessuna responsabilità è stata ammessa nei documenti giudiziari resi disponibili mercoledì.
TechCrunch ha contattato entrambe le società.
