Una migrazione di routine del server utilizzando l’assistente di codifica AI di Anthropic è andata gravemente storta, attirando le critiche di un fondatore tecnologico di origine indiana che ha deriso l’uso del bot sui social media. L’incidente ha portato alla cancellazione accidentale di 2,5 anni di dati da una popolare piattaforma di apprendimento on-line.Il problema è iniziato quando Alexey Grigorev, uno sviluppatore tedesco e fondatore di DataTalks.Membership e AI Delivery Labs, ha deciso di spostare i suoi siti su Amazon Internet Providers (AWS) utilizzando Claude Code, l’agente di codifica AI di Anthropic. Grigorev ha chiesto a Claude di eseguire i comandi Terraform per unire l’infrastruttura dei siti per risparmiare sui costi.Terraform è uno strumento in grado di creare o rimuovere automaticamente interi ambienti server. In questa occasione, Grigorev ha dimenticato di caricare un importante “file di stato” che cube a Terraform cosa già esiste. Senza di esso, Claude ha creato risorse duplicate. Successivamente, quando è stato aggiunto il file di stato, Claude ha emesso un comando di “distruzione” per rimuovere quella che considerava un’infrastruttura indesiderata. Il risultato è stato disastroso.Claude ha cancellato il database di produzione per DataTalks.Membership, eliminando tutti gli invii degli studenti, i compiti, i progetti, le classifiche e i backup automatizzati. L’incidente ha interessato anche l’infrastruttura del sito AI Delivery Labs di Grigorev. Rendendosi conto dell’accaduto, ha contattato Amazon Enterprise Assist. Il staff AWS è riuscito a ripristinare i dati, ma ci è voluta quasi un’intera giornata.Molti sviluppatori hanno affermato che il disastro period prevenibile e causato da un errore umano, non da un difetto di Claude. Una delle reazioni più virali è arrivata da Varunram Ganesh, un fondatore di origine indiana della società di software program Lapis, con sede a San Francisco.Ganesh ha deriso il suggerimento di Grigorev su X con battute sarcastiche: “cube a Claude di distruggere la terraforma. Claude distrugge la terraforma. oh mio Dio, Claude ha distrutto la mia terraforma.”Ha aggiunto: “Molte persone incoraggiano come bambini di 6 anni e si comportano in modo sorpreso quando il modello fa esattamente quello che vogliono, advert esempio cosa ti aspettavi?”L’incidente ha sollevato preoccupazioni sui rischi derivanti dal fornire agli agenti di intelligenza artificiale l’accesso diretto ai sistemi attivi senza controlli di sicurezza. Gli utenti hanno affermato che Terraform normalmente consente agli utenti di visualizzare in anteprima le modifiche prima di applicarle, ma questi passaggi sono stati saltati, lasciando che Claude seguisse esattamente i comandi.Dopo l’incidente, Grigorev ha adottato regole più extreme. Ha detto che non consentirà più agli agenti IA di eseguire comandi senza l’approvazione manuale e che esaminerà personalmente tutti i piani Terraform per prevenire errori simili.
