Anthropic mantiene la linea. Almeno per ora.
Questa settimana il Pentagono si è rivolto advert Anthropic chiedendo di rimuovere i guardrail nel suo modello di intelligenza artificiale Claude per vietare la sorveglianza domestica di massa e le armi completamente automatizzate. Ma Anthropic si rifiuta di farlo, secondo a nuova dichiarazione dall’amministratore delegato Dario Amodei, che scrive: “non possiamo in buona coscienza accogliere la loro richiesta”.
Ci sono molti soldi in gioco. E nessuno sa cosa succederà dopo.
All’inizio di questa settimana, il segretario alla Difesa Pete Hegseth ha dato advert Anthropic una scadenza alle 17:01 ET di venerdì per accettare la rimozione di tutte le misure di salvaguardia, minacciando di cacciare Claude dai sistemi militari statunitensi o di designare l’azienda come un “rischio della catena di fornitura”, un’etichetta usata per gli avversari degli Stati Uniti che non è mai stata applicata prima a un’azienda americana.
Hegseth, che si riferisce al Dipartimento della Difesa come al Dipartimento della Guerra, ha persino minacciato di invocare il Protection Manufacturing Act, che teoricamente consentirebbe al Pentagono di chiedere semplicemente advert Anthropic di fare qualunque cosa Hegseth voglia.
Amodei ha sottolineato giovedì in una lettera pubblicata on-line: “Queste ultime due minacce sono intrinsecamente contraddittorie: una ci etichetta come un rischio per la sicurezza; l’altra etichetta Claude come essenziale per la sicurezza nazionale”. Gli esperti hanno definito i messaggi contraddittori di Hegseth “incoerente”, un’etichetta che potrebbe applicarsi anche al regime di Trump in senso più ampio.
Antropico, che ha a Contratto da 200 milioni di dollari con il Dipartimento della Difesa, ha detto Notizie della CBS che la “migliore e definitiva offerta” del Pentagono, inviata mercoledì, sembrava avere lacune che avrebbero permesso ai militari di ignorare le protezioni messe in atto.
“Il nuovo linguaggio concepito come compromesso è stato abbinato a termini legali che avrebbero consentito di ignorare a piacimento tali garanzie. Nonostante le recenti dichiarazioni pubbliche del DOW, queste strette garanzie sono state il punto cruciale dei nostri negoziati per mesi”, ha affermato Anthropic.
La nuova lettera diffusa da Antropico su TIeri si è assicurato di sottolineare che la società di intelligenza artificiale collabora con le comunità militari e di intelligence e che “rimangono pronti a continuare il nostro lavoro a sostegno della sicurezza nazionale degli Stati Uniti”. Ma chiedere di eliminare tutte le garanzie è semplicemente un passo troppo lontano.
“Anthropic è consapevole che è il Dipartimento della Guerra, e non le aziende non-public, a prendere le decisioni militari. Non abbiamo mai sollevato obiezioni a particolari operazioni militari né tentato di limitare l’uso della nostra tecnologia in un contesto advert hoc modo”, ha scritto la società.
“Tuttavia, in un numero ristretto di casi, riteniamo che l’intelligenza artificiale possa minare, anziché difendere, i valori democratici. Alcuni usi sono anche semplicemente al di fuori dei limiti di ciò che la tecnologia odierna può fare in modo sicuro e affidabile.”
La società ha continuato elencando i due casi d’uso in cui ritiene che siano necessarie misure di salvaguardia per proteggere gli interessi americani. Nella sezione sulla sorveglianza domestica di massa, Amodei metti la parola domestico in corsivo, come per mettere in guardia gli americani in modo più ampio su ciò che sta accadendo proprio sotto il nostro naso.
La lettera sottolinea che il governo può acquistare “registri dettagliati dei movimenti, della navigazione internet e delle associazioni degli americani da fonti pubbliche senza ottenere un mandato”, cosa che ovviamente viola i diritti degli americani. Il Pentagono ha suggerito di non avere un piano per la sorveglianza di massa degli americani, dicendo alla CNN che il conflitto con Anthropic non ha “niente a che fare con la sorveglianza di massa e l’uso di armi autonome”.
La seconda sezione di AmodeiLa lettera di , che riguarda le armi autonome, riconosce che le armi assistite dall’intelligenza artificiale sono già utilizzate oggi sui campi di battaglia in luoghi come l’Ucraina. Ma avverte: “i sistemi di intelligenza artificiale di frontiera semplicemente non sono abbastanza affidabili per alimentare armi completamente autonome”. La lettera prosegue dicendo: “Ci siamo offerti di lavorare direttamente con il Dipartimento di Guerra sulla ricerca e sviluppo per migliorare l’affidabilità di questi sistemi, ma loro non hanno accettato questa offerta”.
Amodei ha incontrato Hegseth martedì in un incontro che è stato descritto dalla CNN come “cordiale”, ma sarà ovviamente interessante vedere dove andrà a finire.
Hegseth non è conosciuto come un ragazzo particolarmente intelligente o equilibrato, quindi è del tutto possibile che cerchi di etichettare Anthropic sia come una minaccia alla sicurezza nazionale sia come una parte della macchina da guerra americana così vitale che essenzialmente arruolerà la compagnia per fare ciò che vuole. Sembra che lo scopriremo tutti entro la advantageous della giornata di venerdì.
