La fiducia tra il Pentagono e Anthropic sull’uso del suo modello di intelligenza artificiale sta venendo meno, hanno riferito a CBS Information fonti vicine alla situazione.
Martedì mattina, in un incontro al Pentagono, il segretario alla Difesa Pete Hegseth ha concesso al CEO di Anthropic, Dario Amodei, tempo fino alla tremendous di questa settimana per consegnare ai militari un documento firmato che garantirebbe pieno accesso al suo modello di intelligenza artificiale, hanno detto le fonti.
I funzionari stanno valutando la possibilità di invocare il Protection Manufacturing Act per far sì che Anthropic aderisca a ciò che i militari stanno cercando, hanno detto. Axios riportato in precedenza su alcuni di ciò che è emerso durante l’incontro.
I funzionari della difesa vogliono il pieno controllo della tecnologia AI di Anthropic da utilizzare nelle sue operazioni militari, hanno riferito fonti a CBS Information. L’azienda è stato premiato un contratto da 200 milioni di dollari stipulato dal Pentagono a luglio per sviluppare capacità di intelligenza artificiale che migliorerebbero la sicurezza nazionale degli Stati Uniti.
Anthropic ha ripetutamente chiesto al Dipartimento della Difesa di accettare dei guardrail che impedirebbero al modello di intelligenza artificiale, chiamato Claude, di condurre una sorveglianza di massa sugli americani, hanno detto fonti. Funzionari della difesa hanno notato che ciò è illegale e hanno affermato che l’esercito sta semplicemente chiedendo una licenza per utilizzare l’intelligenza artificiale esclusivamente per attività legali.
La stampa libera: Siamo al precipizio dell’intelligenza artificiale?
Amodei vuole anche assicurarsi che Claude non venga utilizzato dal Pentagono per le decisioni finali sui bersagli nelle operazioni militari senza alcun coinvolgimento umano, ha detto una fonte vicina all’incontro. Claude non è immune dalle allucinazioni e non è abbastanza affidabile da evitare errori potenzialmente letali, come un’escalation involontaria o il fallimento della missione senza il giudizio umano, ha detto la persona.
Ma quando è stato chiesto un commento, un alto funzionario del Pentagono ha detto: “Questo non ha nulla a che fare con la sorveglianza di massa e l’uso di armi autonome. Il Pentagono ha dato solo ordini legittimi”.
Il funzionario ha affermato che Grok, di proprietà di xAI di Elon Musk, è d’accordo con l’utilizzo in un ambiente classificato e altre società di intelligenza artificiale sono vicine.
Nell’incontro di martedì, Hegseth ha detto advert Amodei che quando il governo acquista gli aerei Boeing, la compagnia aerospaziale non ha voce in capitolo su come il Pentagono utilizza gli aerei. Ha sostenuto che lo stesso dovrebbe essere vero per l’uso di Claude da parte dei militari.
Dopo che Amodei se ne fu andato, i funzionari discussero se utilizzare il file Legge sulla produzione della difesa in questa situazione, che consente al governo di esercitare il controllo sulle industrie nazionali.
Ma poiché i funzionari affermano di non essere sicuri che il governo possa fidarsi di Anthropic a questo punto, il Pentagono potrebbe decidere di designare ufficialmente la società come “a rischio per la catena di fornitura” per spingerla fuori dal governo, hanno detto due fonti. Anthropic è stata la prima azienda tecnologica autorizzata a lavorare sulle reti riservate dell’esercito.
Un portavoce di Anthropic ha dichiarato in una nota: “Abbiamo continuato le conversazioni in buona fede sulla nostra politica di utilizzo per garantire che Anthropic possa continuare a sostenere la missione di sicurezza nazionale del governo in linea con ciò che i nostri modelli possono fare in modo affidabile e responsabile”.
Hegseth ha dato advert Anthropic una scadenza alle 17:00 di venerdì.
