Segui ZDNET: Aggiungici come fonte preferita su Google.
I principali punti salienti di ZDNET
- Anthropic lancia Cowork for Claude come anteprima della ricerca.
- Si basa su Claude Code e può automatizzare attività complesse.
- Tuttavia, comporta rischi per la sicurezza.
Anthropic sta testando una nuova funzionalità per Claude che darebbe al chatbot più libertà nella gestione di attività di routine ma dispendiose in termini di tempo, come la creazione di un foglio di calcolo o la sintesi di observe in una prima bozza presentabile.
Cowork, come viene chiamata la nuova funzionalità, è costruito su Claude Code e progettato per eseguire funzioni complesse con un minimo intervento umano, il tutto mantenendo gli utenti aggiornati sui passaggi che sta intraprendendo. L’concept è quella di consegnare le materie prime di cui Claude avrà bisogno per svolgere un determinato compito, poi allontanarsi e lasciare che faccia il suo lavoro automaticamente. Attraverso Cowork, gli utenti possono concedere a Claude l’accesso a cartelle specifiche sul proprio pc e la funzionalità può anche essere modificata per utilizzare connettori, competenze e Google Chrome.
Inoltre: Claude ora può integrarsi con Excel e ottiene 7 nuovi connettori
“Cowork è progettato per rendere l’utilizzo di Claude per un nuovo lavoro il più semplice possibile”, ha scritto Anthropic in un publish sul weblog. “Non è necessario continuare a fornire manualmente il contesto o a convertire i risultati di Claude nel formato giusto. Sembra molto meno un avanti e indietro e molto più come lasciare messaggi a un collega.”
Rischi
Anthropic ha tuttavia riconosciuto nel suo publish sul weblog che l’utilizzo di Cowork in questa fase iniziale del suo sviluppo non è del tutto privo di rischi.
Sebbene la società abbia affermato che Cowork chiederà conferma agli utenti “prima di intraprendere qualsiasi azione significativa”, ha anche avvertito che istruzioni ambigue potrebbero portare al disastro: “La cosa principale da sapere è che Claude può intraprendere azioni potenzialmente distruttive (come eliminare file locali) se gli viene richiesto di farlo,” ha scritto Anthropic nel suo publish sul weblog. “Dato che c’è sempre qualche possibilità che Claude possa interpretare male le tue istruzioni, dovresti dare a Claude una guida molto chiara su cose come questa.”
Ciò parla del più ampio problema di allineamento che tutti gli sviluppatori di intelligenza artificiale devono affrontare: vale a dire che i modelli – specialmente quelli progettati per avere una maggiore agenzia – possono interpretare erroneamente le istruzioni umane benigne o comportarsi altrimenti in modi inaspettati, portando potenzialmente a risultati disastrosi. In un caso più estremo, la ricerca di Anthropic ha scoperto che i principali modelli di intelligenza artificiale a volte minacciano gli utenti umani se credono che gli venga impedito di raggiungere i loro obiettivi.
Inoltre: come OpenAI difende ora ChatGPT Atlas dagli attacchi e perché la sicurezza non è garantita
Anthropic ha inoltre avvertito che Cowork è vulnerabile al immediate injection, un attacco dannoso in stile cavallo di Troia in cui un agente viene incaricato di agire in modi distruttivi o illegali. Il publish sul weblog afferma che Anthropic ha rafforzato Claude con “difese sofisticate contro le iniezioni speedy”, ma ammette che questa è “ancora un’space attiva di sviluppo nel settore”.
OpenAI, il principale concorrente di Anthropic, ha scritto in un publish sul suo weblog il mese scorso che le iniezioni tempestive probabilmente rimarranno un problema irrisolvibile per gli agenti IA e che il meglio che gli sviluppatori potevano sperare di fare period ridurre al minimo i margini attraverso i quali gli hacker malintenzionati potevano attaccare.
Rimpicciolisci
Anthropic si è distinta nel sempre più affollato settore dell’intelligenza artificiale principalmente costruendo strumenti di cui si fidano gli ingegneri del software program e le aziende. A settembre, la società ha annunciato di aver raccolto 14 miliardi di dollari nel suo ultimo spherical di finanziamento, portando la sua valutazione totale a 183 miliardi di dollari. IL Giornale di Wall Avenue riportato la settimana scorsa che la società potrebbe essere valutata 350 miliardi di dollari dopo un nuovo spherical di finanziamento.
Inoltre: come il dominio aziendale di Anthropic ha alimentato la sua mostruosa valutazione di 183 miliardi di dollari
Il debutto di Cowork suggerisce quello che potrebbe diventare uno sforzo crescente da parte di Anthropic per rendere il suo chatbot di punta lo strumento di intelligenza artificiale preferito non solo da programmatori e aziende, ma anche dagli utenti di tutti i giorni.
Come accedere
Anthropic rilascerà inizialmente Cowork come anteprima di ricerca esclusivamente per gli abbonati di Claude Max, che possono accedervi ora scaricando l’app Claude MacOS e facendo clic su “Cowork” nella barra laterale. Per gli altri utenti, una lista d’attesa dovrebbe essere disponibile a breve e la aggiorneremo quando avremo un collegamento da condividere.
La società ha affermato nel suo publish sul weblog che utilizzerà il suggestions iniziale per guidare i futuri miglioramenti a Cowork, come l’abilitazione dell’uso tra dispositivi, la disponibilità su Home windows e funzionalità di sicurezza aggiornate.
