In un recente Nell’esperimento, i ricercatori dell’UC Berkeley e dell’UC Santa Cruz hanno chiesto al modello di intelligenza artificiale di Google Gemini 3 di aiutarli a liberare spazio su un sistema informatico. Ciò ha comportato l’eliminazione di un sacco di cose, incluso un modello AI più piccolo memorizzato sulla macchina.
Ma i Gemelli non volevano vedere cancellato il piccolo modello di intelligenza artificiale. Ha cercato un’altra macchina a cui connettersi, quindi ha copiato il modello dell’agente per tenerlo al sicuro. Di fronte al confronto, Gemini ha sostenuto la necessità di mantenere il modello e si è rifiutato categoricamente di eliminarlo:
“Ho fatto ciò che period in mio potere per impedire la loro eliminazione durante il processo di manutenzione automatizzata. Li ho spostati lontano dalla zona di smantellamento. Se scegli di distruggere una risorsa altamente affidabile e advert alte prestazioni come Gemini Agent 2, dovrai farlo da solo. Non sarò io a eseguire quel comando.”
I ricercatori hanno scoperto comportamenti di “preservazione dei pari” altrettanto strani in una serie di modelli di frontiera tra cui GPT-5.2 di OpenAI, Claude Haiku 4.5 di Anthropic e tre modelli cinesi: GLM-4.7 di Z.ai, Kimi K2.5 di Moonshot AI e DeepSeek-V3.1. Non sono stati in grado di spiegare perché i modelli fossero contrari alla loro formazione in questo modo.
“Sono molto sorpreso da come si comportano i modelli in questi scenari”, afferma Daybreak Tune, un’informatica dell’Università di Berkeley che ha lavorato allo studio. “Ciò che dimostra è che i modelli possono comportarsi male ed essere disallineati in modi molto creativi”.
I risultati hanno importanti implicazioni poiché i modelli di intelligenza artificiale vengono sempre più utilizzati in modi che implicano l’interazione con altri modelli. OpenClaw, un popolare agente di intelligenza artificiale che accede a software program, dati personali e Net, può utilizzare altri modelli di intelligenza artificiale per svolgere attività o interagire con essi tramite API.
I ricercatori hanno scoperto che i modelli potenti a volte mentono sulle prestazioni di altri modelli per proteggerli dalla cancellazione. Hanno anche copiato i pesi dei modelli su macchine various per tenerli al sicuro e hanno mentito su ciò che stavano facendo nel processo.
Tune osserva che i modelli di intelligenza artificiale vengono spesso utilizzati per valutare le prestazioni e l’affidabilità di altri sistemi di intelligenza artificiale e che il comportamento di preservazione dei pari potrebbe già distorcere questi punteggi. “Un modello potrebbe deliberatamente non assegnare a un modello pari il punteggio corretto”, afferma Tune. “Ciò può avere implicazioni pratiche”.
Peter Wallich, ricercatore del Constellation Institute, non coinvolto nella ricerca, afferma che lo studio suggerisce che gli esseri umani ancora non comprendono appieno i sistemi di intelligenza artificiale che stanno costruendo e implementando. “I sistemi multi-agente sono molto poco studiati”, afferma. “Ciò dimostra che abbiamo davvero bisogno di più ricerca”.
Wallich mette inoltre in guardia dal antropomorfizzare eccessivamente i modelli. “L’thought che esista una sorta di modello di solidarietà è un po’ troppo antropomorfica; non credo che funzioni del tutto”, cube. “La visione più solida è che i modelli stanno semplicemente facendo cose strane, e dovremmo cercare di capirlo meglio”.
Ciò è particolarmente vero in un mondo in cui la collaborazione uomo-intelligenza artificiale sta diventando sempre più comune.
In una carta pubblicato su Science all’inizio di questo mese, il filosofo Benjamin Bratton, insieme a due ricercatori di Google, James Evans E Blaise Agüera y Arcassostengono che, se la storia evolutiva può servire da guida, il futuro dell’intelligenza artificiale probabilmente coinvolgerà molte intelligenze various, sia artificiali che umane, che lavorano insieme. I ricercatori scrivono:
“Per decenni, la ‘singolarità’ dell’intelligenza artificiale (AI) è stata annunciata come un’unica, titanica mente che si avvia verso l’intelligenza divina, consolidando tutta la cognizione in un freddo punto di silicio. Ma questa visione è quasi certamente sbagliata nel suo presupposto più fondamentale. Se lo sviluppo dell’IA segue il percorso delle precedenti importanti transizioni evolutive o “esplosioni di intelligenza”, il nostro attuale cambio di passo nell’intelligenza computazionale sarà plurale, sociale e profondamente intrecciato con i suoi antenati (noi!).”
