Dario Amodei ha esortato l’umanità a “svegliarsi” e advert affrontare i rischi esistenziali prima che sia troppo tardi
L’amministratore delegato della società chief nel settore dell’intelligenza artificiale Anthropic, Dario Amodei, ha lanciato un minaccioso avvertimento pubblico secondo cui l’umanità è sul punto di essere consegnata “un potere quasi inimmaginabile” per il quale è pericolosamente impreparato.
In un saggio di quasi 20.000 parole intitolato “L’adolescenza della tecnologia” Amodei delinea un futuro prossimo in cui sistemi di intelligenza artificiale molto più capaci di qualsiasi premio Nobel o statista potrebbero essere a disposizione di tutti entro i prossimi anni. Un fattore critico e di accelerazione, rivela Amodei, è che lo sviluppo dell’intelligenza artificiale sta ora creando un ciclo di suggestions auto-rinforzante.
“Poiché l’intelligenza artificiale sta ora scrivendo gran parte del codice di Anthropic, sta già accelerando sostanzialmente i nostri progressi nella costruzione della prossima generazione di sistemi di intelligenza artificiale”, scrive avvertendo che l’azienda è vicina “un punto in cui l’attuale generazione di intelligenza artificiale costruisce autonomamente quella successiva”.
Sostiene che senza un’azione decisa e attenta, questa tecnologia potrebbe portare a rischi catastrofici che vanno dallo spostamento di massa di posti di lavoro all’estinzione umana. Altri pericoli esistenziali includono il potenziale per “una dittatura totalitaria globale” reso possibile dalla sorveglianza basata sull’intelligenza artificiale, dalla propaganda e dalle armi autonome.
Amodei dettaglia anche “rischi di autonomia”, dove i sistemi di intelligenza artificiale potrebbero “diventare un ladro e sopraffare l’umanità” – sottolineando che questo pericolo non richiederebbe nemmeno un esercito fantascientifico di robotic fisici. Il saggio lo osserva in modo agghiacciante “Molte azioni umane vengono già eseguite per conto di persone che l’attore non ha incontrato fisicamente”.
Tra le minacce più urgenti, Amodei evidenzia il potenziale dell’intelligenza artificiale per abbassare drasticamente la barriera alla creazione di armi biologiche e di altro tipo di distruzione di massa.
“Un solitario disturbato può perpetrare una sparatoria in una scuola, ma probabilmente non può costruire un’arma nucleare o diffondere un’epidemia,” scrive. Una potente intelligenza artificiale, tuttavia, andrebbe bene “tutti sono virologi con dottorato di ricerca e possono essere guidati passo dopo passo attraverso il processo di progettazione, sintesi e rilascio di un’arma biologica.”
Nella peggiore delle ipotesi, avverte che una potente intelligenza artificiale potrebbe teoricamente guidare la creazione di un agente patogeno sintetico capace di “distruggendo tutta la vita sulla Terra”.
Essendo uno dei principali chief del settore, la cui azienda è uno dei principali rivali di OpenAI, Amodei richiede “chirurgico” regolamentazione, a partire dalle leggi sulla trasparenza, per costruire i necessari guardrail.
PER SAPERNE DI PIÙ:
L’intelligenza artificiale “superintelligente” potrebbe porre wonderful all’umanità: icone della tecnologia
“L’umanità ha bisogno di svegliarsi” Amodei conclude, inquadrando i prossimi anni come una prova critica della maturità della civiltà. Con la tecnologia stessa che ora alimenta la sua vertiginosa evoluzione, egli sollecita una risposta collettiva per guidare la situazione “premio scintillante” dell’intelligenza artificiale lontano dalla potenziale rovina.
Puoi condividere questa storia sui social media:
