Ascolta questo articolo
Durata stimata 6 minuti
La versione audio di questo articolo è generata dalla tecnologia basata sull’intelligenza artificiale. Possono verificarsi errori di pronuncia. Stiamo lavorando con i nostri associate per rivedere e migliorare continuamente i risultati.
Idee54:01Perché l’intelligenza artificiale deve essere più gentile con noi e sviluppare “istinti materni”
Geoffrey Hinton, che molti considerano il padrino dell’intelligenza artificiale, afferma che se l’intelligenza artificiale continua a svilupparsi senza protezioni adeguate, lo state of affairs peggiore potrebbe portare all’estinzione umana.
Ma ha una soluzione.
Hinton è co-vincitore del Premio Nobel per la fisica 2024 e co-fondatore della AI Security Basis.
Come spiega IDEE conduttrice Nahlah Ayed, addestrare l’intelligenza artificiale a sviluppare l’istinto materno potrebbe essere ciò che salverà la razza umana. Ecco una parte di quella conversazione.
Qual è lo state of affairs peggiore che puoi immaginare qui?
Bene, ci sono molti scenari negativi a breve termine che non implicano che l’intelligenza artificiale prenda il sopravvento. Quindi è difficile scegliere il peggiore.
Ma, advert esempio, l’intelligenza artificiale utilizzata dai terroristi per creare nuovi pericolosi virus. Sta rendendo loro molto più facile farlo. E questo è molto spaventoso. Otterremo una collaborazione internazionale su come cercare di prevenirlo, ma potremmo non essere in grado di farlo. Quindi questo è un rischio a breve termine.
La cosa che mi preoccupa di più è ancora questo rischio a lungo termine, che mi sembra abbastanza inevitabile, che le IA diventino più intelligenti di noi. C’è l’intelligenza artificiale utilizzata per corrompere la democrazia con video falsi.
Ma la cosa che mi preoccupa di più è ancora questo rischio a lungo termine, che mi sembra abbastanza inevitabile, che le IA diventino più intelligenti di noi, e non sappiamo come potremo coesistere con loro. Non sappiamo se effettivamente prenderanno il posto di noi.
Lascia che te lo chieda senza mezzi termini. Quali sono le probabilità che l’intelligenza artificiale porti effettivamente all’estinzione umana in questo secolo?
OK, penso che l’unica risposta onesta sia che questo è qualcosa che probabilmente non accadrà prima di 10 o 20 anni. E abbiamo pochissima concept di come saranno le cose tra 10 o 20 anni. Se guardi indietro di 10 anni, nessuno aveva concept che avremmo avuto chatbot così validi come lo sono adesso.
Quindi, se il progresso è solo lineare, possiamo aspettarci che tra 10 o 20 anni le cose saranno molto various da come sono adesso, e avremo tutti i tipi di progressi che non avremmo potuto prevedere. La risposta più onesta è che non ne abbiamo la minima concept.
E non per soffermarmi sugli aspetti negativi, ma è all’estremità del tuo orizzonte della paura che ciò potrebbe portare all’estinzione degli esseri umani?
Oh, certamente potrebbe, sì. Penso che chiunque affermi che non è possibile che ciò porti all’estinzione degli esseri umani semplicemente non stia affrontando la realtà.
Geoffrey Hinton, co-vincitore del Premio Nobel per la fisica 2024, è conosciuto da molti come il “padrino dell’intelligenza artificiale”. Ha parlato con Concepts di come potremmo addestrare l’intelligenza artificiale a essere più gentile con gli esseri umani.
Mi chiedo come potremmo plasmare il futuro dell’intelligenza artificiale per assicurarci che sia più gentile nei nostri confronti. C’è un modo?
Potrebbe esserci. Penso che dovremmo dedicare molti sforzi di ricerca a questo proposito. Quindi, se ti guardi intorno e dici: “Dov’è un esempio di una cosa più intelligente controllata da una cosa meno intelligente?” il miglior esempio che conosco e forse l’unico nel senso in cui stiamo parlando è come un bambino controlla una madre e questo perché l’evoluzione ha incorporato delle cose nella madre.
Non sopporta il suono del pianto del bambino. Riceve ogni sorta di ricompensa ormonale dall’essere gentile con il bambino. Ovviamente period molto importante per l’evoluzione lasciare che il bambino controllasse la madre per la sopravvivenza della specie.
Forse possiamo fare lo stesso con l’intelligenza artificiale. Anche se sarà più intelligente di noi, se potessimo fare in modo che si preoccupi più di noi che di se stesso, ne verrebbero fuori alcune cose buone.
Si renderebbe conto che le nostre capacità intellettuali sono piuttosto limitate, ma lo vorrebbe [us] sviluppare tanto quanto [we] potrebbe comunque. Se prendi una madre normale e le dici: “Vorresti spegnere i tuoi istinti materni? La tua vita non sarebbe molto più semplice se ti svegliassi nel cuore della notte e dicessi: ‘Oh, il bambino sta piangendo di nuovo’, e tornassi a dormire. Non sarebbe carino?”.
La maggior parte delle madri direbbe di no, perché si preoccupano veramente del bambino e si rendono conto che sarebbe molto dannoso per loro. La maggior parte di loro non vorrà spegnere quegli istinti, anche se sarebbero in grado di farlo se lo volessero perché riescono a ottenere il proprio codice.
Sono sorpreso che ciò non facesse parte dello sviluppo dell’intelligenza artificiale fin dall’inizio. Perché non abbiamo pensato a garantire che l’intelligenza artificiale sia più gentile con noi?
Oh, perché l’obiettivo principale dell’intelligenza artificiale fino a poco tempo fa è stato [that] vogliamo un’assistenza intelligente.
Non hai bisogno che sia gentile, hai solo bisogno che sia efficiente e faccia quello che dici. E questa è stata l’concept di come possiamo sviluppare l’intelligenza artificiale da parte delle grandi aziende tecnologiche.
Fino a quando non diventerà più intelligente.
E non penso che sia sostenibile quando diventa più intelligente. Penso che dobbiamo riformularlo completamente perché non saremo il capo e l’intelligenza artificiale il nostro assistente intelligente. L’intelligenza artificiale si prenderà cura di noi. Come lo fai? Come diamo all’IA l’istinto materno di essere più gentile con noi?
Beh, ricorda, lo stiamo sviluppando. Lo stiamo creando. Abbiamo ancora la possibilità di farlo. Il successo o meno dipende in parte da quanto ci proviamo. Potrebbe non essere possibile.
Potrebbe darsi che una volta sviluppata un’intelligenza artificiale tremendous intelligente, si attivi e faccia le sue cose e noi eravamo solo una fase passeggera nello sviluppo dell’intelligenza. Ma se fosse possibile svilupparlo in modo che si preoccupi di noi più di quanto si preoccupi di se stesso, sarebbe molto sciocco se ci estinguessimo perché non ci abbiamo provato.
Quante persone stanno effettivamente lavorando su questo aspetto delle cose oggi?
Probabilmente meno dell’1% dei ricercatori che lavorano sull’intelligenza artificiale, il che è pazzesco.
*Domande e risposte modificate per chiarezza e lunghezza. Questo episodio è stato prodotto da Nicola Luksic.
Scarica il Podcast delle IDEE per ascoltare la conversazione completa.
