Il Blake Lemoine L’incidente è ricordato oggi come il culmine dell’hype sull’IA. Ha spinto l’intera thought di intelligenza artificiale consapevole all’attenzione del pubblico per un ciclo o due di notizie, ma ha anche avviato una conversazione, sia tra gli informatici che tra i ricercatori sulla coscienza, che si è solo intensificata negli anni successivi. Mentre la comunità tecnologica continua a sminuire pubblicamente l’intera thought (e il povero Lemoine), in privato ha iniziato a prendere la possibilità molto più seriamente. Un’intelligenza artificiale consapevole potrebbe non avere una chiara logica commerciale (come si monetizza la cosa?) e creare dilemmi morali complicati (come dovremmo trattare una macchina capace di soffrire?). Eppure alcuni ingegneri dell’intelligenza artificiale sono arrivati a pensare che il Santo Graal dell’intelligenza artificiale generale – una macchina che non solo è superintelligente ma anche dotata di un livello umano di comprensione, creatività e buon senso – potrebbe richiedere qualcosa come la coscienza per essere raggiunto. Nella comunità tecnologica, quello che period stato un tabù informale riguardo all’intelligenza artificiale consapevole – come una prospettiva che il pubblico avrebbe trovato inquietante – cominciò improvvisamente a sgretolarsi.
Il punto di svolta è arrivato nell’property del 2023, quando un gruppo di 19 eminenti scienziati informatici e filosofi ha pubblicato un rapporto di 88 pagine intitolato “La coscienza nell’intelligenza artificiale“, informalmente noto come rapporto Butlin. In pochi giorni, a quanto pare, tutti nella comunità dell’intelligenza artificiale e della scienza della coscienza lo avevano letto. L’summary della bozza del rapporto conteneva questa frase sorprendente: “La nostra analisi suggerisce che nessun attuale sistema di intelligenza artificiale è cosciente, ma suggerisce anche che non ci sono barriere evidenti alla costruzione di sistemi di intelligenza artificiale consapevoli”.
Gli autori hanno riconosciuto che parte dell’ispirazione dietro la convocazione del gruppo e la stesura del rapporto è stata “il caso di Blake Lemoine”. “Se le IA possono dare l’impressione della coscienza”, a ha detto il coautore alla rivista Science“ciò rende una priorità urgente per scienziati e filosofi intervenire”.
Ma ciò che ha attirato l’attenzione di tutti è stata quella singola affermazione nell’summary della prestampa: “nessuna barriera evidente alla costruzione di sistemi di intelligenza artificiale consapevoli”. Quando ho letto quelle parole per la prima volta ho avuto la sensazione che fosse stata superata una soglia importante, e non solo tecnologica. No, questo aveva a che fare con la nostra stessa identità come specie.
Cosa significherebbe per l’umanità scoprire un giorno, in un futuro non troppo lontano, che è venuta al mondo una macchina pienamente cosciente? Immagino che sarebbe un momento copernicano, che rimuoverebbe improvvisamente il nostro senso di centralità e particolarità. Noi umani abbiamo trascorso alcune migliaia di anni a definirci in opposizione agli animali “minori”. Ciò ha implicato negare agli animali tratti apparentemente unicamente umani come i sentimenti (uno degli errori più flagranti di Cartesio), il linguaggio, la ragione e la coscienza. Negli ultimi anni, la maggior parte di queste distinzioni si sono disintegrate quando gli scienziati hanno dimostrato che molte specie sono intelligenti e coscienti, hanno sentimenti e usano linguaggio e strumenti, sfidando secoli di eccezionalismo umano. Questo cambiamento, ancora in corso, ha sollevato questioni spinose sulla nostra identità, così come sui nostri obblighi morali nei confronti delle altre specie.
Con l’intelligenza artificiale, la minaccia alla nostra esaltata concezione di sé proviene da un’altra direzione. Ora noi esseri umani dovremo definire noi stessi in relazione alle IA piuttosto che agli altri animali. Mentre gli algoritmi informatici ci superano in termini di pura capacità intellettuale – battendoci facilmente in giochi come gli scacchi e il Go e in varie forme di pensiero “superiore” come la matematica – possiamo almeno trarre conforto dal fatto che noi (e molte altre specie animali) abbiamo ancora per noi le benedizioni e i fardelli della coscienza, la capacità di sentire e avere esperienze soggettive. In questo senso, l’intelligenza artificiale può fungere da avversario comune, avvicinando gli esseri umani e gli altri animali: noi contro, i viventi contro le macchine. Questa nuova solidarietà costituirebbe una storia commovente e potrebbe essere una buona notizia per gli animali invitati a unirsi al Crew Aware. Ma cosa succederebbe se l’intelligenza artificiale iniziasse a sfidare il monopolio umano – o animale, dovrei dire – sulla coscienza? Chi saremo allora?
