Fino advert oggi, Mrinank Sharma period a capo del gruppo di ricerca sulla salvaguardia presso Anthropic, la società dietro il popolare chatbot AI Claude. Si è dimesso lunedì e pubblicamente pubblicato la lettera che ha condiviso con la sua squadra prima di partire, in cui esprimeva una profonda preoccupazione per… qualcosa.
Nel letteraSharma parla ampiamente del contributo alla sicurezza dell’intelligenza artificiale, citando i successi nel suo ruolo, tra cui “la comprensione del servilismo dell’intelligenza artificiale e delle sue trigger; lo sviluppo di difese per ridurre i rischi derivanti dal bioterrorismo assistito dall’intelligenza artificiale; l’effettiva messa in produzione di tali difese; e la scrittura di uno dei primi casi sulla sicurezza dell’intelligenza artificiale”. Il suo progetto finale, scrisse, period “capire come gli assistenti AI potessero renderci meno umani o distorcere la nostra umanità”.
Ha anche detto che il lavoro è più importante che mai a causa di una minaccia vaga e per lo più indefinita che si profila all’orizzonte. “Mi ritrovo continuamente a fare i conti con la nostra situazione. Il mondo è in pericolo. E non solo a causa dell’intelligenza artificiale o delle armi biologiche, ma a causa di tutta una serie di crisi interconnesse che si stanno verificando proprio in questo momento”, ha scritto.
Anche se non nomina questi pericoli, ha lasciato una nota, chiamiamola utile, per spiegare ulteriormente: “Alcuni la chiamano ‘poli-crisi’, sostenuta da una ‘meta-crisi.'” Okay! Per comprendere meglio questa concept, ha citato il libro “Primi principi e primi valori” di David J. Temple, ed è proprio una tana del coniglio in cui cadere.
Un paio di cose su quel testo: in primo luogo, il sottotitolo è “Quarantadue proposizioni sull’umanesimo cosmoerotico, la meta-crisi e il mondo a venire”. L’Umanesimo CosmoErotico, secondo il Centro di Filosofia e Religione Mondiale, è un “movimento filosofico mondiale volto a ricostruire il crollo del valore al centro della cultura globale” e “non è semplicemente una teoria ma un movimento che cambia lo stato d’animo stesso della Realtà”. Queste sono sicuramente le parole messe in ordine.
Nel tentativo di semplificare il concetto di Umanesimo CosmoErotico, fondamentalmente presuppone che stiamo vivendo una crisi fondamentale dell’umanità causata dalla perdita di una comprensione condivisa del mondo e cerca di creare una nuova storia condivisa che inquadra l’evoluzione dell’umanità come la “Storia d’amore dell’Universo”.
In secondo luogo, l’autore del libro, David J. Temple, non è realmente una persona. È uno pseudonimo che comprende una raccolta di scrittori associati al Heart for World Philosophy and Faith, tra cui Marc Gafni e Zak Stein come autori principali. Gafni, è bene notare, è stato accusato violenza sessuale da parte di più vittimecomprese due donne che lo erano minorenne al momento dei fatti contestatied period bandito dal movimento del Rinnovamento Ebraico di cui faceva precedentemente parte. Forse non è il tipo di persona che vorresti fosse al centro della creazione della “storia d’amore” della società.
Tornando a Sharma, ha detto che, pur essendo orgoglioso del lavoro svolto per salvaguardare l’intelligenza artificiale, sapeva che period ora di andare avanti e sembrava suggerire che forse Anthropic non period all’altezza della sua immagine pubblica attentamente curata come “buona” azienda di intelligenza artificiale. “Durante il mio tempo qui, ho visto ripetutamente quanto sia difficile lasciare veramente che i nostri valori governino le nostre azioni”, ha scritto. “L’ho visto dentro di me, all’interno dell’organizzazione, dove affrontiamo costantemente pressioni per mettere da parte ciò che conta di più, e anche nella società più ampia.”
Gizmodo ha contattato Anthropic per un commento sulla partenza di Sharma ma non ha ricevuto risposta al momento della pubblicazione.
Comprensibilmente, Sharma ha detto che voleva fare un lavoro che gli permettesse di agire in linea con i suoi principi e mantenere la sua integrità. “È mantenendo questa situazione e ascoltando nel miglior modo possibile che ciò che devo fare diventa chiaro”, ha scritto. Quindi, quale chiarezza ha trovato, ti starai chiedendo? Agirà come informatore e condividerà ciò che ha visto dall’interno del settore e da Anthropic, in particolare? Forse agirà come una voce di spicco per impedire che l’intelligenza artificiale venga utilizzata in modi pericolosi e sconsiderati?
“Spero di conseguire una laurea in poesia e di dedicarmi alla pratica del discorso coraggioso”, ha scritto. Buona fortuna, amico.
