Il fondatore di Sign ha lavorato silenziosamente su un chatbot AI open supply e completamente crittografato end-to-end progettato per mantenere segrete le conversazioni degli utenti.
In una serie di submit sul weblog, Moxie Marlinspike chiarisce che, sebbene sia un fan dei modelli linguistici di grandi dimensioni, è a disagio per la scarsa privateness attualmente fornita dalla maggior parte delle piattaforme di intelligenza artificiale.
Marlinspike sostiene che, come Sign, l’interfaccia di un chatbot dovrebbe riflettere accuratamente ciò che accade dietro le quinte. Sign sembra una conversazione privata uno a uno perché lo è. Nel frattempo, i chatbot come ChatGPT e Claude sembrano uno spazio sicuro per scambi intimi o un diario privato, anche se l’azienda dietro di loro può accedere alle conversazioni degli utenti e talvolta utilizzarle per la formazione.
In altre parole, se un chatbot sembra che tu stia avendo una conversazione privata, Marlinspike cube che dovrebbe funzionare anche in questo modo.
Cube che questo è particolarmente importante perché gli LLM rappresentano il primo grande mezzo tecnologico che “invita attivamente alla confessione.“Mentre le persone chattano con questi sistemi, finiscono per condividere molto su come funziona il loro cervello, compresi i modelli di pensiero e le incertezze.
Marlinspike avverte che questo tipo di informazioni potrebbero facilmente essere rivolte contro gli utenti, con gli inserzionisti che alla high quality sfruttano le informazioni su di loro per vendere prodotti o influenzare il comportamento.
La soluzione da lui proposta è Confer, un chatbot AI che crittografa sia le richieste che le risposte in modo che solo l’utente possa accedervi.
“Confer è progettato per essere un servizio in cui puoi esplorare idee senza che i tuoi pensieri possano potenzialmente cospirare contro di te un giorno; un servizio che rompe il ciclo di suggestions dei tuoi pensieri che diventano annunci mirati che diventano pensieri; un servizio in cui puoi conoscere il mondo – senza intermediari di dati e futuri corsi di formazione che imparano invece su di te”, ha scritto Marlinspike
Sign è stata fondata nel 2014 attorno a principi simili e il suo protocollo di messaggistica crittografato open supply è stato infine adottato da WhatsApp di Meta solo pochi anni dopo. Quindi, è possibile che anche Meta e altri giganti della tecnologia possano eventualmente adottare la tecnologia di Confer.
Come funziona
Secondo Marlinspike, Confer è progettato in modo story che le conversazioni degli utenti vengano crittografate prima che lascino i loro dispositivi, in modo simile a come funziona Sign.
Le richieste vengono crittografate sul laptop o sul telefono di un utente e inviate ai server di Confer in quel formato, quindi decrittografate solo in un ambiente dati sicuro per generare una risposta.
Confer lo fa utilizzando un combine di strumenti di sicurezza. Invece delle password tradizionali, utilizza passkey, come Face ID, Contact ID o un PIN di sblocco sui dispositivi degli utenti verificati, per ricavare chiavi di crittografia.
Quando arriva il momento di rispondere all’intelligenza artificiale, Confer utilizza ciò che chiama elaborazione riservata, in cui l’isolamento forzato dall'{hardware} viene utilizzato per eseguire codice in un Trusted Execution Surroundings (TEE).
“La macchina host fornisce CPU, memoria e alimentazione, ma non può accedere alla memoria del TEE o allo stato di esecuzione”, Marlinspike spiegò.
Con il “pensiero” o l’inferenza di LLM, in esecuzione in una macchina virtuale riservata, la risposta viene quindi crittografata e inviata all’utente.
L'{hardware} produce anche una prova crittografica, nota come attestazione, che consente al dispositivo di un utente di verificare che tutto funzioni come dovrebbe.
Tutto ciò viene fatto per mantenere i dati degli utenti al sicuro e non, come afferma Marlinspike, inviati a “un information lake appositamente progettato per estrarre significato e contesto”.
