Delve si è occupata della conformità alla sicurezza su LiteLLM, un progetto di intelligenza artificiale colpito da malware

Questo è uno di quegli episodi di vita reale della Silicon Valley che sembrano presi dallo spettacolo satirico della HBO. Questa settimana sono stati scoperti dei malware davvero atroci in un progetto open supply sviluppato da Laureato in Combinatore Y LiteLLM.

LiteLLM offre agli sviluppatori un facile accesso a centinaia di modelli di intelligenza artificiale e fornisce funzionalità come la gestione della spesa. È un successo strepitoso, scaricato fino a 3,4 milioni di volte al giorno, secondo Snykuno dei tanti ricercatori di sicurezza che monitorano l’incidente. Il progetto aveva 40.000 stelle su GitHub e migliaia di forchette (quelli che l’hanno usata come base per alterarla e farla propria).

Il malware è stato scoperto documentato e divulgato dal ricercatore Callum McMahon di FutureSearch, una società che offre agenti di intelligenza artificiale per la ricerca sul net. Il malware si è insinuato attraverso una “dipendenza”, ovvero un altro software program open supply su cui si basava LiteLLM. Ha poi rubato le credenziali di accesso di tutto ciò che ha toccato. Con tali credenziali, il malware ha ottenuto l’accesso a più pacchetti e account open supply per raccogliere più credenziali e così through.

Il malware ha causato lo spegnimento del laptop di McMahon dopo aver scaricato LiteLLM. Quell’evento lo spinse a indagare e a scoprirlo. Paradossalmente, un bug nel malware ha causato l’esplosione del suo laptop. Dato che quel pezzo di codice disgustoso period stato progettato in modo così sciatto, lui (così come il famoso ricercatore di intelligenza artificiale Andrej Karpathy) ha concluso che doveva essere codificato per le vibrazioni.

Gli sviluppatori di LiteLLM hanno lavorato senza sosta questa settimana per correggere la situazione e la buona notizia è che è stato catturato relativamente velocemente, probabilmente entro poche ore.

C’è un’altra parte in questa saga gente su X non riesco a smettere di parlarne. LiteLLM, al 25 marzo in cui abbiamo guardato, mostra ancora con orgoglio sul suo sito Net di aver superato due importanti certificazioni di conformità alla sicurezza, SOC2 e ISO 27001.

Ma per quelle certificazioni ha utilizzato una startup chiamata Delve.

Delve è la startup di conformità basata sull’intelligenza artificiale di Y-Combinator che è stata accusata di fuorviare i propri clienti sulla loro reale conformità alla conformità generando presumibilmente dati falsi e utilizzando revisori che timbrano i rapporti. Delve ha negato queste accuse.

C’è una sfumatura qui che vale la pena comprendere. Tali certificazioni hanno lo scopo di dimostrare che un’azienda dispone di solide politiche di sicurezza per limitare la possibilità di incidenti come questo. Le certificazioni non impediscono automaticamente che un’azienda, come LiteLLM, venga colpita da malware. Anche se SOC 2 dovrebbe coprire le coverage relative alle dipendenze software program, il malware può comunque insinuarsi.

Anche così, come ha sottolineato l’ingegnere Gergely Orosz su X quando ha visto la gente ridacchiare on-line, “Oh cavolo, pensavo fosse uno scherzo. … ma no, LiteLLM *davvero* period ‘Secured by Delve.'”

Per quanto riguarda LiteLLM, il CEO Krrish Dholakia non ha commentato l’uso di Delve. È ancora impegnato a ripulire lo sfortunato pasticcio derivante dall’essere vittima di un attacco.

“La nostra priorità attuale è l’indagine attiva insieme a Mandiant. Ci impegniamo a condividere le lezioni tecniche apprese con la comunità degli sviluppatori una volta completata la nostra revisione forense”, ha dichiarato a TechCrunch.