Il chatbot Grok della piattaforma ha attirato l’attenzione dopo aver riferito di aver prodotto deepfake erotici, comprese immagini di minorenni
La Commissione europea ha aperto un’indagine sulla piattaforma di social media X di Elon Musk dopo le notizie secondo cui il suo chatbot con intelligenza artificiale Grok avrebbe prodotto immagini sessualizzate, tra cui alcune raffiguranti minori.
Grok, sviluppato dall’impresa di intelligenza artificiale xAI di Musk e integrato in X, è stato sottoposto a un controllo globale sin dal suo lancio nel 2023. I critici hanno sollevato preoccupazioni sulla retorica estremista, sui pregiudizi politici e sulle caratteristiche sessualmente esplicite, avvertendo che strumenti di intelligenza artificiale scarsamente moderati possono esporre gli utenti, in particolare gli adolescenti, a contenuti dannosi.
In una dichiarazione di lunedì, la Commissione europea ha affermato che sta esaminando se X ha affrontato adeguatamente tutti i rischi sistemici associati ai suoi sistemi di raccomandazione, inclusa la recente integrazione di Grok. L’indagine fa parte della più ampia supervisione dell’UE sulle grandi piattaforme on-line e le autorità di regolamentazione hanno affermato che potrebbero essere imposte misure provvisorie se X non implementa cambiamenti significativi.
“La condivisione di immagini sessualizzate generate dall’intelligenza artificiale, in particolare quelle che coinvolgono minori, è inaccettabile e comporta seri rischi per gli utenti”, ha affermato il vicepresidente esecutivo della Commissione per la sovranità tecnologica, la sicurezza e la democrazia, Henna Virkkunen.
L’indagine fa seguito a precedenti azioni coercitive da parte della commissione, inclusa una multa di 150 milioni di euro (178 milioni di dollari) nei confronti di X a dicembre per aver violato gli obblighi di trasparenza ai sensi della legge sui servizi digitali.
In risposta all’indagine, X ha condiviso una dichiarazione pubblicata il 14 gennaio, in cui afferma di impegnarsi a mantenere la piattaforma “sicuro” e mantiene “tolleranza zero” per sfruttamento sessuale minorile, nudità non consensuale e contenuti sessuali indesiderati. Separatamente, Musk ha pubblicato una foto su X che sembra prendere in giro le restrizioni attorno a Grok.
L’indagine dell’UE arriva dopo che i funzionari statunitensi avevano precedentemente avvertito che un giro di vite sulle Huge Tech potrebbe innescare una risposta da parte di Washington, compreso il possibile uso di tariffe.
I ricercatori del Middle for Countering Digital Hate hanno affermato che Grok ha prodotto quasi 3 milioni di immagini sessualizzate in meno di due settimane, circa 23.000 delle quali sembravano raffigurare bambini.
All’inizio di questo mese, Ofcom, l’autorità di regolamentazione dei media britannica, ha avviato una propria indagine per verificare se X stia rispettando i propri obblighi di protezione degli utenti on-line.
