Come “ulteriore livello di protezione”, la creazione di immagini e la possibilità di modificare foto tramite l’account Grok di X erano ora disponibili solo per gli abbonati a pagamento, aggiunge la dichiarazione. | Credito fotografico: Reuters
Mercoledì (14 gennaio 2026) la piattaforma X di Elon Musk ha annunciato misure per impedire al suo chatbot AI Grok di spogliare immagini di persone reali, a seguito della reazione globale sulla sua generazione di foto sessualizzate di donne e bambini.
L’annuncio arriva dopo che il procuratore generale della California ha avviato un’indagine su xAI di Musk, lo sviluppatore di Grok, sul materiale sessualmente esplicito e diversi paesi hanno bloccato l’accesso al chatbot o avviato le proprie indagini.
X ha detto che “bloccherà geograficamente la capacità” di tutti gli utenti di Grok e X di creare immagini di persone in “bikini, biancheria intima e abiti simili” in quelle giurisdizioni in cui tali azioni sono ritenute illegali.
“Abbiamo implementato misure tecnologiche per impedire che l’account Grok consenta la modifica di immagini di persone reali rivelando abiti come i bikini”, ha affermato in una nota il crew di sicurezza di X.
“Questa restrizione si applica a tutti gli utenti, compresi gli abbonati a pagamento.”
Come “ulteriore livello di protezione”, la creazione di immagini e la possibilità di modificare le foto tramite l’account Grok di X erano ora disponibili solo per gli abbonati a pagamento, aggiunge la nota.
La Commissione europea, che funge da cane da guardia digitale dell’UE, in precedenza aveva affermato di aver preso nota di “ulteriori misure che X sta adottando per vietare a Grok di generare immagini sessualizzate di donne e bambini”.
“Valuteremo attentamente questi cambiamenti per assicurarci che proteggano efficacemente i cittadini dell’UE”, ha detto il portavoce della Commissione europea Thomas Regnier in una dichiarazione, che fa seguito alle aspre critiche per le immagini non consensuali di nudi.
‘Scioccante’
La pressione globale si period intensificata su xAI per tenere a freno Grok dopo che la sua cosiddetta funzione “Spicy Mode” consentiva agli utenti di creare deepfake sessualizzati di donne e bambini utilizzando semplici messaggi di testo come “mettila in bikini” o “togliti i vestiti”.
“La valanga di rapporti che dettagliano il materiale non consensuale e sessualmente esplicito che xAI ha prodotto e pubblicato on-line nelle ultime settimane è scioccante”, ha detto mercoledì (14 gennaio) il procuratore generale della California Rob Bonta.
“Abbiamo tolleranza zero per la creazione e la diffusione basata sull’intelligenza artificiale di immagini intime non consensuali o di materiale pedopornografico”.
Bonta ha affermato che l’indagine in California determinerà se xAI ha violato la legge statale dopo che le immagini esplicite sono state “utilizzate per molestare le persone su Web”.
Il governatore della California Gavin Newsom ha affermato che la decisione “vile” di xAI di consentire la proliferazione di deepfake sessualmente espliciti lo ha spinto a sollecitare il procuratore generale a ritenere la società responsabile.
Per aumentare ulteriormente la pressione sulla società di Musk, mercoledì (14 gennaio), una coalizione di 28 gruppi della società civile ha inviato lettere aperte agli amministratori delegati di Apple e Google, esortandoli a bandire Grok e X dai loro app retailer a causa dell’ondata di immagini sessualizzate.
Sabato (10 gennaio) l’Indonesia è diventata il primo paese a bloccare completamente l’accesso a Grok, seguita dalla vicina Malesia domenica (11 gennaio).
L’India ha dichiarato domenica (11 gennaio) che X aveva rimosso migliaia di publish e centinaia di account utente in risposta ai suoi reclami.
L’autorità britannica di regolamentazione dei media Ofcom ha dichiarato lunedì (12 gennaio) che stava aprendo un’indagine per verificare se X non avesse rispettato la legge britannica sulle immagini sessuali.
E il commissario francese per l’infanzia, Sarah El Furry, ha dichiarato martedì (13 gennaio) di aver deferito le immagini generate da Grok alla procura francese, all’autorità di regolamentazione dei media Arcom e all’Unione Europea.
La settimana scorsa, un’analisi di oltre 20.000 immagini generate da Grok da parte dell’organizzazione no-profit AI Forensics di Parigi ha rilevato che più della metà raffigurava “individui in abiti minimali” – la maggior parte dei quali donne, e il due per cento sembravano minorenni.
Pubblicato – 15 gennaio 2026 09:21 IST
