Settimane dopo che X di Elon Musk è stato inondato di immagini generate dall’intelligenza artificiale che ritraggono persone, compresi bambini, in modi sessualizzati senza consenso, la California sta indagando su come diavolo sia successo. Il procuratore generale dello stato Rob Bonta annunciato Mercoledì ha aperto un’indagine sulla situazione per determinare se X e xAI, la società di intelligenza artificiale di Musk e il creatore del chatbot Grok utilizzato per generare immagini pornografiche, abbiano infranto la legge.
“La valanga di rapporti che descrivono in dettaglio il materiale non consensuale e sessualmente esplicito che xAI ha prodotto e pubblicato on-line nelle ultime settimane è scioccante. Questo materiale, che raffigura donne e bambini in situazioni sessualmente esplicite e nude, è stato utilizzato per molestare le persone su Web”, ha affermato Bonta in una nota. Ha inoltre esortato xAI a intraprendere “azioni instant” per garantire che quel tipo di contenuto non possa essere creato e diffuso.
Bonta sembra avere un discreto sostegno pubblico per le indagini. UN recente sondaggio YouGov ha scoperto che ben il 97% degli intervistati ha affermato che gli strumenti di intelligenza artificiale non dovrebbero essere autorizzati a generare contenuti sessualmente espliciti di bambini, e il 96% ha affermato che tali strumenti non dovrebbero essere in grado di “spogliare” i minori nelle immagini.
L’indagine si concentrerà sulla tendenza emersa su X durante le vacanze invernali, che ha visto gli utenti spingere Grok sulla piattaforma a modificare le immagini delle persone per mostrarle in vari stati di spogliarsi. La tendenza è diventata abbastanza grande che, secondo la società di analisi dei contenuti AI CopyleaksGrok generava ogni minuto un’immagine sessualizzata in modo non consensuale. Alcune di quelle immagini includevano bambini, che gli utenti hanno spinto Grok a spogliarsi e raffigurare in biancheria intima o bikini. Spesso gli utenti richiedevano a Grok di aggiungere la “glassa a ciambella” ai volti dei soggetti delle immagini.
Musk, l’amministratore delegato di X, la società in cui le immagini venivano condivise, e di xAI, la società che realizza il modello di intelligenza artificiale utilizzato per generare le immagini, ha deciso di offuscare o dichiarare di ignorare la situazione. In un submit pubblicato prima dell’annuncio dell’indagine della California, Musk disse“Non sono a conoscenza di immagini di minorenni nudi generate da Grok. Letteralmente zero.”
La ristrettezza della sua dichiarazione fa molto lavoro pesante, dicendo che non è a conoscenza di “immagini di minorenni nudi”. Ciò non smentisce l’esistenza di immagini di nudo, immagini di minorenni svestiti o persone raffigurate in situazioni sessualizzate. Né affronta il fatto che molte di quelle immagini erano non consensuali, generate senza il permesso della persona raffigurata. In innumerevoli casi, le immagini sono state utilizzate direttamente per molestare gli account su X.
Nella misura in cui Musk period disposto advert ammettere che un simile problema è anche possibile, ha detto che è colpa degli utenti, non del modello di intelligenza artificiale o della piattaforma che diffonde il contenuto. “Ovviamente, Grok non genera immagini spontaneamente; lo fa solo in base alle richieste dell’utente. Quando gli viene chiesto di generare immagini, si rifiuterà di produrre qualcosa di illegale, poiché il principio operativo di Grok è obbedire alle leggi di qualsiasi paese o stato”, ha detto. “Potrebbero esserci momenti in cui l’hacking antagonista dei immediate di Grok fa qualcosa di inaspettato. Se ciò accade, risolviamo immediatamente il bug.”
Ciò è più o meno in linea con la scarsa risposta che X ha offerto alla situazione. In un submit di X Security, l’azienda disse“Chiunque utilizzi o spinga Grok a creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali”, ma non si è assunto alcuna responsabilità per averlo consentito. Per quello che vale, Musk ha anche ripubblicato in modo beffardo i contenuti creati come parte della tendenza, comprese le immagini generate dall’intelligenza artificiale di un tostapane e un razzo in bikini.
La California è il primo stato del paese advert avviare un’indagine sulla situazione. Autorità di altri paesi, inclusi Francia, IrlandaIL Regno UnitoE Indiahanno iniziato a indagare sulle immagini sessuali non consensuali generate da Grok e potrebbero anche sporgere denuncia contro X e xAI. Il Take It Down Act, convertito in legge lo scorso anno, non richiede che piattaforme come X creino sistemi di notifica e rimozione delle immagini non consensuali fino al 19 maggio 2026.
