Nikolas Kokovlis | Nurphoto | Immagini Getty
xAI di Elon Musk ha dichiarato mercoledì scorso che Grok non sarà più in grado di creare immagini sessualizzate di persone reali sul suo social community X in base alle richieste degli utenti dopo settimane di reazioni politiche e dei consumatori e di indagini normative.
“Abbiamo implementato misure tecnologiche per impedire che l’account Grok consenta la modifica di immagini di persone reali che rivelano abiti come i bikini,” ha scritto xAI in un submit condiviso tramite l’account X Security sul sito formalmente noto come Twitter. “Questa restrizione si applica a tutti gli utenti, compresi gli abbonati a pagamento.”
L’annuncio arriva poche ore dopo che il procuratore generale della California Rob Bonta ha dichiarato che il suo ufficio sta indagando su xAI, che ha sede nella Silicon Valley, sulla sua apparente “produzione su larga scala di immagini intime non consensuali deepfake”.
Il governatore della California Gavin Newsom, che è stato spesso un sostenitore di Musk e delle sue aziende, ha dichiarato in un submit di mercoledì mattina X, “la decisione di xAI di creare e ospitare un terreno fertile per i predatori per diffondere deepfake IA sessualmente espliciti non consensuali, comprese immagini che spogliano digitalmente i bambini, è vile.”
Nelle ultime settimane sono state annunciate indagini in India, Malesia, Indonesia, Irlanda, Regno Unito, Francia e Australia, nonché da parte della Commissione europea. Sia l’Indonesia che la Malesia hanno emesso un divieto temporaneo nei confronti di Grok.
Tali annunci sono arrivati in mezzo a critiche diffuse secondo cui Grok aveva consentito agli utenti di X di generare facilmente immagini sessuali e violente basate su foto reali di persone sul social community attraverso semplici istruzioni basate su testo.
Negli Stati Uniti, tre senatori democratici hanno chiesto advert Apple e Google di rimuovere le app X e Grok dai loro app retailer finché la società non avrà apportato modifiche per impedire la facile creazione di immagini esplicite non consensuali.
La società di Musk ha anche affermato, nel submit di mercoledì, che la modifica della creazione di immagini tramite Grok su X sarà disponibile solo per gli abbonati a pagamento.
Mercoledì scorso, Musk ha sfidato i suoi follower su X a “rompere la moderazione dell’immagine di Grok”. Ha detto che, “Con NSFW abilitato, Grok dovrebbe consentire la nudità della parte superiore del corpo di esseri umani adulti immaginari (non reali)”, e ha confrontato story contenuto con ciò che si vede nei movie vietati ai minori. Le impostazioni di Grok, ha osservato, “varierebbero anche in altre regioni a seconda delle leggi paese per paese”.
OROLOGIO: Il procuratore generale della California avvia un’indagine su xAI, Grok
