X per impedire all’intelligenza artificiale di Grok di spogliare le immagini di persone reali dopo il contraccolpo

Grok, il modello di intelligenza artificiale di Elon Musk, non sarà più in grado di modificare le foto di persone reali per mostrarle con abiti succinti nelle giurisdizioni in cui è illegale, dopo la diffusa preoccupazione per i deepfake di intelligenza artificiale sessualizzata.

“Abbiamo implementato misure tecnologiche per impedire che l’account Grok consenta la modifica di immagini di persone reali rivelando abiti come i bikini.

“Questa restrizione si applica a tutti gli utenti, compresi gli abbonati a pagamento”, si legge in un annuncio su X, che gestisce lo strumento Grok AI.

Il cambiamento è stato annunciato poche ore dopo che il principale procuratore della California ha affermato che lo stato stava indagando sulla diffusione dei deepfake di intelligenza artificiale sessualizzata, compresi quelli di bambini, generati dal modello di intelligenza artificiale.

“Ora blocchiamo geograficamente la capacità di tutti gli utenti di generare immagini di persone reali in bikini, biancheria intima e abiti simili tramite l’account Grok e in Grok in X in quelle giurisdizioni in cui è illegale,” X ha detto in una dichiarazione mercoledì.

Ha inoltre ribadito che solo gli utenti paganti potranno modificare le immagini utilizzando Grok sulla sua piattaforma.

Ciò aggiungerà un ulteriore livello di protezione contribuendo a garantire che coloro che tentano di abusare di Grok per violare la legge o le politiche di X siano ritenuti responsabili, secondo la dichiarazione.

Con le impostazioni NSFW (non sicure per il lavoro) abilitate, Grok dovrebbe consentire la “nudità della parte superiore del corpo di esseri umani adulti immaginari (non reali)” in linea con ciò che può essere visto nei movie vietati ai minori, ha scritto Musk on-line mercoledì.

“Questo è lo normal di fatto in America. Questo varierà in altre regioni a seconda delle leggi paese per paese”, ha detto il multimiliardario della tecnologia.

Musk aveva precedentemente difeso X, pubblicando che i critici “vogliono solo sopprimere la libertà di parola” insieme a due immagini generate dall’intelligenza artificiale del primo ministro britannico Sir Keir Starmer in bikini.

Negli ultimi giorni, i chief di tutto il mondo hanno criticato la funzionalità di modifica delle immagini di Grok.

Durante il advantageous settimana, la Malesia e l’Indonesia sono diventati i primi paesi a vietare lo strumento Grok AI dopo che gli utenti avevano affermato che le foto erano state alterate per creare immagini esplicite senza consenso.

L’autorità britannica di regolamentazione dei media, Ofcom, ha detto lunedì che indagherà se X non abbia rispettato la legge britannica sulle immagini sessuali.

Sir Keir ha avvertito che X potrebbe perdere il “diritto all’autoregolamentazione” a causa di una reazione negativa sulle immagini dell’intelligenza artificiale, ma più tardi nella settimana ha affermato di aver accolto con favore le notizie secondo cui X stava agendo per affrontare il problema.

Anche alcuni parlamentari britannici hanno lasciato la piattaforma di social media X sulla scia della protesta.

Mercoledì il procuratore generale della California Rob Bonta ha dichiarato: “Questo materiale, che raffigura donne e bambini in situazioni nude e sessualmente esplicite, è stato utilizzato per molestare le persone su Web”.

La ricercatrice politica Riana Pfefferkorn ha affermato di essere sorpresa che X abbia impiegato così tanto tempo per implementare le nuove misure di sicurezza di Grok e che le funzionalità di modifica avrebbero dovuto essere rimosse non appena sono iniziati gli abusi.

Rimangono domande su come X applicherà le sue nuove politiche, advert esempio come il modello di intelligenza artificiale saprà se un’immagine è di una persona reale e quali azioni intraprenderà quando gli utenti infrangono le regole, ha affermato Pfefferkorn.

Anche Musk non ha presentato l’azienda in una luce seria, ha detto, aggiungendo che sarebbe d’aiuto se smettesse di “fare cose come ripubblicare un’immagine AI di Keir Starmer in bikini”.

Segnalazione aggiuntiva di Katy Bailes