L’Indonesia blocca Grok per deepfake non consensuali e sessualizzati

Funzionari indonesiani hanno dichiarato sabato che stanno temporaneamente bloccando l’accesso al chatbot Grok di xAI.

Questa è una delle mosse più aggressive finora adottate dai funzionari governativi in ​​risposta a un’ondata di immagini sessualizzate generate dall’intelligenza artificiale, spesso raffiguranti donne e minori reali, e talvolta mostrando aggressioni e abusi — pubblicato da Grok in risposta alle richieste degli utenti sul social community X. (X e xAI fanno parte della stessa azienda.)

In una dichiarazione condivisa con il Guardian e altre pubblicazioni, il ministro indonesiano delle comunicazioni e del digitale Meutya Hafid ha dichiarato: “Il governo vede la pratica dei deepfake sessuali non consensuali come una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”.

Secondo quanto riferito, il ministero ha anche convocato X funzionari per discutere la questione.

Le varie risposte governative della scorsa settimana includono un ordine da parte del ministero IT indiano affinché xAI agisca per impedire a Grok di generare contenuti osceni, nonché un ordine da parte della Commissione Europea affinché la società conservi tutti i documenti relativi a Grok, il che potrebbe preparare il terreno per un’indagine.

Nel Regno Unito, l’autorità di regolamentazione delle comunicazioni Ofcom ha affermato che “intraprenderà una rapida valutazione per determinare se esistono potenziali problemi di conformità che giustificano un’indagine”. Il primo ministro Keir Starmer ha affermato in un’intervista che Ofcom ha il suo “pieno sostegno per agire”.

E mentre negli Stati Uniti l’amministrazione Trump sembra restare in silenzio sulla questione (il CEO di xAI, Elon Musk, è uno dei principali donatori di Trump e lo scorso anno ha guidato il controverso Dipartimento per l’efficienza governativa dell’amministrazione), i senatori democratici hanno ha invitato Apple e Google per rimuovere X dai loro app retailer.

xAI inizialmente ha risposto con postando delle scuse apparentemente in prima persona all’account di Grok, riconoscendo che un put up “violava gli commonplace etici e potenzialmente le leggi statunitensi” sul materiale pedopornografico. Successivamente ha limitato la funzionalità di generazione di immagini AI agli abbonati paganti su X, anche se story restrizione non sembrava influenzare l’app Grok stessa, che consentiva comunque a chiunque di generare immagini.

In risposta a un put up in cui si chiedeva perché il governo del Regno Unito non stesse prendendo provvedimenti contro altri strumenti di generazione di immagini basati sull’intelligenza artificiale, Ha scritto Musk“Vogliono qualsiasi scusa per la censura.”