Nikolas Kokovlis | Nurphoto | Immagini Getty
Malesia e Indonesia hanno bloccato l’accesso al chatbot di intelligenza artificiale Grok di Elon Musk durante il positive settimana a causa del timore che lo strumento venisse utilizzato per generare contenuti non consensuali, sessualmente espliciti e osceni.
Regolatori malesi ordinato domenica verranno imposte restrizioni temporanee al chatbot di xAI a seguito di “ripetuti fallimenti da parte di X Corp” per affrontare i rischi relativi ai contenuti associati allo strumento AI.
La mossa è arrivata appena un giorno dopo che l’Indonesia è intervenuta per negare temporaneamente l’accesso a Grok a causa di preoccupazioni simili e ha chiesto ai funzionari di X di chiarire la questione, secondo la traduzione della dichiarazione della CNBC.
Le azioni dei paesi del sud-est asiatico arrivano dopo che è stato scoperto che alcuni utenti dello strumento di intelligenza artificiale hanno generato immagini esplicite e deepfake non consensuali, comprese raffigurazioni di minori poco vestiti.
L’azienda di Musk ha recentemente aggiornato le sue funzionalità Grok Think about, consentendo una generazione più semplice di immagini da istruzioni basate su testo sulla piattaforma, che è integrata con la piattaforma di social media X di Musk, offrendole un’ampia portata.
Tra le crescenti preoccupazioni sulla politica di moderazione dei contenuti di Grok, xAI annunciato limiterebbe la generazione di immagini e le funzionalità di modifica agli abbonati paganti, nel tentativo di colmare le lacune di salvaguardia che consentivano risultati sessualizzati.
Muschio, rispondendo su X, ha inoltre affermato che gli utenti che creano contenuti illegali tramite Grok andrebbero incontro a conseguenze equivalenti al caricamento di tali materiali direttamente sulla piattaforma di social media.
La CNBC ha tentato di contattare xAI per un commento sugli sviluppi durante il positive settimana. Un’e-mail stampa per l’azienda ha restituito un messaggio automatico che diceva “Legacy Media Lies”.
Risposte “insufficienti”.
Tuttavia, le risposte pubbliche e personal di X nel mezzo della controversia non sono riuscite a soddisfare le preoccupazioni delle autorità di regolamentazione in Indonesia e Malesia, così come di altri che hanno avviato indagini.
La Malaysian Communications and Multimedia Fee ha affermato che le risposte “insufficienti” di X si sono “basate principalmente su meccanismi di segnalazione avviati dagli utenti e non sono riuscite advert affrontare i rischi intrinseci posti dalla progettazione e dal funzionamento dello strumento di intelligenza artificiale”.
“Di conseguenza, la restrizione è imposta come misura preventiva e proporzionata mentre sono in corso i processi legali e normativi”, ha affermato l’organismo di vigilanza. “L’accesso a Grok rimarrà limitato fino a quando non verranno implementate misure di salvaguardia efficaci, in particolare per prevenire contenuti che coinvolgono donne e bambini.”
Sia l’Indonesia che la Malesia mantengono extreme leggi anti-pornografia, che vietano in generale la condivisione di contenuti osceni e sessuali on-line.
Nel frattempo, il Ministero delle comunicazioni e degli affari digitali indonesiano, Meutya Hafid, ha affermato che “il governo considera i deepfake sessuali non consensuali una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale”.
Hafid ha anche classificato l’uso improprio dell’intelligenza artificiale per creare falsa pornografia come una forma di “violenza basata sul digitale”, secondo le dichiarazioni condivise da Antara Information di proprietà statale.
Lo hanno fatto anche le autorità di altre giurisdizioni, tra cui l’Unione Europea, il Regno Unito, il Brasile e l’India ha chiesto indagini sul ruolo di Grok nel facilitare deepfake osceni e non consensuali.
Nel frattempo, alcuni legislatori democratici a Washington hanno raccomandato agli app store di sospendere lo strumento di intelligenza artificiale, almeno fino a quando Musk non implementerà importanti cambiamenti.
In una e-mail alla CNBC la scorsa settimana, il Dipartimento di Giustizia ha affermato in una dichiarazione che “prende estremamente sul serio il materiale pedopornografico generato dall’intelligenza artificiale e perseguirà aggressivamente qualsiasi produttore o possessore di [child sexual abuse materials].”
“Continuiamo a esplorare modi per ottimizzare l’applicazione in questo ambito per proteggere i bambini e responsabilizzare le persone che sfruttano la tecnologia per danneggiare i nostri più vulnerabili”, ha aggiunto.
— Lora Kolodny della CNBC ha contribuito a questo rapporto.
