Elon Musk e il emblem xAI.
Vincent Feuray | Afp | Immagini Getty
X di Elon Musk è oggetto di indagine da parte delle autorità in Europa, India e Malesia dopo che il suo chatbot Grok ha consentito agli utenti di creare e condividere immagini sessualizzate di bambini e donne generate dall’intelligenza artificiale.
Anche l’Ofcom, organo di controllo dei media britannico disse vengono richieste informazioni a X, di proprietà di xAI, riguardo ai problemi di Grok. E domenica, un membro del parlamento brasiliano ha dichiarato sui social media di aver chiesto al pubblico ministero federale e all’autorità per la protezione dei dati del paese di sospendere l’uso di Grok fino al completamento dell’indagine.
Le indagini seguono un’impennata globale nelle ultime settimane nell’uso di Grok per creare e condividere immagini intime e non consensuali, o NCII, derivate da foto o video di persone reali in risposta alle richieste dell’utente. Le immagini in questione sono state ampiamente condivise su X.
L’azienda di Musk ha recentemente aggiornato le sue funzionalità Grok Think about, consentendo una generazione più semplice di immagini da istruzioni basate su testo sulla piattaforma.
Mentre esperti di sicurezza e critici tecnologici denunciavano la proliferazione di immagini e clip di sfruttamento su X, Musk sembrava prendere in giro la situazione condividendo una serie di immagini generate da Grok, inclusa una che lo ritraeva in bikini, punteggiata da emoji che ridono e piangono.
All’a conferenza stampa lunedì, il portavoce della Commissione Europea Thomas Regnier ha detto che l’autorità sta “esaminando molto seriamente la questione” ed è “ben consapevole” che X e Grok stanno “offrendo una modalità piccante che mostra contenuti sessuali espliciti con alcuni output generati con immagini infantili.”
“Questo non è ‘piccante'”, ha detto Regnier. “Questo è illegale. È spaventoso. È disgustoso. Noi lo vediamo così e non c’è posto in Europa.”
Alla nice della scorsa settimana, il Ministero indiano dell’elettronica e dell’informatica ha ordinato a X di condurre una “revisione completa a livello tecnico, procedurale e di governance” di Grok. Alla società è stato concesso tempo fino al 5 gennaio per conformarsi.
La Commissione malese per le comunicazioni e i multimedia disse durante il nice settimana indagherà su X e chiamerà i rappresentanti dell’azienda.
“MCMC esorta tutte le piattaforme accessibili in Malesia a implementare misure di salvaguardia in linea con le leggi malesi e gli customary di sicurezza on-line, in particolare in relazione alle loro funzionalità basate sull’intelligenza artificiale, ai chatbot e agli strumenti di manipolazione delle immagini”, ha affermato il gruppo in una nota.
Nel frattempo, negli Stati Uniti, il Centro nazionale sullo sfruttamento sessuale (NCOSE) ha invitato il Dipartimento di Giustizia e la Federal Commerce Fee a indagare sulla questione in un’intervista alla CNBC. Dani Pinter, responsabile legale e direttore del Regulation Middle for NCOSE, ha affermato che “non esiste molta precedenza legale su queste questioni specifiche”.
Tuttavia, ha affermato che le leggi federali vietano la creazione e la distribuzione di materiale pedopornografico, o CSAM, e ciò può essere applicato a contenuti creati virtualmente “quando raffigurano un bambino identificabile o raffigurano un bambino impegnato in una condotta sessualmente esplicita”.
Tali leggi includono il Take It Down Act, che è stato approvato dalla First Woman Melania Trump prima della sua entrata in vigore l’anno scorso.
Il Dipartimento di Giustizia non ha risposto a una richiesta di commento. La FTC ha rifiutato di commentare. XAI non ha fornito commenti oltre a una risposta automatica.
La società di social media di Musk ha rilasciato la sua prima dichiarazione pubblica sulla questione sabato in un put up sull’account ufficiale di X Security.
“Agiamo contro i contenuti illegali su X, incluso il materiale relativo advert abusi sessuali su minori (CSAM), rimuovendoli, sospendendo permanentemente gli account e collaborando con i governi locali e le forze dell’ordine, se necessario”, ha scritto la società.
Musk ha scritto, in a posta separata su X, “Chiunque utilizzi o spinga Grok a creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali.”
Il giorno seguente, un dipendente xAI di nome Ethan He ha scritto in un post su X che Grok Think about è stato aggiornato, ma non ha specificato alcuna modifica riguardante la possibilità di creare immagini esplicite dannose.
Musk e X hanno una storia nel consentire agli utenti che hanno creato put up che mostrano lo sfruttamento sessuale minorile di rimanere sulla piattaforma.
Nel 2023, X ha sospeso brevemente e poi ripristinato l’account di un utente di nome Dom Lucre dopo aver pubblicato “immagini di sfruttamento minorile affiliate alla condanna penale di un uomo australiano nelle Filippine”. Segnalato Mashable. Musk ha detto in quel momento che X aveva deciso di cancellare i put up offensivi di Lucre ma di reintegrare l’influencer di destra sulla piattaforma. Lucre ha attualmente un account monetizzato su X con 1,6 milioni di follower elencati.
Tom Quisel, CEO di Musubi AI, che aiuta i social community e le società di intelligenza artificiale advert automatizzare la moderazione dei contenuti utilizzando l’intelligenza artificiale, ha affermato che sembra che xAI non sia riuscito a creare nemmeno “strati di fiducia e sicurezza entry degree” nel lancio di Grok Think about su X.
Quisel ha detto che sarebbe facile per un’azienda come xAI far sì che il suo modello rilevi e blocchi “un’immagine che coinvolge bambini o nudità parziale” o rifiutare le richieste degli utenti di mettere il soggetto di una foto in abiti sessualmente allusivi.
La controversia non ha fatto nulla per danneggiare il traffico di X.
Secondo Apptopia, che tiene traccia delle tendenze delle app mobili, i obtain giornalieri di Grok sono aumentati del 54% dal 2 gennaio, mentre i obtain giornalieri di X sono aumentati del 25% negli ultimi tre giorni.
OROLOGIO: Elon Musk attacca l’UE dopo la multa di X
