La piattaforma di social media X di Elon Musk sta adottando ulteriori misure per frenare il problema dei deepfake sessuali, dopo settimane di reazioni detrimental e molteplici indagini governative in tutto il mondo. Ma le modifiche non risolvono realmente il problema in modo definitivo e aggiungono invece nuovi livelli di restrizioni limitate piuttosto che una correzione a livello di piattaforma.
In un submit piuttosto confuso di mercoledì sera, l’account @Security di X ha delineato diversi aggiornamenti su come funzionano le funzionalità di generazione e modifica delle immagini AI, con regole numerous a seconda che gli utenti stiano generando o modificando immagini taggando l’account @Grok o andando direttamente alla scheda Grok su X.
Innanzitutto, la società ha affermato di aver implementato nuove misure tecniche per impedire agli utenti di utilizzare specificamente l’account @Grok per alterare “immagini di persone reali che rivelano abiti come i bikini”. X afferma che la restrizione si applica a tutti gli utenti, compresi quelli con un piano premium.
X ha inoltre ribadito che la generazione e la modifica delle immagini tramite l’account @Grok sono ora limitate agli abbonati a pagamento.
“Ciò aggiunge un ulteriore livello di protezione contribuendo a garantire che le persone che tentano di abusare dell’account Grok per violare la legge o le nostre politiche possano essere ritenute responsabili”, ha affermato la società nel submit.
X aveva precedentemente annunciato l’intenzione di limitare l’uso di @Grok per modificare le immagini agli utenti paganti, una mossa che ha attirato critiche da parte dei funzionari del governo britannico. Un portavoce di Downing Road dichiarò all’epoca che il cambiamento “trasforma semplicemente una funzionalità di intelligenza artificiale che consente la creazione di immagini illegali in un servizio premium”.
Tuttavia, come ha sottolineato per primo The Vergegli strumenti di generazione delle immagini di Grok rimangono disponibili gratuitamente quando gli utenti accedono al chatbot tramite il sito internet e l’app Grok indipendenti, nonché tramite le schede Grok sull’app e sul sito internet X. Utilizzando un account gratuito, Gizmodo ha anche potuto accedere alla funzione di generazione delle immagini di Grok tramite la scheda Grok sia sul sito Net di X che sull’app cell. Giovedì, il sito dedicato non ci ha dato problemi quando ci è stato chiesto di generare un’immagine di Elon Musk che indossava un bikini ed period disposto a toglierselo.
L’aggiornamento più importante è che X afferma che ora bloccherà “la capacità di tutti gli utenti di generare immagini di persone reali in bikini, biancheria intima e abiti simili tramite l’account Grok e in Grok in X nelle giurisdizioni in cui è illegale.” Questo aggiornamento specifico sembra applicarsi sia all’account @Grok che alle schede Grok su X.
Arriva anche mentre i legislatori del Regno Unito stanno lavorando rendere illegali tali immagini.
“Rimaniamo impegnati a rendere X una piattaforma sicura per tutti e continuiamo advert avere tolleranza zero per qualsiasi forma di sfruttamento sessuale minorile, nudità non consensuale e contenuti sessuali indesiderati”, ha affermato la società.
X e la sua società madre, XAI, non hanno risposto immediatamente a una richiesta di commento da parte di Gizmodo.
I cambiamenti complessivi arrivano dopo settimane di intensa reazione negativa alla recente proliferazione di deepfake sessuali sulla piattaforma e relativo silenzio da parte della società stessa. Dalla superb del mese scorso, alcuni utenti di X hanno utilizzato Grok per generare immagini sessualizzate da foto pubblicate da altri utenti senza il loro consenso, comprese immagini che coinvolgono minorenni.
Un ricercatore di social media e deepfake ha scoperto che Grok ha generato circa 6.700 immagini sessualmente allusive o di nudità all’ora nell’arco di 24 ore all’inizio di gennaio, Lo ha riferito Bloomberg.
I governi di tutto il mondo hanno risposto rapidamente. Malesia e Indonesia bloccato l’accesso a Grokmentre le autorità di regolamentazione nel Regno Unito e Unione Europea ha aperto indagini su potenziali violazioni delle leggi sulla sicurezza on-line.
L’ente regolatore on-line del Regno Unito, Ofcom, ha detto di sì continuare la sua indagine nonostante le modifiche appena annunciate.
Negli Stati Uniti, il procuratore generale della California Rob Bonta ha annunciato mercoledì che il suo ufficio ha avviato un proprio ufficio indagine sulla questione.
Nel frattempo, man mano che il controllo su Grok si è intensificato, X ha aggiornato silenziosamente i suoi termini di servizio per richiedere che tutti i casi legali pendenti e futuri che coinvolgono la società siano archiviati nella divisione di Fort Price del distretto settentrionale del Texas, dove uno dei tre giudici della corte è ampiamente considerato amichevole nei confronti della società.
Lo ha detto il watchdog di sinistra Media Issues, un frequente critico degli X di Musk lascerebbe la piattaforma in risposta ai termini aggiornati.
