All’inizio di quest’anno, un gruppo di mostri su Twitter ha capito di poter spingere Grok, il chatbot “non sveglio” di xAI di Elon Musk, a generare immagini sessualizzate di persone su X, anche senza il loro consenso. Tre mesi dopo, X ha fatto qualcosa al riguardo…più o meno. Secondo a rapporto da Social Media Todayla piattaforma social ha aggiunto silenziosamente una nuova funzionalità alla sua app iOS che consente alle persone di scegliere di “bloccare le modifiche di Grok” durante il caricamento dei contenuti.
Secondo il rapportogli utenti dovrebbero iniziare a vedere un interruttore quando caricano immagini o video da includere in un submit. Quando l’interruttore è abilitato, impedirà a Grok di modificare il materiale. In teoria è una funzionalità utile, dato che le risposte a ogni submit su quella piattaforma dimenticata da Dio ora includono qualche triste sacco che tagga Grok per fare qualcosa per loro, incluso modificare le foto delle persone.
Il problema, però, secondo The Verge, è che la funzionalità ha un caso d’uso incredibilmente ristretto. Nello specifico, la pubblicazione afferma che l’interruttore cube che può “impedire a @Grok di modificare questo contenuto”. Ciò significa che impedisce solo alle persone di taggare Grok in una discussione per modificare le immagini. Ciò non impedisce alle persone di modificare l’immagine nell’app Grok. In effetti, non è nemmeno necessario scaricare l’immagine originale per farlo. Secondo The Verge, gli utenti X possono tenere premuta un’immagine nell’app X e selezionare l’opzione “Modifica immagine con Grok” e l’immagine si aprirà nell’app Grok, dove potrà essere modificata liberamente. Gli utenti possono anche salvare l’immagine originale, ricaricarla in un submit X e taggare Grok per modificarla.
Quindi, in sostanza, X ha portato through il frutto più basso, e lo ha fatto in modo limitato, visto che la funzionalità è disponibile solo in iOS e finora non è disponibile per tutti e non è particolarmente facile da trovare. Attualmente è nascosto nel menu che viene visualizzato toccando il simbolo del pennello in X durante il caricamento del contenuto. Qualunque sia il minimo indispensabile, sembra che X lo abbia appena superato.
Sembra improbabile che questa “protezione” soddisferà le dozzine di autorità di regolamentazione che hanno avviato indagini su X e Grok in seguito alla debacle che ha visto gli utenti di X utilizzare lo strumento di intelligenza artificiale generativa per creare immagini nude e sessualmente esplicite di persone, compresi minori, senza consenso. La società in precedenza bloccava le funzionalità di modifica delle immagini dietro un paywall, che potrebbe aver prevenuto alcuni problemi e potrebbe aver semplicemente monetizzato le perversioni e gli atti di abuso sessuale virtuale delle persone. Ciò, combinato con questo nuovo sforzo della funzionalità nascosta che funziona solo in un certo senso, dovrebbe dire a tutti quanto sia seria la piattaforma nel risolvere il problema.
