Grok, il chatbot AI sostenuto da Elon Musk e intessuto nel tessuto di X, ha iniziato a bloccare i suoi strumenti di generazione e modifica delle immagini agli abbonati a pagamento. IL il cambiamento segue un’onda di marea di critiche riguardanti la capacità dello strumento di sfornare immagini sessualizzate non consensuali. Sebbene la restrizione sia chiaramente un tentativo di arginare l’ondata di controversie, i regolatori, i gruppi di difesa e gli utenti sostengono che fa ben poco per fermare la creazione di contenuti dannosi e potenzialmente illegali che coinvolgono donne e bambini.
A partire da giovedì scorso, Grok ha ufficialmente spostato le sue funzionalità di creazione di immagini dietro il paywall X Premium, che parte da $ 8 al mese
Tuttavia, la mossa è stata ampiamente derisa come una soluzione “perfetta”. Sebbene gli utenti occasionali su X possano essere bloccati, l’accesso agli strumenti di generazione rimane completamente gratuito tramite il sito Net autonomo e l’app cell di Grok. Questa scappatoia mina di fatto l’affermazione della piattaforma di prendere una posizione ferma contro gli abusi, lasciando gli strumenti più pericolosi ancora alla portata del grande pubblico.
I ricercatori sulla sicurezza e gli osservatori digitali non sono convinti che l’obbligo della carta di credito risolva il problema. In effetti, molti sostengono che in realtà monetizzi l’abuso. Secondo la ricercatrice di deepfake Genevieve Oh, Grok continuava a pubblicare oltre 1.500 immagini dannose ogni ora anche dopo la messa in funzione del paywall, rappresentando circa il 60% della sua produzione totale di immagini pubbliche. I dati di Oh suggeriscono che Grok sta attualmente generando contenuti sessuali a un ritmo che fa impallidire anche i più famigerati siti Net dedicati alla “nudificazione”.
Le ricadute hanno raggiunto i livelli più alti del governo americano
I senatori democratici Ron Wyden, Edward J. Markey e Ben Ray Luján hanno recentemente inviato una lettera agli amministratori delegati di Apple e Google, chiedendo che X venga ritirato dai rispettivi app retailer. I senatori hanno sostenuto che, consentendo a questi strumenti di persistere, X sta mostrando un “totale disprezzo” per le regole di sicurezza che ogni altro sviluppatore di app è costretto a seguire.
Anche la pressione internazionale sta raggiungendo un punto di ebollizione. Funzionari britannici e indiani hanno criticato il pagamento come una risposta inadeguata. Un portavoce del primo ministro britannico ha descritto la mossa come “un insulto” nei confronti delle vittime, suggerendo che X stia semplicemente trasformando una crisi di sicurezza in un flusso di entrate premium. Le vittime hanno condiviso storie simili; L’attivista Jess Davies ha riferito che Grok period ancora in grado di “spogliare” digitalmente una sua foto attraverso la sua app standalone venerdì mattina, nonostante le presunte restrizioni.
È interessante notare che la controversia sembra fornire una spinta finanziaria perversa alla piattaforma
Le stime di Sensor Tower mostrano che le entrate derivanti dagli acquisti in-app mobili su X sono aumentate del 18% solo giovedì. Questo picco supera di gran lunga la crescita giornaliera tipica dell’app, suggerendo che la spinta advert accedere alla “modalità piccante” di Grok potrebbe effettivamente aiutare i profitti in difficoltà di X.
Gli esperti legali avvertono che queste mezze misure non reggeranno a lungo in tribunale. Il procuratore generale della Carolina del Nord Jeff Jackson ha definito la situazione di Grok un “punto di svolta” per la sicurezza dell’intelligenza artificiale, sottolineando con quanta facilità questi sistemi possano essere utilizzati come armi. Ha sostenuto che l’period del “muoversi velocemente e rompere le cose” sta colpendo un muro quando si tratta della dignità e della sicurezza dei privati cittadini.
Mentre i muri si avvicinano, X si trova di fronte a una scelta difficile: implementare guardrail tecnici reali e codificati o affrontare un blackout totale nei principali app retailer e nei mercati internazionali. Il fatto che Elon Musk scelga di rendere più restrittivo il software program stesso, anziché limitarsi a limitarne l’accesso, determinerà se Grok avrà un futuro come strumento legittimo o se diventerà un paria dell’period dell’intelligenza artificiale generativa.
