Grok, il chatbot AI di Elon Musk, ha annunciato un cambiamento nella politica che pretende di offrire maggiori protezioni contro deepfake sessualizzati, almeno su X. La nuova politica arriva mentre la California avvia un’indagine sulla questione, mentre il Regno Unito minaccia un divieto.
“Abbiamo implementato misure tecnologiche per impedire che l’account Grok consenta la modifica di immagini di persone reali rivelando abiti come i bikini,” leggere una dichiarazione dell’account X Safety su Xun sito gemello di Grok, pubblicato poco prima delle 18:00 ET / 15:00 PT di mercoledì. “Questa restrizione si applica a tutti gli utenti, compresi gli abbonati a pagamento.”
L’aggiornamento sulla sicurezza di X afferma inoltre di prendere sul serio il materiale pedopornografico (CSAM) e la nudità non consensuale prima di ribadire un’altra modifica recente: la creazione e la modifica di immagini tramite l’account Grok su X è ora limitata agli abbonati.
L’account X Security ha inoltre annunciato che ora ha la possibilità di geobloccare “tutti gli utenti a [sic] generare immagini di persone reali in bikini, biancheria intima e abiti simili tramite l’account Grok e in Grok in X nelle giurisdizioni in cui è illegale.”
Questo Tweet non è al momento disponibile. Potrebbe essere in fase di caricamento o è stato rimosso.
Grok e X hanno dovuto affrontare un’ondata di controlli nel nuovo anno poiché immagini sessualizzate e non consensuali di celebrità e bambini, suggerite dagli utenti e create dalla sua intelligenza artificiale, sono proliferate su X. Il procuratore generale della California Rob Bonta ha chiesto a Grok e al suo sviluppatore xAI di adottare misure per rimuovere e prevenire tali immagini, minacciando di utilizzare “tutti gli strumenti a nostra disposizione” per mantenere i suoi residenti al sicuro.
Velocità della luce mashable
“Questo materiale, che raffigura donne e bambini nudi e in situazioni sessualmente esplicite, è stato utilizzato per molestare le persone su Web”, Bonta ha detto in una dichiarazione mercoledì.
Nel frattempo, il capo di xAI/X/Grok, Elon Musk, sembrava sfidare gli utenti a “rompere la moderazione delle immagini di Grok” lo stesso giorno in cui X Security ha annunciato i suoi nuovi aggiornamenti di sicurezza:
Questo Tweet non è al momento disponibile. Potrebbe essere in fase di caricamento o è stato rimosso.
Divieto di approvazione: le nazioni stanno valutando la possibilità di bloccare il chatbot AI per contenuti sessuali non consensuali
Lunedì il primo ministro britannico Keir Starmer ha minacciato di agire contro Musk, dicendo “se X non può controllare Grok, lo faremo noi”. secondo un rapporto della BBC. Indonesia e Malesia hanno già bloccato l’accesso a Grok questo wonderful settimana.
Anche i politici hanno preso di mira Grok e X, con tre senatori che chiedono advert Apple di rimuovere i servizi dal suo app retailer. Le app sono ancora disponibili nell’App Retailer di Apple da mercoledì sera.
Secondo la BBC, i recenti cambiamenti di X alla sua politica potrebbero riflettere il riconoscimento da parte dei chief dell’azienda che non è protetta dalla Sezione 230 del trentennale Communications Decency Act degli Stati Uniti. La Sezione 230 protegge le aziende tecnologiche da azioni legali relative ai contenuti generati dagli utenti, ma le immagini e altri contenuti creati dalla tecnologia di un’app potrebbero essere meno impermeabili a story immunità legale.
