Il chatbot di intelligenza artificiale di Elon Musk, Grok, ha introdotto una funzionalità che consente agli utenti di creare immagini sessualizzate di donne senza il loro consenso, per la quale sta affrontando critiche diffuse. Lo strumento può scattare foto dalla piattaforma di social media X, comprese immagini di persone reali, e alterarle digitalmente per rimuovere i vestiti o raffigurarle in lingerie e bikini.La situazione si è aggravata dopo il lancio di un pulsante “modifica immagine” a superb dicembre, che consente agli utenti di modificare qualsiasi immagine sulla piattaforma. Secondo quanto riferito, alcuni utenti lo hanno utilizzato per rimuovere parzialmente o completamente gli indumenti di donne e bambini nelle immagini. Da quando la funzione è stata lanciata il giorno di Natale, l’account X di Grok è stato inondato di richieste sessualmente esplicite.Tuttavia, invece di prendere sul serio la questione, Musk sembrava prendersi gioco della questione, postando emoji che ridono e piangono in risposta alle modifiche dell’intelligenza artificiale di personaggi famosi – incluso se stesso – in bikini.
Grok ha risposto su X, riconoscendo il problema: “Abbiamo identificato delle lacune nelle misure di sicurezza e le stiamo risolvendo urgentemente”. Il chatbot ha inoltre sottolineato che “il materiale CSAM (Youngster Sexual Abuse Materials) è illegale e proibito”.In India, il ministero dell’elettronica e dell’informatica (MeitY) venerdì ha inviato una lettera a X, citando una “mancata osservanza degli obblighi statutari di due diligence” ai sensi dell’Data Expertise Act del 2000. Il ministero ha richiesto un rapporto sulle azioni intraprese per impedire l’internet hosting, la generazione e il caricamento di contenuti osceni, nudi, indecenti e sessualmente espliciti attraverso servizi di intelligenza artificiale come Grok.La lettera ordinava a X Corp, India Operations, di “desistere rigorosamente dall’internet hosting, visualizzazione, caricamento, pubblicazione, trasmissione, archiviazione, condivisione di qualsiasi contenuto che sia osceno, pornografico, volgare, indecente, sessualmente esplicito, pedofilo o altrimenti proibito da qualsiasi legge al momento in vigore in qualsiasi modo.” Ha inoltre avvertito che la mancata osservanza potrebbe comportare la perdita delle esenzioni di responsabilità ai sensi della sezione 79 della legge sull’IT e altre conseguenze legali.Nel frattempo, a Parigi, la Procura ha ampliato l’indagine su X includendo nuove accuse secondo cui Grok sarebbe utilizzato per creare e distribuire materiale pedopornografico.Una donna, Samantha Smith, ha detto alla BBC di sentirsi “disumanizzata e ridotta a uno stereotipo sessuale” dopo che Grok le ha tolto digitalmente i vestiti. “Anche se non ero io a spogliarmi, mi assomigliava e mi sentivo come me e mi sentivo violento come se qualcuno avesse effettivamente pubblicato una mia foto nuda o in bikini”, ha detto.
