L’India ordina all’X di Musk di sistemare Grok per contenuti IA “osceni”.

L’India ha ordinato a X di Elon Musk di apportare modifiche tecniche e procedurali rapid al suo chatbot AI Grok dopo che utenti e legislatori hanno segnalato la generazione di contenuti “osceni”, comprese immagini di donne alterate dall’intelligenza artificiale create utilizzando lo strumento.

Venerdì, il ministero indiano dell’IT ha emesso un ordine che ordinava a Musk’s X di intraprendere azioni correttive nei confronti di Grok, inclusa la limitazione della generazione di contenuti che coinvolgono “nudità, sessualizzazione, materiale sessualmente esplicito o altrimenti illegale”. Il ministero ha inoltre concesso alla piattaforma di social media 72 ore per presentare un rapporto sulle azioni intraprese che dettaglia le misure adottate per impedire l’internet hosting o la diffusione di contenuti ritenuti “osceni, pornografici, volgari, indecenti, sessualmente espliciti, pedofili o altrimenti vietati dalla legge”.

L’ordinanza, esaminata da TechCrunch, avverte che la mancata osservanza potrebbe mettere a repentaglio le protezioni del “porto sicuro” di X: l’immunità legale dalla responsabilità per i contenuti generati dagli utenti secondo la legge indiana.

La mossa dell’India fa seguito alle preoccupazioni sollevate dagli utenti che hanno condiviso esempi di Grok indotto a modificare le immagini di individui – principalmente donne – per farli sembrare indossare bikini, spingendo un denuncia formale della parlamentare indiana Priyanka Chaturvedi. Separatamente, rapporti recenti hanno segnalato casi in cui il chatbot AI generato immagini sessuali che coinvolgono minoriuna questione X riconosciuto venerdì scorso è stato causato da carenze nelle misure di salvaguardia. Quelle immagini sono state successivamente rimosse.

Tuttavia, le immagini generate utilizzando Grok che facevano sembrare che le donne indossassero bikini attraverso l’alterazione dell’intelligenza artificiale sono rimaste accessibili su X al momento della pubblicazione, ha scoperto TechCrunch.

L’ultimo ordine arriva pochi giorni dopo che il ministero indiano dell’IT ha emesso lunedì un avviso più ampio, che è stato anche esaminato da TechCrunch, alle piattaforme di social media, ricordando loro che il rispetto delle leggi locali che regolano i contenuti osceni e sessualmente espliciti è un prerequisito per mantenere l’immunità legale dalla responsabilità per il materiale generato dagli utenti. L’avviso esorta le aziende a rafforzare le salvaguardie interne e avverte che in caso contrario si potrebbero avviare azioni legali ai sensi delle leggi IT e penali dell’India.

“Si ribadisce che il mancato rispetto dei requisiti di cui sopra deve essere considerato seriamente e può comportare extreme conseguenze legali contro la piattaforma, i suoi funzionari responsabili e gli utenti della piattaforma che violano la legge, senza ulteriore preavviso”, avverte l’ordinanza.

Il governo indiano ha affermato che la non conformità potrebbe portare advert azioni contro X ai sensi della legge informatica e degli statuti penali indiani.

L’India, uno dei mercati digitali più grandi del mondo, è emerso come un banco di prova fondamentale per valutare fino a che punto i governi sono disposti a spingersi nel ritenere le piattaforme responsabili dei contenuti generati dall’intelligenza artificiale. Qualsiasi inasprimento delle norme nel paese potrebbe avere effetti a catena per le società tecnologiche globali che operano in più giurisdizioni.

L’ordine arriva mentre X di Musk continua a contestare in tribunale aspetti delle norme indiane sulla regolamentazione dei contenuti, sostenendo che i poteri di rimozione del governo federale rischiano di essere eccessivi, anche se la piattaforma ha rispettato la maggior parte delle direttive di blocco. Allo stesso tempo, Grok è stato sempre più utilizzato dagli utenti di X per il controllo dei fatti e i commenti in tempo reale sugli eventi di notizie, rendendo i suoi risultati più visibili – e politicamente più sensibili – rispetto a quelli degli strumenti di intelligenza artificiale autonomi.

X e xAI non hanno risposto immediatamente alle richieste di commento sull’ordine del governo indiano.