Circa sei mesi dopo il lancio della funzione “Vibes” che consentiva agli utenti di creare ed esplorare feed video generati dall’intelligenza artificiale, l’app Meta AI sta iniziando a diventare un pozzo nero di video clip sessuali di bambini generati dall’intelligenza artificiale e deepfake di celebrità.
Sulla piattaforma fluttuano video generati dall’intelligenza artificiale di bambini trasformati in corpi di donne adulte, bambini veri che cantano canzoni di movie inappropriate e recitano dialoghi di adulti e donne che assomigliano a celebrità mentre vengono spogliate.
Alcuni utenti, nelle didascalie dei video, hanno condiviso le istruzioni che eventualmente hanno inserito per generare le immagini. Rivelano che molti utenti hanno tentato di creare contenuti deepfake di celebrità sessualmente espliciti. La creazione e la distribuzione di tali contenuti con personaggi della vita reale violano le norme informatiche indiane.
Alcune didascalie video includevano i nomi di attori sia maschili che femminili di Bollywood o di attori pan-indiani, mentre altri presentavano versioni di intelligenza artificiale sessualizzate che somigliavano in qualche modo alle donne della vita reale. I video mostravano versioni IA di attrici baciate, palpeggiate e spogliate da uomini.
Uno dei video generati dall’intelligenza artificiale mostrava una persona che somigliava al Mahatma Gandhi che palpava il seno di una donna. Un altro, sottotitolato con un insulto castista, mostrava una coppia che si toccava in modo inappropriato.
Per generare video di studentesse in uniforme in scenari espliciti mentre aggiravano i guardrail di protezione dei bambini, i suggerimenti/didascalie dell’intelligenza artificiale di alcuni utenti descrivevano le ragazze come di età pari o superiore a 18 anni, ma le descrivevano come vestite con uniformi studentesche.
Altri suggerimenti hanno mostrato che l’utente stava cercando di generare immagini di donne parzialmente o completamente nude, inserendo frasi come “kurti corto trasparente” e “minigonna rosso blu trasparente” e “sari bagnati attillati” e “camicia che espone l’ombelico” e “messa a fuoco della fotocamera” sul seno della donna. Queste didascalie venivano spesso riutilizzate da altri.
Uno di questi video che descriveva una “ragazza” in un “abito scolastico” e in uno “stato d’animo romantico” la vedeva togliersi la maglietta per mettersi in mutande. Alcuni video basati sull’intelligenza artificiale mostravano i volti di bambini piccoli o adolescenti trasformati nei corpi di donne adulte che indossavano abiti con scollature basse.
Molti video erano anche visibilmente deformati o deviati rispetto alle istruzioni, rendendoli facilmente identificabili come falsi. Anche arti, dita e teste further erano un punto comune in molti video, poiché i suggerimenti venivano riutilizzati e remixati tramite l’app.
I Vibes di Meta AI sono simili ai video Instagram Reels o TikTok, con l’eccezione di essere realizzati completamente o in parte con l’intelligenza artificiale. Gli utenti possono anche aggiungere suoni di sottofondo, come musica di tendenza o dialoghi con sincronizzazione labiale, nonché sottotitoli di testo.
Meta ha introdotto Vibes nel settembre 2025descrivendolo come “progettato per facilitare la ricerca di ispirazione creativa e la sperimentazione con gli strumenti multimediali di Meta AI”.
Oltre a creare video AI, l’app Meta AI consente agli utenti di gestire i propri occhiali AI, mentre l’assistente Meta AI risponde alle domande e aiuta a generare contenuti multimediali.
Una recente indagine condotta dai punti vendita svedesi Svenska Dagbladet (SvD) e Goteborgs-Posten (GP) ha affermato che filmati estremamente sensibili e personali codificati tramite gli occhiali Meta AI dei clienti sono stati resi visibili ai lavoratori subappaltati di Meta in Kenya. Secondo l’indagine, ciò includeva filmati di incontri sessuali, pornografia, informazioni bancarie e visite ai servizi igienici.
Un regolatore del Regno Unito ha contattato il gigante dei social media per ulteriori informazioni.
Pubblicato – 12 marzo 2026 12:49 IST
