Una nuova indagine da Il New York Times rivela quanto velocemente YouTube inonda i feed con bizzarri video generati dall’intelligenza artificiale rivolti agli spettatori più giovani. Dopo un singolo video CoComelon, più del 40% dei cortometraggi consigliati in una sessione di 15 minuti contenevano immagini sintetiche.
L’algoritmo spinge i contenuti da canali che affermano di insegnare ai bambini l’alfabeto e gli animali. Ma le clip stesse sono spesso prive di senso, con volti deformati, parti del corpo additional e testo confuso. Nessuno dura più di 30 secondi.
Gli esperti affermano che il formato non lascia spazio alla ripetizione o alla struttura narrativa, entrambe essenziali affinché i bambini piccoli imparino dai media. Eppure i video attirano milioni di visualizzazioni.
I creatori, molti dei quali operano in modo anonimo, hanno trasformato gli strumenti di intelligenza artificiale in un flusso di reddito affidabile. La barriera è bassa, il profitto è alto e il feed continua advert allagare.
L’algoritmo privilegia la quantità rispetto alla qualità
I giornalisti hanno condotto l’analisi per various settimane, guardando canali popolari come CoComelon e Ms. Rachel da un browser privato. Quindi hanno sfogliato gli Brief YouTube consigliati a intervalli di 15 minuti per vedere cosa è emerso.
In una sessione successiva al video “Wheels on the Bus”, oltre il 40% delle raccomandazioni mostrava segni di generazione di intelligenza artificiale. Alcuni clip portavano l’etichetta di “contenuti alterati o sintetici” propria di YouTube. Altri hanno richiesto un rilevatore di intelligenza artificiale per confermare perché le immagini erano sufficientemente fluide da eludere il rilevamento casuale.
Gli stessi video e canali sono comparsi ripetutamente in più sessioni. Ciò suggerisce che l’algoritmo potenzia attivamente questo contenuto invece di filtrarlo. Molti account producono queste clip più volte al giorno, ottimizzate per ottenere il massimo delle visualizzazioni con il minimo sforzo.
All’interno dell’economia dei creatori che alimenta il feed
Molti degli account YouTube che producono contenuti per bambini generati dall’intelligenza artificiale funzionano in modo anonimo. Non elencano informazioni di contatto e offrono pochi dettagli identificabili su chi li gestisce. La barriera all’ingresso è notevolmente bassa.
I creatori imparano da soli utilizzando strumenti facilmente disponibili come Whisk e Runway di Google, spesso seguendo tutorial on-line. Alcuni canali si presentano come educativi, presentando animali animati e canzoni da cantare pensate per attirare i genitori che cercano contenuti didattici per i più piccoli.
L’incentivo finanziario spinge la produzione rapida. Un video di Halloween con animali spettrali ha accumulato più di 370 milioni di visualizzazioni. Gli account pubblicano più video al giorno, ottimizzati per la massima copertura con il minimo sforzo. La system funziona: attirare rapidamente l’attenzione, mantenerla breve e lasciare che sia l’algoritmo a gestire la distribuzione.
YouTube reagisce ma i genitori sono lasciati a sorvegliare il feed
Dopo che il Instances ha condiviso esempi con YouTube e richiesto commenti, la piattaforma ha sospeso tutti e cinque i canali citati dal suo Programma companion. Tali account non possono più generare entrate pubblicitarie né essere visualizzati su YouTube Youngsters. L’azienda ha inoltre rimosso tre video iperrealistici dall’app per bambini e rimosso un clip per aver violato le politiche sulla sicurezza dei bambini.
Ma la risposta è stata reattiva, non proattiva. YouTube richiede ai creatori di divulgare contenuti realistici generati dall’intelligenza artificiale, ma story regola non si applica ai video animati per bambini. Quindi l’onere ricade sui genitori, un compito che anche gli esperti trovano scoraggiante man mano che gli strumenti migliorano.
Alcune famiglie ora creano le proprie playlist di contenuti controllati o rimuovono completamente l’app. L’American Academy of Pediatrics consiglia ai genitori di evitare contenuti generati dall’intelligenza artificiale o altamente sensazionalistici. Individuarlo rimane la parte difficile.
