YouTube sta intensificando la sua lotta contro uno degli usi più preoccupanti dell’intelligenza artificiale: i video deepfake che impersonano persone reali. L’azienda annunciato sta espandendo la sua tecnologia di rilevamento delle somiglianze a un gruppo pilota di giornalisti, funzionari governativi e candidati politici. È una mossa volta a proteggere i personaggi pubblici dall’imitazione generata dall’intelligenza artificiale.
La funzione funziona in qualche modo come Content material ID per i volti. I partecipanti inviano un breve video e un documento d’identità governativo in modo che il sistema possa apprendere la loro somiglianza. Una volta registrato, YouTube scansiona i caricamenti alla ricerca di video generati dall’intelligenza artificiale che ne imitano l’aspetto. Se story contenuto viene visualizzato, l’individuo può esaminarlo e potenzialmente richiederne la rimozione.
Un nuovo scudo contro la imitazione dell’IA
YouTube ha introdotto per la prima volta il rilevamento della somiglianza per i creatori nel Programma associate di YouTube lo scorso anno. L’azienda ora ritiene che la prossima priorità sia proteggere i personaggi pubblici le cui identità sono spesso utilizzate nelle campagne di disinformazione, soprattutto in occasione delle elezioni e dei discorsi politici.
I deepfake sono diventati sempre più realistici grazie agli strumenti di intelligenza artificiale generativa, rendendo più semplice la creazione di video convincenti di persone che dicono o fanno cose che non hanno mai fatto realmente. In politica e nel giornalismo, questo rischio può avere gravi conseguenze, dalla disinformazione al danno reputazionale. Tuttavia, il sistema non è un semplice “pulsante Elimina”. YouTube afferma che le richieste di rimozione saranno ancora soggette alle linee guida esistenti sulla privateness e sulla moderazione, il che significa che alcuni video potrebbero rimanere on-line se si qualificano come parodia, satira o commento legittimo.
È interessante notare che YouTube afferma che il lancio originale per i creatori non ha portato a molte rimozioni. La maggior parte dei contenuti rilevati si è rivelata relativamente benigna, anche se la società prevede che la situazione sarà diversa per i personaggi pubblici e i chief politici che affrontano un rischio maggiore di attacchi deepfake mirati.
Per ora, il programma rimarrà limitato a individui influenti piuttosto che al pubblico in generale. Ma l’espansione segnala un cambiamento più ampio nel settore tecnologico: muoversi rapidamente per costruire guardrail prima che i media generati dall’intelligenza artificiale diventino impossibili da distinguere dalla realtà.
