Padre Mike Schmitz, un prete cattolico e podcaster, si è rivolto alla sua congregazione di oltre 1,2 milioni di abbonati YouTube nel mese di novembre con un’omelia insolita. Non ci si poteva sempre fidare delle parole che uscivano dalla sua bocca, ha detto Schmitz, perché a volte non erano realmente le sue parole, o la sua bocca. Schmitz period diventato il bersaglio di truffe di imitazione generate dall’intelligenza artificiale.
“Sei osservato da un essere umano demoniaco”, ha detto il falso Schmitz in un video che il vero Schmitz, che indossa una giacca LL Bean sopra il suo abito clericale, ha incluso come esempio nel suo annuncio di servizio pubblico. “Bisogna agire rapidamente, perché i posti per inviare preghiere stanno già finendo”, ha detto un altro falso Schmitz con una clessidra incombente dietro di lui. “E il prossimo viaggio avrà luogo solo tra quattro mesi.” Il falso Schmitz sembrava leggermente robotico mentre esortava gli spettatori a fare clic su un collegamento e assicurarsi la loro benedizione prima che fosse troppo tardi.
“Posso guardarli e dire ‘È ridicolo, non lo direi mai'”, ha detto il vero Schmitz, che vive a Duluth, Minnesota. il suo video di richiamo. “Ma la gente non può necessariamente dirlo. Questo è un problema. È davvero un grosso problema.”
Sul vero video di Schmitz, alcuni dei commenti più importanti dei suoi follower hanno affermato di aver visto altre importanti determine cattoliche impersonate attraverso i video dell’intelligenza artificiale, incluso il papa. Secondo l’esperta di sicurezza informatica Rachel Tobac, CEO di SocialProof Safety, ciò accade perché i pastori sono diventati soggetti estremamente popolari delle truffe basate sull’intelligenza artificiale e di altri media ingannevoli.
“Se sei su TikTok o Reels, probabilmente si sono imbattuti nella tua pagina For You”, cube Tobac. “Questo è qualcuno che sembra essere un prete, che indossa tutti gli indumenti, che sta in piedi su un pulpito o un palco o come lo chiamereste, e sembra che parli alla sua congregazione in un modo molto entusiasta.”
Pastori e ministri dentro BirminghamAlabama, Porto francoNew York e Fort Lauderdalein Florida, hanno messo in guardia i loro follower dalle truffe dell’intelligenza artificiale che li impersonificano sotto forma di messaggi diretti, chiamate e deepfake. Alan Beauchamp, un pastore degli Ozarks, ha detto il suo account Fb è stato violatocon l’hacker che pubblicava un certificato falso, forse generato dall’intelligenza artificiale, per lo scambio di criptovalute con sopra il nome di Beauchamp e una didascalia che invitava i suoi fedeli a unirsi a lui. Una megachiesa nelle Filippine ricevuto segnalazioni di deepfake con protagonisti i suoi pastori. Una chiesa evangelica nel Nebraska ha emesso un “allarme truffa” tramite intelligenza artificiale su Facebooke un fedele nei commenti ha pubblicato uno screenshot di testi che si presume provengano da uno dei loro pastori.
Non aiuta il fatto che molti pastori e ministri che hanno acquisito un ampio seguito on-line spesso in realtà sollecitino donazioni e vendano cose, ma non le stesse cose che sono i loro imitatori di intelligenza artificiale. Con l’aiuto dei social media, le autorità religiose sono riuscite a raggiungere i credenti ben oltre i loro quartieri, ma la proliferazione di contenuti che presentano le loro sembianze e le loro voci ha anche fornito l’opportunità perfetta per i truffatori che utilizzano strumenti di intelligenza artificiale generativa.
