Meta fa una pausa sui suoi personaggi AI per adolescenti

Lo chiamano il Scarica le notizie del venerdì – le aziende che pubblicano notizie imbarazzanti in un giorno in cui è meno probabile che i media si prendano la briga di coprirle. Ma Meta ha appena portato le notizie del venerdì a un livello completamente nuovo con questo annuncio: ha disabilitato i suoi personaggi IA per gli account degli adolescenti, almeno fino a quando i personaggi non saranno in grado di comportarsi bene.

La notizia non è stata diffusa solo venerdì: è stata diffusa un aggiornamento a un post del blog dallo scorso ottobre.

“Abbiamo iniziato a costruire una nuova versione di personaggi IA, per offrire alle persone un’esperienza ancora migliore”, si legge ora nella nota di Adam Mosseri, capo di Instagram e Alexandr Wang, capo AI Officer – un aggiornamento che Meta ha promesso da tempo. Poi è arrivata la parte che avrebbe regalato a molti ragazzi un Black Friday davvero poco stile Rebecca.

“Mentre ci concentriamo sullo sviluppo di questa nuova versione, stiamo temporaneamente sospendendo l’accesso degli adolescenti ai personaggi IA esistenti a livello globale. A partire dalle prossime settimane, gli adolescenti non saranno più in grado di accedere ai personaggi IA attraverso le nostre app fino a quando l’esperienza aggiornata non sarà pronta. Ciò si applicherà a chiunque ci abbia festeggiato il compleanno da adolescente, così come alle persone che affermano di essere adulte ma che sospettiamo siano adolescenti in base al nostro tecnologia di previsione dell’età.”

Il produttore di Instagram e Fb vuole sottolineare “non sta abbandonando i suoi sforzi” sui personaggi IAsecondo TechCrunch. Tuttavia, questa è chiaramente un’ammissione che qualcosa ha il potenziale per andare avanti molto sbagliato con la versione attuale dei suoi personaggi IA, per quanto riguarda la sicurezza degli adolescenti e la salute mentale.

Meta non è solo in questa scoperta. Character.AI e Google hanno entrambi risolto le trigger legali questo mese, intentate da più genitori di bambini morti per suicidio. Uno period un ragazzo di 14 anni che in effetti è stato adescato e abusato sessualmente, cube sua madre, da un chatbot basato sul metodo Recreation of Thrones personaggio Daenerys Targaryen.

Sconvolto da un rapporto di esperti di sicurezza on-line, Character.AI ha chiuso tutte le chat per gli utenti minori di 18 anni a ottobre, due mesi dopo che Meta aveva semplicemente deciso di iniziare advert addestrare i suoi chatbot adolescenti a non “interagire con utenti adolescenti su autolesionismo, suicidio, alimentazione disordinata o conversazioni romantiche potenzialmente inappropriate.” Evidentemente quella formazione non period sufficiente.

Questa non è la prima volta che Meta deve fare marcia indietro sulle sue ambizioni per gli account dei personaggi IA. Nel 2024, ha rimosso i personaggi AI basati sulle celebrità. Nel gennaio dello scorso anno, ha rimosso tutti i profili dei personaggi IA dopo una reazione negativa sul razzismo percepito.

Anche il problema dell’utilizzo da parte degli adolescenti non è piccolo. Più della metà degli adolescenti tra i 13 e i 17 anni intervistato da Common Sense Media lo scorso anno hanno affermato di utilizzare compagni di intelligenza artificiale più di una volta al mese. Per ora dovranno farlo in un posto diverso da Meta.