Meta oggi ha affermato che sospenderà l’accesso degli adolescenti ai suoi personaggi IA a livello globale in tutte le sue app. La società ha affermato che non abbandonerà i suoi sforzi ma di voler sviluppare una versione aggiornata dei personaggi IA per adolescenti, ha dichiarato in esclusiva a TechCrunch.
La mossa arriva pochi giorni prima che un caso contro Meta venga processato nel New Mexico, in cui la società è accusata di non fare alcuno sforzo per proteggere i bambini dallo sfruttamento sessuale sulle sue app. Cablato ha riferito giovedì che Meta ha cercato di limitare le scoperte relative all’impatto dei social media sulla salute mentale degli adolescenti.
A ottobre, la società ha presentato in anteprima il controllo parentale per i personaggi IA, consentendo a genitori e tutori di monitorare argomenti e bloccare l’accesso a determinati personaggi. Meta ha detto che i genitori potranno disattivare completamente le chat con i personaggi IA. Queste funzionalità sarebbero state rilasciate quest’anno, ma la società ora sta disattivando del tutto i personaggi AI per gli adolescenti mentre aggiorna i personaggi AI a una versione più recente.
Meta ha affermato di aver sentito dai genitori che volevano maggiori informazioni e controllo sulle interazioni dei loro ragazzi con i personaggi dell’intelligenza artificiale, motivo per cui ha deciso di apportare queste modifiche.
L’azienda ha represso l’accesso degli adolescenti ai contenuti AI nelle sue app. Sempre in ottobre, Meta ha lanciato funzionalità di controllo parentale su Instagram, concentrandosi sulla personalizzazione dell’esperienza degli adolescenti di interagire con l’intelligenza artificiale sulle sue app. Queste funzionalità, ispirate alla classificazione dei movie PG-13, limitavano l’accesso degli adolescenti a determinati argomenti come la violenza estrema, la nudità e l’uso esplicito di droghe.
“A partire dalle prossime settimane, gli adolescenti non saranno più in grado di accedere ai personaggi AI attraverso le nostre app fino a quando l’esperienza aggiornata non sarà pronta. Ciò si applicherà a chiunque ci abbia regalato un compleanno da adolescente, così come alle persone che affermano di essere adulti ma che sospettiamo siano adolescenti in base alla nostra tecnologia di previsione dell’età”, ha affermato la società in un publish aggiornato sul weblog.
Meta ha aggiunto che quando verranno lanciati i nuovi personaggi AI, avranno il controllo genitori integrato. La società ha affermato che i nuovi personaggi daranno risposte adeguate all’età e si atterranno advert argomenti come l’istruzione, lo sport e gli passion.
Le società di social media sono sotto il pesante controllo delle autorità di regolamentazione. Oltre al già citato caso del New Mexico, la prossima settimana Meta dovrà affrontare anche un processo in cui la piattaforma è accusata di causare dipendenza dai social media. Si prevede che il CEO Mark Zuckerberg salirà sul banco dei testimoni in questo caso una volta iniziato il processo.
Oltre alle piattaforme social, le società di intelligenza artificiale hanno dovuto modificare la loro esperienza con gli adolescenti dopo aver affrontato azioni legali che accusavano di aver avuto un ruolo nell’incoraggiamento dell’autolesionismo. A ottobre, Character.AI, la startup che consente agli utenti di chattare con vari avatar IA, non consentiva conversazioni aperte con chatbot per gli utenti minori di 18 anni. A novembre, la startup ha detto che avrebbe costruito storie interattive per bambini. Negli ultimi mesi, OpenAI ha aggiunto nuove regole sulla sicurezza degli adolescenti per ChatGPT e ha iniziato a prevedere l’età di un utente per applicare restrizioni sui contenuti.
Correzione: questo publish è stato aggiornato per chiarire che la nuova versione dei personaggi AI sarà accessibile a tutti, non solo agli adolescenti, quando verrà lanciata. Includerà il controllo genitori.
