Poiché la preoccupazione per l’impatto dell’intelligenza artificiale sui giovani continua a crescere, OpenAI ha introdotto una funzione di “previsione dell’età” in ChatGPT progettata per aiutare a identificare i minori e imporre limiti di contenuto sensibili alle loro conversazioni.
OpenAI è stata pesantemente criticata negli ultimi anni per gli impatti che ChatGPT può avere sui bambini. Un certo numero di suicidi di adolescenti sono stati collegati al chatbot e, come altri fornitori di intelligenza artificiale, anche OpenAI è stata criticata per aver consentito a ChatGPT di discutere argomenti sessuali con giovani utenti. Lo scorso aprile, la società è stata costretta a risolvere un bug che consentiva al suo chatbot di generare contenuti erotici per utenti di età inferiore ai 18 anni.
L’azienda sta già lavorando da tempo sul problema degli utenti minorenni e la sua nuova funzionalità di “previsione dell’età” non fa altro che aggiungersi alle protezioni già in atto. La nuova funzionalità sfrutta un algoritmo AI che valuta gli account utente per particolari “segnali comportamentali e a livello di account”, nel tentativo di identificare gli utenti giovani, ha affermato OpenAI in un post sul blog Martedì.
Tali “segnali” includono cose come l’età dichiarata dell’utente, il periodo di tempo in cui esiste un account e le ore del giorno in cui l’account è solitamente attivo, ha affermato la società. L’azienda dispone già di filtri di contenuto progettati per eliminare discussioni su sesso, violenza e altri argomenti potenzialmente problematici per gli utenti minori di 18 anni. Se il meccanismo di previsione dell’età identifica un account come minore di 18 anni, tali filtri vengono applicati automaticamente.
Se un utente viene erroneamente designato come minorenne, esiste un modo per ristabilire il proprio account “adulto”. Possono inviare un selfie al accomplice di verifica dell’identità di OpenAI, Persona, afferma OpenAI.
