Pochi giorni dopo al lancio, il tanto pubblicizzato sistema di verifica dell’età basato sull’intelligenza artificiale di Roblox è un disastro completo.
Il sistema di scansione facciale di Roblox, che stima l’età delle persone prima che possano accedere alle funzioni di chat della piattaforma, è stato lanciato negli Stati Uniti e in altri paesi in tutto il mondo la scorsa settimana, dopo essere stato inizialmente lanciato in alcune località a dicembre. Roblox dice sta implementando il sistema per consentire agli utenti di chattare in sicurezza con utenti di età simili.
Ma i giocatori sono già dentro rivolta perché non possono più chattare con i loro amici, gli sviluppatori chiedono Roblox ripristina l’aggiornamento e, cosa fondamentale, gli esperti affermano che non solo l’IA invecchia male i giovani giocatori da adulti e viceversa, ma il sistema fa ben poco per aiutare advert affrontare il problema per cui è stato progettato: l’ondata di predatori che utilizzano la piattaforma per adescare i bambini piccoli.
In effetti, WIRED ha trovato numerosi esempi di persone che pubblicizzano account con età verificata per minori di 9 anni su eBay per soli 4 dollari.
Dopo che WIRED ha segnalato le inserzioni, il portavoce di eBay Maddy Martinez ha detto che la società le stava rimuovendo per aver violato le politiche del sito.
In una e-mail, il responsabile della sicurezza di Roblox Matt Kaufman ha dichiarato a WIRED che un cambiamento di questa portata su una piattaforma con oltre 150 milioni di utenti giornalieri richiede tempo.
“Non puoi premere un interruttore mentre costruisci qualcosa che non è esistito prima”, ha detto. “Aspettarsi che il sistema sia impeccabile da un giorno all’altro significa ignorare la portata di questa impresa”.
Kaufman ha affermato che la società è soddisfatta dell’adozione, aggiungendo che “decine di milioni di utenti” hanno già verificato la propria età, il che, secondo lui, dimostra che “la stragrande maggioranza della nostra comunità apprezza un ambiente più sicuro e più adatto all’età”.
L’azienda ha anche affrontato alcune delle critiche in un aggiornamento venerdì, scrivendo: “Siamo a conoscenza di casi in cui i genitori controllano l’età per conto dei propri figli, portando i bambini a raggiungere i 21 anni o più. Stiamo lavorando su soluzioni per risolvere questo problema e presto ne condivideremo di più”.
Roblox ha annunciato l’obbligo di verifica dell’età lo scorso luglio come parte di una serie di nuove funzionalità progettate per rendere la piattaforma più sicura. La società è stata sottoposta a forti pressioni negli ultimi mesi dopo che numerose trigger legali sostengono che la società non sia riuscita a proteggere i suoi utenti più giovani e abbia facilitato i predatori nell’accudire i bambini.
I procuratori generali di Louisiana, TexasE Kentucky lo scorso anno ha anche intentato causa contro la società facendo affermazioni simili, mentre il procuratore generale della Florida emesso mandati di comparizione penale per valutare se Roblox sta “aiutando i predatori advert accedere e a danneggiare i bambini”.
Roblox sostiene che richiedere alle persone di verificare la propria età prima di consentire loro di chattare con altri impedirà agli adulti di interagire liberamente con bambini che non conoscono.
Sebbene il processo sia facoltativo, rifiutarsi di farlo significa che una persona non avrà più accesso alle funzioni di chat della piattaforma, uno dei motivi principali per cui la maggior parte delle persone utilizza Roblox.
Per verificare la loro età, alle persone viene chiesto di girare un breve video utilizzando la fotocamera del proprio dispositivo, che viene elaborato da una società chiamata Persona che stima la loro età. In alternativa, gli utenti possono caricare un documento d’identità con foto rilasciato dal governo se hanno almeno 13 anni.
Roblox afferma che tutte le informazioni personali vengono “cancellate immediatamente dopo l’elaborazione”. Tuttavia, molti utenti on-line affermano di non essere disposti a condurre la verifica dell’età per motivi di privateness.
Le persone che hanno verificato la propria età possono chattare solo con un piccolo gruppo di altri giocatori della loro stessa età. Advert esempio, quelli verificati come minori di 9 anni possono chattare solo con giocatori fino a 13 anni. I giocatori considerati maggiori di 16 anni possono chattare con giocatori di età compresa tra 13 e 20 anni.
