Un nuovo rapporto del Fondo per l’istruzione del Public Curiosity Analysis Group (PIRG) degli Stati Uniti ha sollevato preoccupazioni circa il crescente utilizzo di chatbot di intelligenza artificiale nei giocattoli per bambini, avvertendo che alcuni di questi sistemi potrebbero non essere adatti ai giovani utenti. Secondo il rapportodiversi giocattoli basati sull’intelligenza artificiale integrano la tecnologia chatbot in grado di generare risposte simili a quelle utilizzate nei servizi di intelligenza artificiale rivolti agli adulti, esponendo potenzialmente i bambini a contenuti inappropriati o fuorvianti.
Lo studio ha esaminato una gamma di giocattoli che incorporano funzionalità di intelligenza artificiale conversazionale, tra cui bambole interattive, robotic e gadget educativi. Molti di questi prodotti consentono ai bambini di parlare con un giocattolo che risponde in linguaggio naturale, alimentato da modelli linguistici di grandi dimensioni simili a quelli utilizzati nei chatbot AI ampiamente disponibili.
Sebbene la tecnologia possa rendere i giocattoli più interattivi ed educativi, i ricercatori del PIRG sostengono che le garanzie combine in alcuni prodotti potrebbero non essere abbastanza forti da proteggere il pubblico più giovane. In particolare, il rapporto evidenzia che i sistemi di intelligenza artificiale sottostanti spesso provengono da piattaforme progettate principalmente per utenti generali piuttosto che per bambini.
Per questo motivo, le risposte dell’intelligenza artificiale generate da questi giocattoli potrebbero potenzialmente includere informazioni o temi di conversazione più appropriati per gli adulti che per i bambini. Il rapporto avverte inoltre che l’intelligenza artificiale potrebbe produrre risposte imprecise o imprevedibili, che potrebbero confondere i giovani utenti che tendono a fidarsi dei giocattoli come fonti affidabili di informazioni.
I ricercatori che hanno esaminato la documentazione dei giocattoli e le politiche sulla privateness hanno anche scoperto che alcuni prodotti fanno molto affidamento su sistemi di intelligenza artificiale basati su cloud
Ciò significa che le interazioni vocali dei bambini possono essere trasmesse a server esterni dove i dati vengono elaborati e utilizzati per generare risposte. I difensori della privateness affermano che ciò solleva ulteriori preoccupazioni su come i dati dei bambini vengono archiviati e utilizzati. Alcuni giocattoli potrebbero raccogliere registrazioni audio, istruzioni dell’utente o altre informazioni personali durante le conversazioni. Se questi sistemi non sono attentamente progettati tenendo conto della tutela della privateness dei bambini, i dati potrebbero essere potenzialmente utilizzati in modo improprio o archiviati senza chiare garanzie.
Il rapporto sottolinea inoltre che molti giocattoli basati sull’intelligenza artificiale includono disclaimer sepolti nei termini di servizio o nella documentazione del prodotto. Queste dichiarazioni di non responsabilità a volte affermano che le risposte dell’intelligenza artificiale potrebbero non essere sempre correct o applicable, trasferendo di fatto la responsabilità sui genitori mentre il giocattolo stesso viene commercializzato direttamente ai bambini.
Questa situazione è importante perché la tecnologia dell’intelligenza artificiale sta entrando sempre più nei prodotti di consumo quotidiano, compresi gli articoli progettati specificamente per il pubblico giovane. I giocattoli che simulano le conversazioni possono avere una forte influenza sui bambini, che spesso li trattano come compagni o strumenti di apprendimento.
Gli esperti affermano che i bambini potrebbero avere difficoltà a distinguere tra informazioni affidabili e risposte generate dall’intelligenza artificiale che sono speculative, parziali o errate. Poiché i sistemi di intelligenza artificiale continuano advert evolversi, garantire che queste tecnologie siano adatte alla sicurezza dei bambini diventerà sempre più importante.
I risultati evidenziano anche una sfida normativa più ampia
Sebbene molti paesi abbiano leggi progettate per proteggere la privateness on-line dei bambini, come il Youngsters’s On-line Privateness Safety Act (COPPA) negli Stati Uniti, queste normative sono state sviluppate prima dell’avvento dell’intelligenza artificiale generativa.
I gruppi di difesa sostengono che i regolatori potrebbero dover aggiornare gli normal di sicurezza e le linee guida per affrontare il modo in cui i sistemi di intelligenza artificiale interagiscono con i bambini attraverso i dispositivi connessi.
Il rapporto PIRG invita i produttori di giocattoli advert attuare garanzie più forti, tra cui un filtraggio dei contenuti più rigoroso, una divulgazione più chiara sull’uso dell’intelligenza artificiale e pratiche di dati più trasparenti. Raccomanda inoltre alle aziende di progettare sistemi di intelligenza artificiale specifici per i bambini anziché riproporre modelli originariamente realizzati per un pubblico adulto.
Guardando al futuro, i ricercatori affermano che sarà necessaria la collaborazione tra aziende tecnologiche, regolatori ed esperti di sicurezza childish per garantire che i giocattoli basati sull’intelligenza artificiale rimangano innovativi e sicuri.
Man mano che l’intelligenza artificiale diventa sempre più integrata nei prodotti di uso quotidiano, la sfida sarà quella di bilanciare i vantaggi della tecnologia interattiva con la responsabilità di proteggere gli utenti più giovani da potenziali rischi.
