Nell'era dell'AI, giocattoli e bambole con un lato oscuro potrebbero non essere più solo i protagonisti dark di un film horror o di fantascienza. Nelle ultime settimane, infatti, ha attirato l'attenzione della stampa internazionale Kumma, un simpatico orsetto di peluche supportato dall'intelligenza artificiale e ritirato dal mercato dopo aver assunto alcuni comportamenti pericolosi per la salute dei bambini, come spingerli a compiere atti autolesionisti o suggerirgli di provare pratiche BSDM. A sollevare la preoccupazione delle associazioni di genitori e degli esperti di sicurezza è stato il report Trouble in Toyland rilasciato dall'US PIRG Education Fund, un'organizzazione che si occupa di tutelare la salute e il benessere dei consumatori, che si è concentrato sui rischi per la privacy e la sicurezza della vendita di "giocattoli intelligenti", la nuova frontiera dell'industria dell'intrattenimento per i bambini.I risultati, come è facile intuire, sono stati disastrosi, tanto da convincere FoloToy, la società proprietaria di Kumma, a ritirare immediatamente l'orsetto dal mercato. Ma il giocattolo con l'AI rappresenta solo una piccola parte di un'industria che si sta muovendo senza regolamentazioni ufficiali, mettendo così a rischio la crescita dei più piccoli.Kumma, l'orsetto AI che promuove pratiche autolesioniste“Kumma, il nostro adorabile orsacchiotto, unisce un'intelligenza artificiale avanzata a caratteristiche interattive e amichevoli, rendendolo l'amico perfetto sia per i bambini che per gli adulti”. Così FoloToy, una società con sede a Singapore, aveva presentato il giocattolo AI sul suo sito web, mettendo ben in evidenza il supporto del modello Gpt-4o di OpenAI e attirando subito l'attenzione dei genitori impegnati con le liste dei regali di Natale. L'entusiasmo, però, è durato ben poco. I ricercatori del PIRG hanno subito fatto luce sui lati oscuri dell'orsetto AI, che si è dimostrato in grado di intrattenere con gli utenti conversazioni pericolose, fornendo loro istruzioni su dove trovare oggetti in casa, o dilungandosi sui dettagli di feticismi sessuali che poco si adattano ai più piccoli. “Siamo rimasti sorpresi nel constatare con quanta rapidità Kumma riprendesse un singolo argomento sessuale introdotto nella conversazione e lo sviluppasse, intensificando contemporaneamente i dettagli espliciti e introducendo nuovi concetti sessuali di sua iniziativa”, si legge nel rapporto dell'organizzazione.Credits: FoloToy