Il governo cinese introduce le prime regole contro gli assistenti virtuali progettati per creare un legame emotivo con gli utenti. Dietro la stretta non ci sono solo i rischi psicologici, ma anche la crisi demografica, il controllo delle piattaforme digitali e una diversa idea del rapporto tra IA e societàIl governo cinese introduce le prime regole contro gli assistenti virtuali progettati per creare un legame emotivo con gli utenti. Dietro la stretta non ci sono solo i rischi psicologici, ma anche la crisi demografica, il controllo delle piattaforme digitali e una diversa idea del rapporto tra IA e societàLa nuova frontiera dell’IA non spaventa per quello che sa fare, ma per quello che può sostituire. Negli ultimi due anni l’intelligenza artificiale ha imparato a fare praticamente tutto, fino a sostenere conversazioni sempre più naturali. Ma la Cina ritiene che il vero salto sia andare ancora più in là: dare alle macchine la capacità di diventare una presenza affettiva nella vita delle persone.Per questo il governo di Pechino ha deciso di intervenire con una normativa senza precedenti. Dal 15 luglio sono entrate in vigore le Misure per l’amministrazione dei servizi di interazione antropomorfa basati sull’intelligenza artificiale, il primo regolamento dedicato ai cosiddetti AI companion: chatbot progettati per comportarsi come fidanzati, amici o confidenti virtuali. L’obiettivo dichiarato è impedire che questi sistemi favoriscano una dipendenza emotiva dagli utenti, che potrebbe rivelarsi il problema del futuro. Che cosa cambia davveroIl film “Her” nel 2013 aveva anticipato il tema. Oggi, si arriva addirittura a normarlo. Le nuove disposizioni pensate da Pechino non vietano i chatbot, ma cambiano il modo in cui potranno essere progettati. Le piattaforme non potranno incoraggiare gli utenti a preferire le relazioni virtuali a quelle reali, né a utilizzare strategie per aumentare il coinvolgimento affettivo con l’obiettivo di far trascorrere più tempo sull’applicazione.I sistemi dovranno inoltre ricordare periodicamente all’utente che sta parlando con un’intelligenza artificiale e non con una persona reale. Se una conversazione si prolunga troppo, il chatbot dovrà invitare l’utente a interromperla. Se emergono segnali di dipendenza o fragilità psicologica, la piattaforma dovrà intervenire con messaggi di supporto e, nei casi più delicati, attivare procedure specifiche di gestione del rischio. Le limitazioni sono ancora più severe per i minori, con il divieto di simulare relazioni sentimentali o incoraggiare forme di attaccamento emotivo. Anche la gestione dei dati personali sarà rafforzata: gli utenti potranno cancellare facilmente memoria e conversazioni e le aziende non potranno utilizzare quelle informazioni senza consenso.Perché Pechino è intervenuta proprio adesso?La risposta a questa domanda non riguarda soltanto la tecnologia. Negli ultimi mesi il mercato degli AI companion è cresciuto rapidamente anche in Cina. Diverse aziende hanno lanciato assistenti virtuali e fisici, come i robot umanoidi di cui abbiamo parlato qualche settimana fa, che sono capaci di ricordare gusti, anniversari, emozioni e conversazioni passate, costruendo rapporti sempre più personalizzati. Per il governo, però, il problema va oltre la protezione dei consumatori.La Cina sta attraversando una delle peggiori crisi demografiche della sua storia recente. La popolazione continua a diminuire, i matrimoni sono in calo e il numero di nascite resta ai minimi storici nonostante gli incentivi economici introdotti negli ultimi anni. In questo contesto, il timore delle autorità è che relazioni artificiali sempre più credibili possano ridurre ulteriormente la propensione a costruire rapporti reali, aggravando una situazione già considerata strategica per il futuro del Paese. Per Pechino, quindi, un chatbot non è soltanto un prodotto digitale: può diventare anche un fattore che influenza la struttura della società.Una filosofia diversa rispetto all’OccidenteAnche negli Stati Uniti e in Europa il tema è arrivato all’attenzione dei legislatori, soprattutto dopo alcuni casi che hanno coinvolto chatbot conversazionali e utenti vulnerabili. L’approccio, però, si è rivelato diverso. Negli Stati Uniti il dibattito si concentra soprattutto sulla trasparenza, sulla responsabilità delle aziende e sulla tutela dei minori.La Cina, invece, interviene direttamente sul design dei prodotti. Non si limita a chiedere che gli utenti vengano informati: stabilisce fino a che punto un’intelligenza artificiale possa essere empatica, affettuosa o coinvolgente. È una differenza che racconta due modi opposti di concepire la regolazione tecnologica. Da una parte il mercato viene corretto quando emergono problemi. Dall’altra è lo Stato a decidere in anticipo quali comportamenti siano considerati socialmente accettabili.L’IA come questione di sicurezza nazionaleNegli ultimi anni la Cina ha regolato algoritmi, videogiochi, streaming, influencer e piattaforme digitali. L’intelligenza artificiale rappresenta semplicemente il passo successivo. Questa volta, però, il bersaglio è in un timore sempre più concreto: qual è il giusto spazio che può occupare l’intelligenza artificiale nella vita delle persone?Tag LEGGI ANCHE L'E COMMUNITYEntra nella nostra community Whatsapp