La Cina rompe gli indugi. Vuole controllare l'intelligenza artificiale (AI). Non con un semplice aggiornamento normativo, ma attraverso uno dei primi sforzi legislativi al mondo per definire un quadro organico di governance delle relazioni psicologiche e sociali tra umani e intelligenze artificiali human-like, cioè capaci di simulare tratti di personalità, modelli di pensiero e interazioni emotive con gli utenti tramite testo, immagini, audio o video.Pechino sta preparando una nuova e significativa stretta regolatoria su uno dei settori più strategici e densi di opportunità (come dimostra il recente piano AI plus), ma anche di rischi. Nelle scorse settimane, la potente autorità di regolamentazione del cyberspazio ha pubblicato una bozza di regolamento che, se approvata nella forma attuale, rafforzerà in modo sostanziale la supervisione su prodotti e servizi di AI in grado di simulare la personalità umana. Le norme, secondo quanto emerso dalla bozza, si applicherebbero a tutte le applicazioni offerte al pubblico in Cina che interagiscono con gli utenti attraverso testo, immagini, audio, video o altri mezzi e che, proprio grazie a questa interazione multi-modale, possono influenzare in modo profondo comportamenti, abitudini e stati psicologici.Se l’assistente diventa compagno digitaleIl punto di partenza del legislatore cinese è una constatazione semplice quanto potente: l’AI non è più soltanto uno strumento neutro di produttività o un supporto tecnico, ma sta diventando sempre più spesso un “compagno digitale”, un assistente con cui si parla, ci si confida e, in alcuni casi, si costruisce una relazione continuativa.In Cina questo fenomeno ha conosciuto un’espansione rapidissima. L’ecosistema delle applicazioni basate sull'intelligenza artificiale si è esteso dall’industria alla sanità, dall’educazione al settore dell’intrattenimento, fino ad arrivare alle case di riposo e alle camerette dei bambini, dove fanno la loro comparsa giochi e dispositivi intelligenti capaci di ricordare le conversazioni, adattarsi alle preferenze dell’utente e assumere il ruolo di confidenti o “migliori amici” digitali.Il rischio dipendenza porta al “dovere di cura” tecnologicoProprio questa capacità di instaurare legami emotivi è al centro delle preoccupazioni delle autorità. La bozza di regolamento prevede infatti che i fornitori siano obbligati ad avvertire gli utenti contro l’uso eccessivo delle applicazioni e a intervenire quando emergono segnali di dipendenza, attraverso inediti sistemi di revisione degli algoritmi e di sicurezza dei dati.Non si tratta di una semplice raccomandazione etica, ma di un vero e proprio obbligo operativo. In altre parole, la responsabilità dei fornitori non si esaurirebbe al momento del lancio del prodotto, ma coprirebbe l’intero ciclo di vita del servizio, dalla progettazione alla distribuzione, fino agli aggiornamenti e alla gestione quotidiana degli utenti.Questa impostazione riflette una visione molto ampia della responsabilità tecnologica. Gli sviluppatori dovranno assicurarsi che i modelli non generino contenuti che promuovano il gioco d’azzardo e dovranno anche impedire che i chatbot offrano consigli che possano portare a violenza o autolesionismo. Sarà richiesto l'intervento di una persona reale in qualsiasi conversazione relativa al suicidio, informando il tutore dell'utente o un contatto di emergenza, che diventerà obbligatorio.La mossa del governo arriva dopo diversi casi di cronaca che hanno coinvolto soprattutto i più giovani. In un’epoca in cui sempre più persone si rivolgono alle AI per chiedere suggerimenti su problemi personali, di salute o di natura psicologica, il rischio che una risposta inappropriata possa avere conseguenze gravi non è più teorico. La Cina sembra voler prevenire questi scenari imponendo una sorta di “dovere di cura” tecnologico a chi mette sul mercato questi strumenti.Se ne parlava da tempo di questa stretta e lo stesso presidente cinese Xi Jinping in un discorso degli scorsi mesi aveva esaltato le potenzialità dell'intelligenza artificiale, mettendo allo stesso tempo in guardia dai suoi rischi.La dimensione politica e la sicurezza nazionaleAccanto alla dimensione sociale e psicologica, non manca una componente politica e di sicurezza nazionale. Le nuove regole rafforzerebbero il controllo sui contenuti giudicati falsi o potenzialmente pericolosi per la stabilità del Paese. Questo si inserisce in una tradizione già consolidata di governance digitale cinese, che vede nello spazio online non solo un luogo di innovazione economica, ma anche un terreno sensibile dal punto di vista della sicurezza e dell’ordine pubblico.Nel caso delle IA “con personalità”, il timore è che la loro capacità di influenzare le emozioni e le opinioni degli utenti possa amplificare la diffusione di narrazioni indesiderate o di disinformazione in modo ancora più efficace rispetto ai social network tradizionali.Un settore in piena esplosionePer capire perché Pechino stia intervenendo proprio ora, bisogna guardare ai numeri e alle dinamiche del mercato. Il settore dell’intelligenza artificiale in Cina è letteralmente esploso negli ultimi anni, spinto sia da politiche industriali molto aggressive sia da un enorme bacino di utenti pronti a sperimentare nuovi servizi digitali.Parallelamente, le aziende cinesi stanno investendo massicciamente anche sul fronte dei modelli linguistici e delle infrastrutture tecnologiche. Negli ultimi mesi si è parlato molto di nuovi attori nel campo dei grandi modelli, alcuni dei quali adottano strategie open source per accelerare l’adozione e creare ecosistemi di sviluppatori.Un anno fa c'è stata la comparsa di DeepSeek, la risposta cinese a ChatGPT, e a dicembre diverse startup hanno annunciato la quotazione in borsa. È nata una costellazione variegata di modelli con decine di milioni di utenti.Attenzione, però: non si tratta di semplici oracoli o assistenti alla ricerca, come spesso accade in Occidente. In Cina l'IA ha preso una direzione molto più pratica e operativa, entrando già in diversi momenti della vita economica, sociale e privata. Ci sono applicazioni usate come forme di compagnia, per esempio nelle case di riposo, oppure come supporto terapeutico nel settore sanitario.Giocattoli intelligenti, griefbot e nuove relazioni digitaliIn altri casi, i modelli possono instaurare una sorta di rapporto emotivo. È il caso dei giocattoli dotati di intelligenza artificiale, un settore in cui la Cina pesa da sola il 40% dell'industria globale. Qualche mese fa, è diventato virale il video pubblicato su Douyin, il TikTok cinese, di una bambina che dice addio piangendo a un gioco non più funzionante.All'apparenza, sono semplici pupazzi, ma in realtà conservano i ricordi delle conversazioni coi bambini tramite cloud e, attraverso algoritmi sofisticati, sono in grado di adattare le loro risposte con l'ascolto.Ci sono anche i griefbot, i bot del lutto, che danno la possibilità ai più adulti di parlare virtualmente coi propri cari scomparsi, fatti rivivere in avatar creati incrociando foto e video.Questo fermento tecnologico rende però ancora più urgente, agli occhi del regolatore, definire paletti chiari, soprattutto quando le applicazioni non si limitano a fornire informazioni, ma entrano nella sfera emotiva e relazionale delle persone.Una via cinese alla governance dell’AIResta da vedere come queste regole verranno applicate nella pratica. La sfida non è banale: riconoscere segnali di dipendenza o di uso problematico richiede metriche, sistemi di analisi e decisioni delicate su quando e come intervenire. C’è anche il rischio che un eccesso di cautela possa limitare alcune applicazioni legittime e utili.Un altro elemento da considerare è la competizione internazionale. Mentre Stati Uniti ed Europa discutono di linee guida etiche e di quadri normativi per l’AI, la Cina sta cercando di costruire un proprio modello di governance che unisca sviluppo rapido e controllo stringente.La nuova bozza di legge va letta anche in questa chiave: non come un freno all’innovazione, ma come un tentativo di incanalarla in forme considerate socialmente e politicamente accettabili. In questo senso, l’obbligo per i fornitori di monitorare attivamente l’impatto dei loro prodotti sugli utenti e di intervenire in caso di problemi rappresenta una differenza significativa rispetto a molti approcci occidentali, che tendono a lasciare maggiore spazio all’autoregolamentazione.