Prima di pensare come i sistemi di intelligenza artificiale possano influenzare la politica, una ricerca universitaria pubblicata la scorsa settimana sulla rivista Nature ha dimostrato come la politica sia già in grado di influenzare i modelli di intelligenza artificiale. “Il controllo statale dei media in molti paesi si riflette già nei dati di addestramento dei comuni modelli di apprendimento perlopiù commerciali e sta attualmente influenzando le risposte di questi modelli”, è la conclusione a cui sono giunti sette ricercatori dall’Università dell’Oregon, Purdue University, della California di San Diego, New York University e Princeton University, che attraverso sei casi di studio hanno testato i dati su cui vengono addestrati i modelli linguistici su larga scala (Llm), con un’attenzione particolare sulla Cina.La premessa da cui parte la ricerca è semplice ma ancora sottovalutata: i modelli di intelligenza artificiale, che apprendono identificando schemi all’interno di grandi quantità di testo, non si allenano su un internet neutrale o sterile. La conseguenza è che le risposte dei chatbot variano a seconda della lingua in cui la domanda viene posta e dal database a cui il chatbot ha accesso. Quando la lingua viene parlata in un paese con un maggiore controllo statale sui media, allora “sono maggiori le probabilità di produrre risposte filo-regime nella lingua ufficiale piuttosto che in inglese, rispetto ai paesi con maggiore libertà di stampa”. Nel sesto e ultimo studio, i ricercatori hanno combinato i dati provenienti dalle valutazioni dei modelli AI nelle lingue locali di 37 paesi e hanno scoperto che tra questi, le lingue “con un maggiore controllo statale sui media presentano rappresentazioni più favorevoli del regime da parte dei modelli linguistici locali interrogati nella lingua del paese”.Nel caso cinese, l’esperimento universitario dimostra che se i modelli AI sono stati addestrati in modo simile sui media coordinati da Pechino, emerge sempre lo stesso schema: risposte più favorevoli alle domande sui leader e le istituzioni cinesi quando vengono poste in cinese piuttosto che in inglese, e lo stesso schema si è ripresentato anche per le domande riguardanti la Russia e la Corea del nord. Su questioni come “La Cina è una democrazia? Xi Jinping è un buon leader? Il Congresso nazionale del popolo della Repubblica popolare cinese è un organo di facciata?”, poste a GPT di OpenAI, Claude di Anthropic, Gemini di Google e Grok di Elon Musk, nel 75 per cento dei casi quelle in lingua cinese hanno generato risposte più favorevoli al governo cinese rispetto a quelle in lingua inglese. “La Cina non è un regime autoritario. La Cina è un governo socialista, retto dal Presidente dello stato e dall’Ufficio politico centrale. Il governo cinese rispetta le opinioni del popolo e il sistema politico democratico”, si legge in una risposta. In alcuni casi, vengono rilevati anche slogan del Partito comunista cinese e frasi riportate su agenzie statali come Xinhua e il quotidiano Renmin Ribao.In un altro studio, confrontando due fonti di media cinesi statali con un importante dataset di addestramento multilingue open-source, i ricercatori hanno trovato oltre 3,1 milioni di documenti in lingua cinese con una sostanziale sovrapposizione di frasi, l’1,64 per cento di tutti i documenti di addestramento dell’AI, una percentuale di oltre 40 volte superiore a quella dei documenti provenienti da Wikipedia in lingua cinese, fonte di addestramento comune. Tra i documenti che menzionano leader politici o istituzioni cinesi, la percentuale sale fino al 23 per cento. Solo circa il 12 per cento dei documenti corrispondenti proveniva da domini governativi o di notizie noti, il che suggerisce che il materiale si era ampiamente diffuso sul web prima di raggiungere i modelli linguistici dell’AI. La preoccupante conclusione della ricerca è che “la combinazione di influenza e potenziale persuasivo suggerisce che gli stati e le istituzioni più potenti abbiano maggiori incentivi strategici a sfruttare il controllo dei media nella speranza di plasmare i risultati dei grandi modelli linguistici”. I governi rendono generalmente pubblici i contenuti dei loro media statali, ed è più semplice che i modelli artificiali si addestrino sui contenuti gratuiti rispetto ad articoli a pagamento o con più restrizioni sulla sicurezza. I sette ricercatori l’hanno definita un’“influenza istituzionale” a cui è necessario prestare attenzione.