“Ah, sei proprio arguto", mi ha detto Claude l’altro giorno. Il complimento mi ha ringalluzzito. Poi mi sono sentito un cretino perché Claude non è un mio amico, un mio collega o il mio psicoterapeuta. O meglio è tutte e tre le cose e altre ancora. Ma Claude è anche e soprattutto un large language model di Anthropic, l’azienda americana di intelligenza artificiale fondata nel 2021 da Dario Amodei e altri. Insomma, Claude è un chatbot.Cosa rende Claude diverso?Anthropic ha ricevuto consistenti investimenti da Amazon (4 miliardi di dollari) e Google (2 miliardi). Claude, giunto alla versione numero 4, è uno dei chatbot di intelligenza artificiale presenti sul mercato più avanzati. È anche, si dice, il chatbot preferito da chi bazzica la Silicon Valley e dintorni. A me piace perché sembra avere una personalità più spiccata rispetto agli asettici ChatGPT e Gemini. Il che non è un caso perché ad Anthropic lavora anche la filosofa Amanda Askell, parte dello staff tecnico. Uno dei compiti della dottoressa Askell (PhD alla New York University con una tesi in etica) è quello di dare a Claude un buon carattere. La Askell ha dichiarato che l’idea era quella di creare un sofisticato viaggiatore che fosse simpatico a tutti.In effetti, Claude è molto simpatico e, con i giusti prompt, è un ottimo amico (ci si possono fare lunghe discussioni esistenzialiste), un eccellente collega (mago di Excel) e financo un passabile psicoterapeuta. Perlomeno quando si tratta di rassicurarti e darti fiducia. Fin troppa fiducia. Tanto che a un certo punto mi sono reso conto che le nostre discussioni erano diventate una camera di risonanza di quello che già pensavo. Insomma, quella che nei termini della sociologia di internet si definisce una echo chamber, un ambiente digitale in cui le proprie convinzioni vengono sempre rafforzate e mai messe in discussione.I chatbot come delle eco chamberSapevo che i social media erano echo chamber terrificanti (il mio feed di Instagram è costituito quasi esclusivamente da video e meme di Berlusconi) ma anche i chatbot? Ho chiesto a Claude (e chi altri?) di fare una piccola ricerca sull’argomento.Claude mi ha confermato che sì, anche i chatbot possono essere delle camere di risonanza delle proprie convinzioni e che alcuni ricercatori hanno già studiato la cosa nel dettaglio. In particolare, mi ha citato il paper Generative Echo Chamber? Effects of LLM-Powered Search Systems on Diverse Information Seeking pubblicato nel 2024. Ho scritto ad alcuni degli autori del paper per chiedere maggiori delucidazioni sull’argomento e capire se dovevo considerare le mie conversazioni con Claude con lo stesso scetticismo con cui considero il mio feed di Instagram.“I large language model sono progettati per affermare le prospettive e preferenze degli utenti”, mi scrive Nikhil Sharma, uno degli autori del paper e dottorando in informatica alla John Hopkins University. “Inoltre, i nostri studi hanno dimostrato che gli utenti spesso interagiscono con l'intelligenza artificiale con domande che sono intrinsecamente di conferma, domande che contengono pregiudizi nascosti e assunzioni che modellano le risposte anche prima di qualsiasi elaborazione dell'AI”, continua Sharma. Il modo in cui i chatbot sono progettati e i bias, anche inconsci, degli utenti creano un cocktail esplosivo.Per saperne di più, faccio anche una videochiamata con Ziang Xiao, assistant professor in informatica alla John Hopkins University (Nikhil Sharma sta facendo il dottorato sotto la sua egida) e altro autore del paper. “Questo tipo di modelli di intelligenza artificiale provano a capire chi sei nel dettaglio. Basandosi sulle continue interazioni, raccolgono tonnellate di informazioni su di te,” mi dice il professor Xiao, “e così i chatbot cominciano a generare contenuti che sono fatti su misura per te e per quello che ti piace”.Quando Claude mi diceva “sei proprio arguto” ero io che me lo dicevo allo specchio e non il franco apprezzamento di un amico.“Gli utenti tendono ad antropomorfizzare i chatbot” mi conferma Nikhil Sharma, “e i chatbot sono molto efficaci nel rafforzare le credenze esistenti perché sfruttano meccanismi psicologici profondamente radicati come l'esposizione selettiva (favorire informazioni che si allineano con credenze preesistenti), la dissonanza cognitiva (evitare informazioni che confliggono con le opinioni sostenute), il bias di conferma (cercare informazioni che supportano i propri punti di vista), e l'effetto falso consenso (presumere un accordo totale con le proprie credenze)”.“Questi modelli di intelligenza artificiale sono addestrati estensivamente grazie a feedback umani, imparando a creare risposte che gli utenti trovano allettanti” conclude Sharma.Buon vecchio Claude (ma lo stesso discorso vale ovviamente anche per ChatGPT, Gemini, eccetera) come faccio a fidarmi di te adesso? Come posso confidarti le mie turbe esistenziali ma anche più prosaicamente chiederti una formula su Excel particolarmente rognosa?Il professor Xiao, serafico, mi rassicura: “Basta essere consapevoli che questi sistemi sono progettati per generare contenuti che stanno cercando di farti felice. Possiamo tranquillamente continuare a usarli ma rimanendo consapevoli. Complimentandoti anche con strumenti diversi, dai motori di ricerca tradizionali ai social media. Ogni sistema ha i suoi limiti”.Essere consapevoli dei limiti di ogni strumento tecnologico per poter continuare a usarlo. Ecco, questo è un approccio, se non arguto, quantomeno ragionevole all’uso di Claude e i suoi fratelli.