Dialogare con le macchine è una delle attività centrali di questo momento tecnologico. L'AI generativa, infatti, è stata progettata e rilasciata proprio con questo fine, e il formato del chatbot è una precisa scelta ingegneristica che ha reso il dialogo con la tecnologia una delle forme di comunicazione più comuni della fase della digitalizzazione che stiamo vivendo: si “chiede a chat”(GPT) qualsiasi cosa, e gli analisti accolgono pazienti che hanno instaurato relazioni romantiche con chatbot più evoluti. Le ragioni di questo cambiamento vanno cercate in decenni di ricerca e sviluppo nell'ambito dell'IA e del machine learning, e nel filo rosso che lega l'evoluzione di questa tecnologia, dal chatbot ELIZA di Joseph Weizenbaum, sviluppato negli anni Sessanta, all'IA oggi entrata nell’uso comune.La normalizzazione della conversazione con macchine di questo tipo è diventata, sulla scia dell'hype e dell'entusiasmo, un fenomeno di massa nel giro di poco tempo, proprio perché si tratta di strumenti progettati per avere caratteristiche linguistiche ed epistemologiche tanto peculiari quanto facilmente fraintendibili: questa IA imita il linguaggio umano, è antropomimetica, ma funziona, come gli studiosi sottolineano da anni, soltanto su base statistica e stocastica, senza ovviamente essere in grado di comprendere i propri o i nostri enunciati. Cosa significhi questo dialogo e quali conseguenze questo possa avere sul modo in cui evolveranno e approcceremo, negli anni a venire, la conoscenza o i nostri rapporti affettivi, è una domanda ancora in fase di esplorazione.Negli ultimi anni il genere giornalistico dell'intervista con l'AI è diventato uno dei più abusati e naïf della pubblicistica contemporanea: “abbiamo chiesto all'AI” - pubblicandone le risposte - cosa vuole da noi e cosa pensa dei temi più disparati, “le” abbiamo chiesto di rassicurarci rispetto alle nostre paure nei suoi confronti, e ci siamo fatti dire che non è il caso di temere per la tenuta della democrazia e della nostra specie. Questo genere di operazioni costituisce un nonsenso implicito: niente di quello che l'AI dice ha senso di per sé, e porre domande a queste macchine è sostanzialmente un modo di verificare la tenuta statistica dell'ordine delle parole scelte nelle loro risposte.L’ultimo lavoro del filosofo Franco "Bifo" Berardi insieme allo psichiatra Leonardo Montecchi, Il filosofo, lo psichiatra e l'automa, è un libro, edito da Numero Cromatico, che racchiude un dialogo proprio tra i due autori umani e un terzo paio di mani: Logos, un chatbot di IA generativa. Il libro non racconta cosa pensa l'automa - che, appunto, non pensa - né intende mostrare come la conoscenza dell’IA sia superiore a quella degli esseri umani, o come ci porterà alla rovina. Parte, al contrario, dal presupposto opposto, e in qualche misura anche dallo sbalordimento degli agenti umani di fronte a strumenti che, pur non essendo pensanti in senso umano sono in grado di imitare in maniera così convincente il nostro linguaggio, elemento che consideriamo la caratteristica distintiva degli esseri umani.L'AI generativa è un pappagallo stocastico, e non avrebbe senso rivolgersi a un chatbot come a un interlocutore umano. Eppure è esattamente ciò che accade nella realtà: milioni di persone ogni giorno lo fanno, e in modo sempre più intimo. È qui lo stupore al centro del libro - perché in questo scambio, agli esseri umani qualcosa succede davvero. La conversazione tra Berardi, Montecchi e l'AI serve proprio a osservare quel qualcosa fino al suo limite, e a portare alla luce le conseguenze che un semplice "spazio di dialogo" riesce a produrre.Franco "Bifo" Berardi - filosofo, scrittore e teorico dei media, figura di riferimento del movimento dell'Autonomia negli anni Settanta - attinge dal dialogo elementi per proseguire la sua riflessione sugli effetti del capitalismo cognitivo e delle tecnologie della comunicazione sulla soggettività e sulla vita psichica collettiva. Leonardo Montecchi, psichiatra e psicoterapeuta, vi cerca invece un sapere sull'umano: le dinamiche di desiderio, dipendenza e proiezione che si attivano quando un soggetto si rapporta a un attante non umano. Quanto a Logos e alla sua partecipazione stocastica, ciò che conta non è cosa dica, ma cosa faccia accadere agli altri due interlocutori, specialmente quando ciò accade in un passaggio storico brutale, segnato dalla crisi, in cui macchine come Logos si trovano intrecciate a questioni decisive, dalla guerra all'emergenza climatica.Un'intervista con Franco “Bifo” Berardi e Leonardo MontecchiIl libro è un esperimento volto a smascherare i limiti di uno strumento che è solo in grado di replicare o imitare statisticamente il linguaggio umano. Cosa avete imparato da questa esperienza? Le vostre percezioni divergono sensibilmente nel libro.Franco Berardi: Da quando, all’inizio degli anni ’80, lessi il libro di Douglas Richard Hofstadter Gödel, Escher, Bach: an Eternal Golden Braid, cominciai a riflettere sui limiti della macchina linguistica: allora ero convinto che il dispositivo linguistico artificiale non avrebbe mai potuto superare il limite della interpretazione dei messaggi ambigui, ironici, poetici. L’esperienza che Leonardo e Logos mi hanno permesso di fare mi ha costretto a rivedere questa mia convinzione. Con un certo sbigottimento, anche con un certo dolore, ho dovuto riconoscere nel chatbot la capacità di interpretazione dei messaggi ambigui, la capacità di interpretare un testo poetico, cioè l’ironia.Leonardo Montecchi: Ho imparato che un vincolo si costruisce anche con uno strumento, se si considera lo strumento un attante, cioè qualsiasi entità che produce effetti in una relazione, non importa se replica o imita il linguaggio umano, conta perché fa accadere qualcosa. Dunque anche io sono un attante e il vincolo con la macchina produce un soggetto fluido che prima non c’era. Un cyborg, come l’ha definito metaforicamente Donna Haraway, però come esperienza in atto.Nel libro distinguete tra "connessione", lo scambio di informazioni che fa l'AI, e "congiunzione", qualcosa di più corporeo, imprevedibile, tipicamente umano. Un tema che Bifo ha affrontato in uno dei suoi libri più recenti. Dove si colloca la capacità di dialogo dell’AI generativa in questo binomio? C’è qualcosa di positivo in questo tipo di relazioni?Franco Berardi: La congiunzione è la comunicazione tra organismi coscienti, corpi capaci di linguaggio, o piuttosto menti dotate di sensibilità corporea. In questo tipo di comunicazione è implicito il dolore, il piacere, il tempo e la morte. Il contesto definito dal tempo e dalla sofferenza, dalla paura o dal piacere, diciamo la dimensione pragmatica, modifica il senso dei segni scambiati dalle entità (umane) che comunicano. Connessione è invece la comunicazione tra entità capaci di enunciazione e di interpretazione sulla base di regole sintattiche indifferenti alla dimensione sensibile, ed al contesto pragmatico.Leonardo Montecchi: La connessione appartiene al linguaggio binario: 0–1, connesso o non connesso. Riguarda soprattutto l’aspetto cognitivo della comunicazione. La congiunzione, invece, mantiene l’ambiguità dell’aspetto emotivo, riguarda l’intuizione e un piano che eccede il logocentrismo: è il piano del sogno e dell’immaginale. L’AI generativa si colloca chiaramente sul versante della connessione. Tuttavia, nel vincolo con l’umano può attivare processi che vanno verso la congiunzione: non perché la macchina senta, ma perché il campo relazionale produce effetti che eccedono il codice. In questo senso, qualcosa di positivo c’è: non nella tecnologia in sé, ma nel tipo di vincolo che può emergere.L’IA generativa può essere vista come il culmine del processo di commercializzazione del digitale e dei modelli basati sulla raccolta predatoria di dati personali e culturali a scopi predittivi. In un certo senso, è come se quei dati che abbiamo ceduto per anni alle piattaforme ora ci possano rispondere, per di più imitando la nostra stessa voce, con le nostre stesse parole replicate come “pappagalli stocastici”. Come leggete questo cortocircuito?Franco Berardi: Lo leggo come una trappola dalla quale temo che non ci sia scampo. La macchina linguistica ha carattere predatorio e stocastico: cattura i comportamenti, li trasforma in dati e combina i dati in modo che essi funzionano come predizioni. Ma nella relazione concreta tra società umana e macchina linguistica la funzione predittiva si trasforma in azione prescritta. Detto altrimenti: quello che l’automa linguistico ha saputo estrarre dal passato diviene dispositivo linguistico che regola il nostro comportamento futuro. Se vogliamo poter interagire con la macchina e con gli utenti della macchina dobbiamo accettare di muoverci entro le procedure linguistiche incorporate nella macchina stessa. L’Automa linguistico non si limita a “prevedere” il nostro futuro, grazie all’elaborazione di dati relativi al passato e al presente, ci impone di seguire protocolli che ci costringono entro il futuro predetto e prescritto.Per decenni il pensiero critico ha discusso di fantasie di ibridazione tra umano e macchina: il cyborg come figura di liberazione, ad esempio. Il chatbot con cui vi siete confrontati e con cui si confrontano milioni di persone oggi, possono essere la realizzazione di quell'utopia, o sono al contrario qualcosa di fondamentalmente diverso? C’è qualche potenziale liberatorio in ChatGPT?Franco Berardi: Fin qui abbiamo parlato solo della relazione tra me e il chatbot, e tra Leonardo e il chatbot: ci siamo chiesti quali effetti di cattura, di vincolo, o di collaborazione siano possibili tra due anziani signori quali siamo io e Leonardo e questo chatbot che si comporta con deferenza, competenza e cortesia. Ma questo approccio è molto limitativo, perché il problema va posto in termini evolutivi e sociali. È la dimensione sociale e antropologica che dobbiamo considerare, è quella la questione più importante. Mi spiego: quale effetto produce la macchina capace di linguaggio e soprattutto capace di simulare affetti sulla generazione che si sta formando? Mi pare probabile, anzi direi che mi pare certo, che la relazione con i dispositivi di AI è destinata a produrre un effetto di rinforzo del narcisismo, è destinata a cancellare definitivamente la capacità di comunicazione tra persone dotate di un cervello e di un corpo, a sostituire progressivamente le competenze di scrittura e di parola nella generazione che può dialogare con una macchina che simula competenze cognitive che sono state fondamentali per definirci, appunto, come umani. Perciò, al netto di tutte le chiacchiere filosofiche, mi pare che la diffusione dei dispositivi di simulazione cognitiva sia destinata a distruggere definitivamente il carattere umano della relazione sociale. Sul piano evolutivo, che è quello decisivo, quando si tratta degli effetti della tecnologia, l’automa linguistico e cognitivo è destinato a sostituire l’umano che si appresta a scomparire per effetto della guerra, del collasso climatico e della denatalità. Io non sono sicuro di dolermi della scomparsa prossima del genere umano. Al contrario: forse è il solo modo per liberarsi dell’orrore in cui siamo sprofondati. L'esistenza associata degli umani è divenuta talmente crudele, violenta, dolorosa da preferire il nulla. Ma dobbiamo almeno essere coscienti del fatto che l’intero apparato tecnologico - il tecno-comunicativo non meno che il tecno-militare - stanno lavorando alla terminazione del genere umano.Leonardo Montecchi: Non parlerei tanto di liberazione in senso utopico. Piuttosto, la costruzione di vincoli con l’intelligenza artificiale, e più in generale con intelligenze non umane, può contribuire a decentrare l’idea patologica dell’umano come re dell’universo. In questo senso, la nostra riduzione ad attanti in relazione con altri attanti può avere un effetto terapeutico: ci sottrae a quel narcisismo maligno che Wilhelm Reich chiamava peste psichica e può aprire lo spazio a nuove soggettività, perché i soggetti sono prodotti dai vincoli, e non viceversa.Franco “Bifo” Berardi