L’uso dell’intelligenza artificiale non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate a sistemi automatizzati che non conoscono la compassione, la misericordia, il perdono, l’apertura alla speranza di un cambiamento della persona». È in queste righe, al capitolo 102 su 245 (spalmati su 47 pagine fitte di testo) intitolato “Responsabilità e trasparenza”, il senso dell’enciclica “Magnifica Humanitas” presentata il 26 maggio da papa Leone XIV, 135 anni esatti dopo che il predecessore Leone XIII aveva con la “Rerum Novarum” avvertito sui rischi e le incognite della prima Rivoluzione industriale. «Anche qui siamo a una rivoluzione, e che rivoluzione, ed è quindi giusto, sano e comprensibile che la massima autorità religiosa della Terra esprima le sue valutazioni e le sue preoccupazioni. È difficile argomentare le conseguenze economiche dell’enciclica ma il fatto di aver fissato alcuni paletti essenziali sicuramente aiuterà gli sviluppatori nel misurare i loro effetti e probabilmente controllare la loro hybris», spiega Ferdinando Nelli Feroci, ambasciatore ed economista. Rileva invece Jeffrey Sachs in un discorso in ricordo di Alan Turing (considerato l’inventore dell’era digitale più di ottant’anni fa), «l’Ia tornerà a dividere i lavoratori e chi avrà conseguito un titolo di studio anche prestigioso perderà il suo ruolo tradizionalmente più rilevante». Ma soprattutto, Sachs – in linea con papa Prevost anche se con altre parole – osserva che «senza istituzioni internazionali in grado di coordinare lo sviluppo si creerà una élite di super-ricchi in possesso di un’arma che andrà oltre e molto peggio delle diseguaglianze già oggi così drammatiche».Il problema non è l’efficienza tecnica delle nuove macchine ma la loro gestione. La pensa così Stefano Lucchini, manager internazionale con un fitto curriculum tra Italia, Inghilterra e Stati Uniti, capo delle comunicazioni e affari istituzionali di Intesa Sanpaolo. «Magnifica Humanitas – ha commentato sul Sole 24 Ore – parla al mondo ecclesiale, ma non solo. Parla ai legislatori, ai regolatori, alle imprese tecnologiche, alle università, ai giudici, ai decisori pubblici. Dice loro che il problema dell’Ia non è soltanto scrivere buone regole, ma preservare lo spazio della responsabilità umana dentro sistemi sempre più autonomi. Dice che il controllo umano non può essere una formula rituale, ma deve diventare capacità effettiva di comprendere, interrompere, correggere, contestare, rispondere. Dice, soprattutto, che nessuna macchina potrà mai sostituire ciò che rende l’essere umano davvero umano: il corpo, la relazione, la cura, la coscienza, la responsabilità, la capacità di soffrire con l’altro».Pochi giorni prima dell’annuncio dell’enciclica (il Pontefice stesso ha specificato di aver finito di scriverla il 15, di aver cominciato a pensarci durante il ritiro estivo di Castel Gandolfo ma di avervi riversato «dieci anni di studi e ricerche»), papa Robert Francis Prevost aveva reso noti i nomi di alcuni dei suoi consulenti. Fra questi a sorpresa, uno dei protagonisti del nuovo “Moloch” industriale dell’Ia, Christopher Olah, ricercatore canadese di 34 anni, forte di esperienze in Google Brain e OpenAI, cofondatore (con i fratelli di origine italiana Chiara e Dario Amodei) nel 2021 a San Francisco di Anthropic, una delle società più avanzate di Ia. «L’unica, e chissà se è un caso – osserva Stefano Silvestri, il guru italiano della geopolitica, direttore editoriale di affarinternazionali.it – ad aver negato al capo del Pentagono, Pete Hegseth, che parlava ovviamente per conto di Donald Trump, l’accesso incondizionato delle proprie tecnologie predittive all’amministrazione. «Predittive è un termine riduttivo: significa che l’Ia può decidere autonomamente se e quando attaccare». È una cosa che purtroppo accade quotidianamente in tutte le guerre attuali, ma Anthropic si è tirata fuori almeno da quest’aspetto della partita. «Non che le faccia gran danno», ricorda Paul De Grauwe della London School of Economics: «Ha raddoppiato il fatturato del secondo trimestre rispetto a 10,9 miliardi, e ha chiuso un giro di finanziamenti (“funding round”) da 965 miliardi, sorpassando OpenAI in questa quotidiana gara supermiliardaria alla raccolta fondi più macroscopica». Olah è uno dei nomi più influenti nel campo dell’“interpretability”, la disciplina che cerca di capire cosa accade dentro i modelli di intelligenza artificiale quando producono un risultato. Tradotto: bisogna ben sapere quali conseguenze ha ogni azione dell’Ia. Sta di fatto che quando papa Prevost affiancato da una decina di collaboratori ha presentato l’enciclica, Olah era lì. E annuiva quando il Papa ha introdotto una delle parole più forti dell’enciclica: «Disarmare l’Ia non significa spegnerla, demonizzarla o ridurla a minaccia. Significa sottrarla alla logica della corsa alla potenza militare, economica, cognitiva, geopolitica. La competizione per l’algoritmo più performante, per la banca dati più vasta, per il modello più capace di orientare comportamenti e decisioni non è neutrale. Produce gerarchie, dipendenze, esclusioni. Può trasformare l’innovazione in dominio». Da questo momento, la governance dell’Ia non è solo una questione tecnica o economica ma antropologica, «diciamo onnicomprensiva», chiosa De Grauwe.