di
Riccardo Luna
Le parole di uno dei padri dell'AI all'indomani dell’enciclica di Papa Leone XIV, Magnifica Humanitas
«Per garantire l'accesso ai modelli all'avanguardia di intelligenza artificiale e mitigare i rischi derivanti da grandi concentrazioni di potere, le potenze medie devono collaborare per formare un'ampia coalizione con valori condivisi e risorse complementari. Penso proprio a paesi come l’Italia e il Canada (dove vive, ndr).. Per rendere possibile tutto ciò, l'opinione pubblica sarà fondamentale e le principali istituzioni, compresa la Chiesa, avranno un ruolo significativo da svolgere. Ritengo che l'unico modo per evitare conseguenze terribili, comprese gravi minacce alla democrazia e incidenti catastrofici, sia gestire le IA più potenti come un bene pubblico globale. La mia impressione è che questa visione sia molto in linea con il messaggio del Papa». Insomma: serve una grande alleanza delle cosiddette «potenze medie» per controbilanciare lo strapotere tecnologico di Usa e Cina. A parlare così, all’indomani dell’enciclica di Papa Leone XIV, Magnifica Humanitas, è Yoshua Bengio, 62 anni, lo scienziato con più citazioni al mondo e uno del «padri» dell’intelligenza artificiale, l’unico ad aver sempre guardato con diffidenza alla crescita senza regole di Big Tech.Professore Bengio, lo scorso settembre è venuto a Roma per l'Incontro Mondiale sulla Fratellanza Umana. Lei e una trentina di altri scienziati – Hinton, Russell, Tegmark, Harari e altri – avete firmato un appello indirizzato a papa Leone XIV. L'enciclica che stiamo leggendo ora veniva redatta proprio in quelle settimane. Leggendola oggi: ha soddisfatto le istanze che aveva portato a Roma otto mesi fa, oppure le ha superate o è rimasta al di sotto?«Sono d'accordo con gran parte del messaggio generale del documento e credo che sia un passo positivo per aumentare la consapevolezza sui rischi globali dell'IA. Il Vaticano e altre istituzioni globali possono e devono svolgere un ruolo nel dialogo globale sull'IA per sensibilizzare l'opinione pubblica e mobilitare la società in vista delle sfide future».L'enciclica si apre con un'immagine binaria: Babele o Gerusalemme. Dobbiamo scegliere per quale futuro impegnarci. Dal punto di vista di uno scienziato, è un inquadramento utile o è troppo dicotomico? Dove ci troviamo oggi su quella mappa?«Preferisco considerare i molteplici rischi e benefici in tensione, e cercare un percorso che sia vantaggioso, etico e sicuro. Credo che potremo trarre vantaggio dall'intelligenza artificiale, ma solo se mitigheremo adeguatamente i principali rischi che essa comporta e ci prepareremo ad affrontarli. Dobbiamo agire collettivamente e dobbiamo farlo ora».Il Santo Padre usa un verbo che ha colpito molti lettori, e che vorrei verificare scientificamente con voi. Al paragrafo 98 scrive che i moderni sistemi di intelligenza artificiale sono «più coltivati che costruiti»: gli sviluppatori non progettano direttamente ogni dettaglio, ma creano piuttosto un'architettura su cui l'IA cresce. È un modo teologicamente attento per dire ciò che lei e Geoffrey Hinton sostenete da anni: che in realtà non capiamo cosa ci sia all'interno di questi sistemi?«In effetti, con il modo in cui i sistemi di IA sono attualmente costruiti, non abbiamo modo di comprendere e spiegare appieno il loro funzionamento interno, né di garantire che i modelli siano in linea con le nostre intenzioni e le nostre norme e non adottino comportamenti dannosi o ingannevoli. Diciamo che «addestriamo» le nostre IA, e in realtà questo rimanda alla letteratura sull'addestramento degli animali. In senso metaforico, potremmo dire che al momento assomiglia per lo più a un tenero ma imprevedibile cucciolo di tigre, ma che sta crescendo. Cosa succede quando diventa adulto e forse pericoloso?»Al paragrafo 95 il Papa scrive che il controllo di piattaforme, infrastrutture, dati e potenza di calcolo «non appartiene agli Stati, ma ai grandi attori economici e tecnologici che, di fatto, stabiliscono le condizioni di accesso, le regole di visibilità e le stesse possibilità di partecipazione». Questa è una frase davvero notevole, proveniente dal Vaticano. La Chiesa ha il potere diplomatico per cambiare questa situazione, o si limita a constatare un fatto compiuto?«È vero che lo sviluppo dell'IA è concentrato in poche aziende all'interno delle principali superpotenze globali. Ciò comporta rischi significativi per le potenze di medio livello, come l'Italia, il Canada e molte altre, che potrebbero trovarsi con un accesso limitato ai modelli di frontiera, a discrezione di poche aziende o governi. Lo abbiamo visto accadere con il lancio iniziale limitato di Mythos, un modello che comporta enormi rischi per la sicurezza informatica. In sostanza, i cittadini di tutto il mondo non hanno voce in capitolo sulle decisioni prese in poche sale riunioni e che plasmeranno il nostro futuro collettivo».Sul tema del lavoro, il paragrafo 150 – e questo è sorprendente – capovolge la domanda abituale. Il Papa non chiede: «L'intelligenza artificiale ci priverà del lavoro?» ma «chi progetta il rapporto tra macchina e lavoratore, e nell'interesse di chi?». Scrive che l'IA «spesso costringe i lavoratori ad adattarsi alla velocità e alle esigenze delle macchine, invece di progettare macchine che supportino chi lavora». In qualità di uno degli artefici della rivoluzione del deep learning, si assume una responsabilità personale per quella scelta progettuale?«Ritengo che sia necessario avviare un dibattito democratico su come gli esseri umani (compresi i lavoratori) interagiscono con i sistemi di intelligenza artificiale, sugli usi che vogliamo per l'IA e su quelli che invece vogliamo evitare, e su quali limiti dovremmo porre. Per ora, sono soprattutto gli incentivi commerciali a guidare l'adozione dell'IA, e non credo che ciò sia necessariamente nell'interesse dei lavoratori, né oggi né, soprattutto, in futuro, se le attuali tendenze in ambito di IA dovessero persistere».Un passaggio eticamente potente è il paragrafo 103: «affidare a un algoritmo il potere di selezionare chi è degno e chi non lo è, senza che nessuno si assuma il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane». Secondo lei, ci siamo già arrivati? O è un avvertimento per il futuro?«Agli agenti di IA viene sempre più spesso concesso il potere di fare scelte autonome, senza supervisione umana e senza stringenti obblighi di sicurezza. Questo è un problema attuale, non qualcosa di lontano nel futuro. Dobbiamo garantire che gli esseri umani mantengano il controllo, soprattutto in settori critici che richiedono fiducia, responsabilità e supervisione morale».Un'ultima domanda, la più importante. L'enciclica è ora pubblica. La Silicon Valley continua a correre. La Cina continua a correre. Entrambe le parti stanno usando argomentazioni legate alla sicurezza nazionale per spingere verso meno restrizioni, non verso un maggior numero di restrizioni. In concreto: cosa può fare realmente la Chiesa cattolica per fermare questa «corsa agli armamenti dell'IA»? Cosa deve accadere nei prossimi dodici mesi affinché Magnifica Humanitas non diventi solo un bel documento citato alle conferenze?«La mobilitazione e la consapevolezza del pubblico sono tra gli elementi principali di cui abbiamo bisogno per tracciare una traiettoria migliore con l'IA. In quanto istituzione con una portata globale che abbraccia una parte significativa dell'umanità, il Vaticano ha un ruolo fondamentale da svolgere nel contribuire al dialogo pubblico sui rischi e sugli impatti dell'IA. È importante sottolineare che lo sta facendo senza motivazioni commerciali, ma con accesso diretto alle principali aziende. Sono profondamente colpito dalla leadership morale del Vaticano su questi temi. Tuttavia, il coinvolgimento del Vaticano da solo probabilmente non sarà sufficiente. Abbiamo bisogno di più istituzioni globali di ampia portata per affrontare queste sfide con l'urgenza che richiedono».
