Perché proprio adesso? Con quali conseguenze sul fronte economico, politico e industriale? E chi e come potrebbe stabilire le (necessarie) nuove regole sull’IA, in una fase di indebolimento del multilateralismo? Sono solo alcuni degli interrogativi che nelle ultime ore stanno accompagnando l’appello con cui Dario Amodei, amministratore delegato di Anthropic, ha chiesto alle grandi società di intelligenza artificiale di rallentare la corsa verso i sistemi più potenti. L’allarme sui rischi dell’IA non è nuovo e neppure Amodei è alla prima denuncia. La novità è che, questa volta, a convergere sulla necessità di un rallentamento sono diversi protagonisti della stessa competizione: Sam Altman di OpenAI, Demis Hassabis, co-fondatore di Google DeepMind, e lo stesso Elon Musk con la sua società xAI.Proprio questa convergenza sta già alimentando il dubbio nella Silicon Valley e non solo che dietro la questione della sicurezza ci sia una partita più ampia. Non necessariamente un disegno comune, né un accordo tra alcuni protagonisti di Big Tech, ma una sovrapposizione di interessi: chi oggi chiede regole più severe potrebbe domani essere tra i soggetti meglio attrezzati per rispettarle e con maggiori possibilità di influenzare il dibattito. E gli standard di sicurezza, se diventassero molto costosi da applicare, potrebbero finire per consolidare il vantaggio di chi dispone già dei modelli, dei chip, dei data center e dei capitali necessari.David Sacks, consigliere di Donald Trump per l’IA, ha invitato a non fingere che la richiesta di rallentare sia «puramente altruistica». Aidan Gomez, ad della società di IA canadese Cohere, ha parlato di «un lupo travestito da pecora, un cartello con un altro nome», mentre Bill Gurley, tra gli investitori più ascoltati della Silicon Valley, è stato altrettanto netto: se si deve regolamentare, «non possono essere loro a scrivere le regole». Il rischio, denunciato dai critici, è che la sicurezza diventi anche una barriera all’ingresso per concorrenti più piccoli. Il tema non riguarda quindi soltanto la buona fede dei singoli protagonisti, ma la struttura di un mercato che tende alla concentrazione, oltre alla necessità secondo cui sia la politica a occuparsi di un fronte che riguarda tutti ma che è stato lasciato finora solo nelle mani delle aziende del settore.Anche la dimensione industriale aiuta a capire la posta in gioco. L’Agenzia internazionale dell’energia stima che i data center abbiano consumato circa 485 terawattora di elettricità nel 2025 e che il consumo possa quasi raddoppiare, arrivando a circa 950 terawattora nel 2030. I data center dedicati all’IA crescono a un ritmo ancora più rapido. Dietro i modelli generativi ci sono centrali elettriche, reti, semiconduttori, acqua per il raffreddamento, infrastrutture e investimenti giganteschi: la corsa all’IA è ormai anche una corsa industriale. E per gli Stati Uniti è diventata una componente della competizione strategica con la Cina, tanto che Donald Trump ha già respinto l’idea di un rallentamento: gli Stati Uniti, sostiene, devono mantenere la leadership perché «chi vince con l’IA vince tutto».Donald Trump (Ansa)Dentro questa tensione si colloca la proposta di Amodei. «Non vi mentirò: esistono pericoli reali. E credo che per troppo tempo l’industria abbia mentito alle persone sul fatto che questa tecnologia comportasse dei rischi», ha detto. Tra le minacce Amodei indica cyberattacchi, bioterrorismo e uso improprio delle tecnologie biologiche, perdita di controllo dei sistemi e conseguenze economiche profonde. La previsione più allarmante è che, senza adeguate misure di sicurezza, entro sei-dodici mesi sistemi autonomi coordinati possano arrivare a compromettere vaste parti di Internet. La proposta di Amodei è un rallentamento selettivo della frontiera più avanzata, accompagnato da tre livelli di controllo: valutatori indipendenti incorporati nei processi di sviluppo, coordinamento tra i Paesi democratici e infine un confronto internazionale più largo. Nel suo rapporto più recente Anthropic documenta casi di impiego dei propri modelli in operazioni cyber, campagne di influenza, sorveglianza, frodi e attività legate alla ricerca biologica. Non significa che l’IA abbia già assunto un’autonomia incontrollabile, ma che strumenti progettati per assistere le persone possono essere utilizzati anche per aumentare la capacità di chi vuole provocare un danno. E il dissenso non arriva più soltanto dall’esterno: oltre 1.100 dipendenti di aziende tecnologiche di primo piano hanno chiesto al governo americano di sostenere un’iniziativa internazionale per governare i rischi dell’IA.Le guerre in Ucraina, Gaza e Iran stanno diventando laboratori per droni, riconoscimento dei bersagli e sistemi di supporto alle decisioni: alcuni episodi hanno già mostrato quanto sia delicato affidare a sistemi automatizzati, anche solo in parte, decisioni nelle quali un errore può essere irreversibile. È il punto su cui insiste anche papa Leone XIV:, che nella Magnifica Humanitas ha ricordato che intelligenza umana, coscienza e libertà devono guidare l’innovazione tecnologica e stabilirne limiti e impieghi. Un anno fa il tema era già arrivato all’Assemblea generale dell’Onu: dieci premi Nobel e oltre 200 personalità firmarono un appello, chiedendo entro il 2026 un accordo internazionale capace di fissare «linee rosse» sugli usi più pericolosi dell’IA. A livello globale l’Ue ha fatto da apripista con limiti più stringenti sull’intelligenza artificiale con l’IA Act, applicando un approccio basato sul livello di rischio che i sistemi di IA possono causare alla sicurezza e ai diritti fondamentali delle persone. Per il resto, però, la regolamentazione è ancora frammentata.Resta poi la partita finanziaria. Gli investitori stanno iniziando a considerare un rischio finora rimasto sullo sfondo: che la crescita dell’IA possa incontrare limiti regolatori, energetici o di sicurezza proprio mentre le valutazioni delle aziende incorporano aspettative enormi. Mentre Altman annuncia che OpenAI non andrà in Borsa nel 2026, rinviando una decisione che avrebbe avuto un peso enorme sui mercati, l’ipotesi di una bolla è ormai parte della discussione sulla sostenibilità economica della corsa. Per questo l’appello di Amodei al rallentamento dell’IA non può essere letto soltanto come una disputa tra accelerazionisti e sostenitori della prudenza. La posta in gioco comprende la sicurezza dei sistemi, ma anche la distribuzione del potere economico, il controllo delle infrastrutture, la competizione tra Stati e la possibilità che le grandi società partecipino direttamente alla scrittura delle regole che dovranno arrivare a governarle.