Dario Amodei lancia l'allarme sui rischi dell'auto-miglioramento degli algoritmi e propone un freno alla corsa tecnologica per evitare che sfugga al controllo umano
«Dobbiamo rallentare lo sviluppo dei modelli di intelligenza artificiale». La richiesta di tirare il freno a mano nella corsa tecnologica questa volta proviene da uno dei suoi massimi protagonisti: Dario Amodei, Ceo di Anthropic, la società sviluppatrice di Claude. Nel lungo intervento intitolato We Must Pace the Frontier («Dobbiamo sorvegliare la frontiera»), il manager ha inviato un messaggio chiaro all’intero settore tech, incassando a stretto giro il sostegno dei suoi principali concorrenti, Sam Altman ed Elon Musk, proprio mentre si infittiscono gli allarmi interni sui rischi sistemici per l’umanità.
September 12, 2026
Il pericolo dell’auto-miglioramento e il piano in tre punti
Amodei ha motivato il suo appello evidenziando come i progressi degli ultimi mesi siano diventati «drasticamente più rapidi», trainati da una dinamica nota come «auto-miglioramento ricorsivo», ovvero la capacità degli algoritmi di perfezionarsi in autonomia. «Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e pertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare», ha ammonito il fondatore di Anthropic. Per evitare derive incontrollabili, Amodei propone una strategia in tre pilastri: un monitoraggio indipendente sui modelli durante la fase di sviluppo, una regolamentazione a livello di settore e un quadro normativo su scala globale.
