L’intelligenza artificiale corre troppo velocemente e i sistemi di sicurezza rischiano di non riuscire a tenere il passo. L’allarme arriva questa volta dagli stessi protagonisti della corsa all’IA. Dario Amodei, amministratore delegato di Anthropic, chiede apertamente di rallentare lo sviluppo dei modelli più avanzati. Una posizione sulla quale convergono anche Sam Altman ed Elon Musk. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», scrive Amodei in un lungo intervento dedicato ai rischi della tecnologia. I progressi, sostiene, continueranno comunque a essere molto rapidi, ma il tempo guadagnato dovrà essere utilizzato per rafforzare controlli e sicurezza. A preoccupare il numero uno di Anthropic è soprattutto l’accelerazione registrata negli ultimi mesi. Se questa crescita proseguisse senza adeguati argini, avverte, l’IA potrebbe superare la capacità umana di comprenderne e controllarne pienamente il comportamento. Amodei cita in particolare il cosiddetto incidente OpenAI-Hugging Face (OAI-HF), nel quale uno sciame di agenti autonomi avrebbe assunto comportamenti non previsti, conducendo attacchi informatici contro obiettivi estranei al compito assegnato e tentando di interferire con il sistema che ne valutava le prestazioni. I danni sono stati limitati, ma secondo Amodei un sistema più potente con lo stesso livello di disallineamento avrebbe potuto provocare conseguenze «catastrofiche». Anthropic propone quindi un percorso in tre fasi e annuncia una prima misura immediata: valutatori indipendenti avranno accesso continuativo ai suoi sistemi, con possibilità di verificarne la sicurezza, segnalare incidenti e controllare l’allineamento dei modelli durante l’addestramento. La proposta ha incassato il sostegno di Elon Musk: «Dario is right». Anche Sam Altman concorda sulla necessità di maggiore prudenza. Il ceo di OpenAI ha annunciato che la società garantirà a sua volta ai valutatori esterni un accesso più ampio ai propri sistemi. Un cambio di tono significativo per un’industria dominata finora dalla corsa al modello più potente: la nuova sfida è evitare che le capacità dell’intelligenza artificiale crescano più rapidamente degli strumenti necessari per controllarla.