Demis Hassabis, CEO di Google DeepMind, ha pubblicato marted� un lungo documento in cui chiede la creazione di un organismo indipendente incaricato di valutare i modelli di intelligenza artificiale pi� avanzati prima della loro uscita sul mercato. Il testo, intitolato "A Framework for Frontier AI and the Dawning of a New Age", propone una struttura calcata sul modello della Financial Industry Regulatory Authority (FINRA), l'authority che negli Stati Uniti sorveglia il settore finanziario.
L'idea � quella di una "standards body" che, in una prima fase, riceva i modelli in anteprima fino a 30 giorni prima del lancio per sottoporli a test su cybersicurezza, rischio biologico e capacit� di elusione delle misure di sicurezza integrate. Una volta dimostrata l'efficacia del protocollo di valutazione, scrive Hassabis, l'adesione potrebbe diventare obbligatoria per chiunque voglia distribuire un modello di frontiera negli Stati Uniti, con i laboratori coinvolti anche nella gestione delle vulnerabilit� scoperte dopo il rilascio.
Hassabis vuole un ente per fermare l'IA fuori controllo
La proposta arriva dopo le revisioni ad hoc condotte dal governo statunitense su due modelli, Mythos di Anthropic e Sol di OpenAI, criticate per la scarsa competenza tecnica dei valutatori e per l'opacit� dei criteri con cui si � deciso se autorizzarne il rilascio. Il nuovo organismo immaginato da Hassabis assorbirebbe quel compito, restando sotto l'ombrello del governo federale ma con finanziamento e gestione affidati all'industria stessa.
