Lo scorso 4 giugno Anthropic, società IA tra le più influenti del mondo con sede a San Francisco, ha pubblicato un documento - firmato dalla responsabile della ricerca interna Marina Favaro e dal capo delle policy Jack Clark - in cui sostiene che sarebbe un bene per il mondo avere l'opzione di rallentare o sospendere temporaneamente lo sviluppo dell'IA di frontiera, per dare a strutture sociali e ricerca sull'allineamento il tempo di stare al passo con una tecnologia che corre sempre più veloce.
Il timore esplicitato nel testo è quello dell'auto-miglioramento ricorsivo, lo scenario in cui un sistema diventa capace di progettare e costruire i propri successori con un coinvolgimento umano minimo.
Cinque giorni tra l'allarme e il lancio
Cinque giorni più tardi, il 9 giugno, la stessa azienda ha lanciato Claude Fable 5.
Anthropic lo descrive come un modello di classe Mythos - l’IA più potente sviluppata finora dall’azienda californiana - reso sicuro per l'uso generale, con capacità che superano quelle di qualsiasi modello mai messo a disposizione del pubblico e prestazioni allo stato dell'arte in quasi tutti i benchmark testati.
