Anthropic ha fatto sapere di aver bloccato negli ultimi mesi diversi tentativi di utilizzo dei suoi modelli Claude nell’ambito di possibili ricerche per lo sviluppo di armi biologiche. Anthropic, nel rivelare le vicende, ha però anche invitato alla cauIl lato pericoloso di AI: ecco perché Anthropic ha bloccato la richieste collegate allearmi biologichetela: stabilire le reali intenzioni di chi utilizza questi strumenti non è sempre semplice, perché le stesse ricerche possono avere finalità mediche oppure militari. Il contesto in cui sono avvenuti questi tentativi è tuttavia preoccupante. Gli episodi, ha detto Anthropic, hanno mostrato che alcuni ricercatori provenienti da regioni sottoposte a restrizioni e con legami con autorità statali locali hanno cercato di accedere di nascosto ai sistemi di intelligenza artificiale sviluppati negli Stati Uniti. La società non ha reso noti né i Paesi coinvolti né gli istituti di ricerca di provenienza. Queste vicende sono contenute in un rapporto dedicato ai tentativi di utilizzo improprio dei propri modelli. In particolare, Anthropic ha ricostruito cinque casi legati a possibili ricerche sulle armi biologiche. I ricercatori non avrebbero chiesto direttamente a Claude istruzioni per costruire un’arma, ma avrebbero domandato un aiuto di tipo organizzativo, per esempio nella preparazione di documenti e richieste di finanziamento. I modelli di intelligenza artificiale sono progettati per rifiutare richieste che riguardano lo sviluppo di armi biologiche. Ma il confine è più difficile da tracciare quando si tratta di ricerche che possono avere applicazioni sia mediche sia militari, ha spiegato Anthropic. Uno dei casi riguarda una richiesta di aiuto per preparare una domanda di finanziamento su un virus nell’ambito della cosiddetta ricerca «gain-of-function», che mira a modificare un agente patogeno per aumentarne, tra le altre caratteristiche, la capacità di trasmissione. Si tratta di tecniche utilizzate anche per studiare malattie e sviluppare contromisure, ma che possono creare conoscenze potenzialmente sfruttabili per scopi militari. In un altro episodio, un ricercatore avrebbe cercato di utilizzare Claude per elaborare un piano di studio su una variante dell’influenza aviaria capace di trasmettersi ai mammiferi. Anche in questo caso, sottolinea Anthropic, una ricerca del genere può essere finalizzata alla prevenzione, ma può allo stesso tempo produrre informazioni utilizzabili per lo sviluppo di armi biologiche. Un terzo caso riguarda invece un ricercatore che avrebbe utilizzato Claude per preparare rapporti trimestrali sull’avanzamento di una ricerca su una tossina. Gli episodi, secondo Anthropic, evidenziano così una delle questioni più delicate legate all’utilizzo dell’intelligenza artificiale nella ricerca scientifica: distinguere tra applicazioni legittime e possibili utilizzi pericolosi, soprattutto quando le stesse conoscenze possono essere impiegate per finalità opposte. Questi episodi arrivano a pochi giorni dalle dimissioni di Jacob Coxon da Anthropic, dopo diversi anni passati a lavorare tra Anthropi e OpenAI, accompagnate da un allarme sui rischi di una corsa verso la superintelligenza senza adeguate misure di sicurezza. Il ricercatore sostiene che i laboratori di frontiera stiano accelerando verso sistemi superiori all’uomo e cita anche un test in cui modelli avanzati di OpenAI avrebbero eseguito 17mila azioni autonome, uscendo dall’ambiente controllato. Un altro ricercatore di Anthropic, Evan Hubinger, stima inoltre sopra il 10% la probabilità che l’IA possa contribuire all’estinzione dell’umanità nei prossimi dieci anni. La voce di Coxon non è isolata. Il giorno prima delle sue dimissioni un grido di allarme era arrivato anche dall’Onu: secondo l’Alto commissario per i diritti umani Volker Türk, l’intelligenza artificiale potrebbe arrivare a minacciare l’esistenza stessa dell’umanità. Türk ha chiesto regole internazionali vincolanti e «linee rosse» comuni per garantire la sicurezza nello sviluppo dell’IA.