La startup di intelligenza artificiale ha denunciato nel suo rapporto diversi casi in cui le ricerche erano piuttosto ambigue. Per ora sono solo sospetti, ma molto inquietanti. Altri tentativi di manomissione sono arrivati da Russia, Cina e Yemen
“Sebbene le valutazioni siano utili perché forniscono prove delle capacità, non possono dimostrare concretamente che tali capacità sarebbero state mai utilizzate per sviluppare armi biologiche nel mondo reale”. Nel dubbio, Anthropic ha deciso di intervenire. La startup di intelligenza artificiale ha spiegato nel suo rapporto di aver bloccato alcuni account negli ultimi mesi, dopo aver notato tentativi di sfruttare il suo modello Claude per un potenziale sviluppo di armi biologiche. Cinque i casi in particolare, in cui gli utenti hanno chiesto supporto organizzativo. Tra questi era stata avanzata una richiesta di finanziamento per una ricerca su un virus – il chikungunya, trasmesso dalle zanzare – basandosi sulla gain-of-function, che serve per aumentare la trasmissibilità di un agente patogeno. Solitamente questa tecnica viene utilizzata per sviluppare i vaccini, ma anche per la produzione di armi biologiche. I sospetti si sono dunque rafforzati, anche se è difficile stabilire quali fossero le reali intenzioni. Tuttavia, hanno affermato da Anthropic, “pubblichiamo questo lavoro perché riteniamo di avere la responsabilità di denunciare l’uso improprio e dannoso dei nostri servizi”. A quanto pare, infatti, quella ricerca era stata condotto presso un istituto militare.
