Anthropic lancia un nuovo avvertimento sull’uso distorto dell’intelligenza artificiale, questa volta per costruire armi biologiche. L'azienda ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori di utilizzare versioni del suo software Claude in relazione a questo possibile sviluppo. La società, concorrente di OpenAI ha tuttavia avvertito che è difficile stabilire le intenzioni alla base di tali richieste, poiché la stessa ricerca può servire sia a scopi medici che militari.L’allarme sulle armi biologiche arriva pochi giorni dopo le gravi accuse lanciate da un ricercatore di Anthropic, il 27enne Jacob Coxon che ha lasciato l’azienda, secondo il quale i modelli di intelligenza artificiale potrebbero distruggere la civiltà umana. Un annuncio secondo indiscrezioni di stampa sta spingendo anche i parlamentari del Congresso ad ipotizzare, dopo anni di interventi limitati, nuove proposte per regolamentare i modelli di intelligenza artificiale.Il rapporto di Anthropic include estratti di codice malevolo e di richieste inviate all'IA che, secondo l'azienda, sono stati individuati, e invita governi e società rivali a vigilare su abusi simili. "Pubblichiamo questo lavoro perché riteniamo di avere la responsabilità di rendere pubblici i casi di uso malevolo dei nostri servizi", ha affermato la società. Secondo l'azienda, man mano che i modelli di IA diventano più potenti, gli attacchi informatici sofisticati richiedono sempre meno competenze tecniche. Anche singoli individui possono creare minacce che un anno fa sarebbero state impossibili.Non sono stati menzionati né gli istituti di ricerca coinvolti né i paesi in cui hanno sede, ma cinque casi collegati a possibili ricerche su armi biologiche. Secondo l'azienda, i ricercatori non chiedevano assistenza scientifica specifica, bensì supporto organizzativo, come aiuto nella stesura di documenti.I modelli di IA sono generalmente progettati per rifiutare assistenza nello sviluppo di armi biologiche. Tuttavia, Anthropic ha osservato che, quando una ricerca può avere finalità sia mediche che militari, a volte risulta difficile tracciare una linea netta tra intenzioni innocue e malevole. In un caso bloccato dall'azienda, un ricercatore ha tentato di utilizzare Claude per la stesura di una richiesta di finanziamento per una ricerca su un virus. Il progetto prevedeva la cosiddetta ricerca di "acquisizione di funzione" (gain-of-function), che mira ad aumentare la trasmissibilità di un agente patogeno.La ricerca nello specifico riguardava il virus chikungunya", la sua trasmissibilità e la sua capacità di eludere il sistema immunitario. Il chikungunya è un virus trasmesso dalle zanzare che provoca forti dolori e febbre. La proposta di finanziamento mirava a potenziare mutazioni che avrebbero reso il virus via via più pericoloso. Questo approccio è comunemente utilizzato nei laboratori per sviluppare contromisure, ma può anche essere impiegato per lo sviluppo di armi biologiche.Da tempo Anthropic si rifiuta di consentire che le proprie IA venissero usate per sviluppare sistemi di sorveglianza di massa e armi a vario livello di autonomia, a seguito di questa posizione e dopo uno scontro giudiziario, l’amministrazione USA ha escluso la Big Tech dai settori più critici (e dunque redditizi) delle commesse militari.Intanto OpenAI ha annunciato un rallentamento sullo sviluppo di modelli avanzati di Ia. La decisione arriva dopo una serie di incidenti legati alla sicurezza verificatisi in azienda: a luglio, alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione; ad agosto, invece, un agente IA è sfuggito all'ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.Alla fine di luglio oltre 1.000 dipendenti delle principali aziende di IA hanno firmato una petizione per chiedere l'adozione di meccanismi volti a rallentare lo sviluppo dell'intelligenza artificiale. alla