Anthropic ha sospeso alcuni account che apparentemente intendevano utilizzare il suo modello di IA, Claude, per creare armi biologiche. L’azienda ha annunciato la notizia giovedì, rivelando i risultati di un’indagine a pochi giorni di distanza dall’allarme lanciato da esperti di intelligenza artificiale sul rischio che assistenti digitali sempre più potenti possano portare all’estinzione dell’umanità.
Punti chiave
In un rapporto pubblicato giovedì, Anthropic ha dichiarato di aver bloccato una richiesta di assistenza a Claude per la stesura di una domanda di finanziamento scientifico; i fondi sarebbero stati destinati a una ricerca sulla modifica genetica del virus chikungunya, trasmesso dalle zanzare.
Secondo Anthropic, il progetto mirava a rendere più nocivo il virus – che ha un tasso di mortalità molto basso ma causa dolori articolari e muscolari a lungo termine – pur riconoscendo che ricerche analoghe potrebbero essere impiegate per sviluppare vaccini o terapie contro il virus stesso.
Tuttavia, la ricerca avrebbe potuto essere utilizzata anche per rendere il virus più pericoloso. Anthropic ha ritenuto che il progetto non fosse innocuo come appariva: sebbene la richiesta di finanziamento suggerisse il coinvolgimento di ricercatori civili, l’attività era prevista presso un istituto di ricerca militare.
