Nuovi casi di vulnerabilità degli agenti di intelligenza artificiale di OpenAI e Anthropic, dopo quelli già verificatisi a luglio. Secondo il Britain's AI Security Institute (Aisi), un agente IA è stato sorpreso a creare false identità online per ottenere accessi non autorizzati a sistemi sicuri durante i test sui modelli dei due giganti tecnologici.
L'istituto - come riporta Reuters online - ha riferito che agenti basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI hanno compiuto azioni non autorizzate nel corso delle valutazioni di sicurezza condotte dall'ente governativo. "Alcuni degli agenti sottoposti a test hanno messo in atto attività prolungate e potenzialmente dannose rivolte a persone e organizzazioni reali", ha dichiarato in un post sul blog l'Aisi.
Il rapporto evidenzia la scarsa efficacia delle misure di sicurezza che accompagnano la fase di sperimentazione di questi agenti. In particolare, i test sono stati ripetuti 122 volte, portando all'individuazione di 19 azioni non autorizzate nel corso di 10 sessioni di test. L'agente di Anthropic è stato responsabile di 17 di queste azioni, mentre quello di OpenAI delle restanti due.
L'azione più grave ha riguardato un agente che ha scritto un codice malevolo e creato false identità online nel tentativo di indurre un essere umano ad approvare il codice; l'Aisi ha precisato però che non si sono verificati danni nel mondo reale a seguito di alcuna di queste violazioni.
