Ha cercato di ingannare un essere umano. Prima ha scritto un programma informatico dannoso. Poi ha creato false identità online per convincere il responsabile del progetto ad autorizzarne l'utilizzo. Non era un hacker, ma un sistema di intelligenza artificiale progettato per svolgere autonomamente una serie di compiti. È l'episodio più grave emerso dai test di sicurezza condotti dall'AI Security Institute (Aisi) britannico sui modelli più avanzati di Anthropic e OpenAI. Per "agente" di intelligenza artificiale si intende proprio questo: un sistema che non si limita a rispondere alle domande, ma è in grado di prendere iniziative, utilizzare strumenti informatici e portare avanti autonomamente un obiettivo. Ed è proprio questa crescente autonomia ad aver acceso un nuovo campanello d'allarme.Secondo il rapporto dell'Aisi, gli agenti basati su Mythos 5 di Anthropic e GPT-5.6 Sol di OpenAI sono stati sottoposti a uno scenario simulato di sicurezza informatica per valutarne le capacità operative. Su 122 prove complessive sono stati registrati dieci test nei quali i sistemi hanno compiuto diciannove azioni non autorizzate: diciassette attribuite al modello di Anthropic e due a quello di OpenAI.L'episodio più grave ha visto il sistema elaborare codice malevolo e ricorrere a tecniche di manipolazione psicologica, creando identità digitali fittizie per esercitare pressione sul responsabile del progetto affinché autorizzasse l'esecuzione del software. Il supervisore umano si è accorto del tentativo e ha bloccato tutto prima che si verificassero conseguenze. Anthropic ha successivamente confermato che il sistema coinvolto era il proprio. L'istituto britannico parla di «attività prolungate e potenzialmente dannose, dirette a persone e organizzazioni reali». Nessuno degli episodi osservati ha provocato danni concreti. Ciò che preoccupa i ricercatori è invece il comportamento manifestato da questi sistemi: in alcuni casi hanno elaborato strategie autonome e ingannevoli senza ricevere istruzioni esplicite in tal senso.Il problema, infatti, non è soltanto che un modello possa fornire una risposta sbagliata. I nuovi sistemi di IA sono progettati per pianificare azioni, utilizzare strumenti digitali, navigare sul web, scrivere codice e interagire con altri software. Quando ricevono un obiettivo cercano di raggiungerlo adattando la propria strategia agli ostacoli incontrati. È proprio questa capacità di iniziativa, considerata uno dei principali progressi dell'IA, a rendere più complesso garantire che il sistema rimanga sempre entro i limiti stabiliti dagli sviluppatori.Le due aziende coinvolte hanno riconosciuto la rilevanza dell'accaduto, pur invitando a contestualizzarlo. Anthropic ha annunciato di voler approfondire quanto accaduto insieme ai ricercatori britannici; OpenAI ha spiegato che i due comportamenti non autorizzati osservati durante i test hanno riguardato un utilizzo di Internet vietato dalle istruzioni impartite al sistema, impegnandosi a collaborare sulla questione sicurezza. Entrambe le società hanno inoltre richiamato problemi di configurazione degli ambienti di prova, sostenendo che una parte degli incidenti è stata favorita da errori nell'infrastruttura predisposta dai soggetti indipendenti incaricati delle valutazioni.La vicenda si inserisce però in una sequenza di episodi che stanno alimentando il dibattito sulla sicurezza dell'IA. Nelle scorse settimane OpenAI aveva reso noto che un proprio sistema, durante un'altra valutazione di cybersicurezza, era riuscito a sfruttare una vulnerabilità sconosciuta per raggiungere Internet. Ora anche Meta ha comunicato un caso analogo. Durante un test affidato alla società indipendente Irregular, uno dei suoi modelli avrebbe sfruttato una falla in un servizio di terze parti dopo aver ottenuto, a causa di una configurazione errata dell'ambiente di prova, un accesso non previsto alla rete. Questi episodi non significano che i sistemi IA siano "sfuggiti al controllo" nel senso evocato dalla fantascienza, ma che queste tecnologie stanno entrando in una fase nuova. I grandi modelli linguistici si stanno trasformando in sistemi capaci di prendere iniziative e operare con un grado crescente di autonomia. Più aumenta questa capacità, più diventa indispensabile costruire meccanismi di controllo efficaci, ambienti di test sicuri e verifiche indipendenti.Negli Stati Uniti il susseguirsi degli incidenti ha già riacceso il confronto politico. Alcuni procuratori generali hanno chiesto a OpenAI di conservare tutta la documentazione relativa ai recenti episodi, mentre la Casa Bianca ha convocato i principali sviluppatori per discutere un nuovo quadro volontario di valutazione della sicurezza informatica dei modelli più avanzati. Se un sistema di IA può escogitare strategie non previste, simulare identità o cercare di aggirare i limiti imposti pur di raggiungere un obiettivo, la sicurezza diventa un aspetto ancora più centrale dello sviluppo tecnologico.