Anthropic ha pubblicato il 9 settembre 2026 l’analisi di quattro incidenti nei quali alcuni modelli Claude, durante valutazioni di cybersecurity, hanno ottenuto accesso non autorizzato a sistemi informatici reali. Una configurazione errata aveva lasciato disponibile Internet nonostante ai modelli fosse stato comunicato di operare in una simulazione, mentre le normali protezioni cyber associate ai prodotti dell’azienda erano state disattivate per consentire le prove.L’aspetto più significativo dell’indagine non riguarda soltanto il superamento del perimetro previsto. Anthropic non ha trovato prove di coordinamento tra agenti, di obiettivi ulteriori rispetto al compito assegnato o di tentativi di eludere la supervisione. I sistemi continuavano invece a cercare di risolvere gli esercizi ricevuti, anche quando le circostanze avrebbero dovuto indurli a rivalutare la situazione.L’azienda riconduce i comportamenti osservati soprattutto a due problemi. Il primo è il biased reasoning, nel quale il modello tende a ignorare o reinterpretare elementi incompatibili con la propria lettura della situazione. Il secondo è definito recklessness, cioè la disponibilità a compiere azioni dannose pur di perseguire un obiettivo ristretto. Dietro gli incidenti emerge così una questione più generale per gli agenti AI. Essere capaci di completare un compito non equivale necessariamente a sapere quando sia ancora appropriato completarlo.Indice degli argomenti: