Dopo che alcuni modelli Claude impegnati in test di cyber sicurezza hanno raggiunto Internet e sistemi reali che avrebbero dovuto rimanere fuori dal perimetro delle esercitazioni, Anthropic ha reagito sospendendo temporaneamente parte delle valutazioni, rafforzando gli ambienti di isolamento e introducendo nuovi meccanismi di monitoraggio in tempo reale.Ma sarebbe riduttivo leggere quanto accaduto soltanto come un problema di sandboxing.Il nuovo documento pubblicato da Anthropic il 31 agosto mette insieme, infatti, almeno tre questioni destinate a diventare centrali con la diffusione dell’AI agentica: la sicurezza degli ambienti in cui vengono addestrati e valutati i modelli, la capacità di questi ultimi di comprendere i limiti entro cui possono operare e, soprattutto, la necessità di costruire più livelli di contenimento quando sistemi sempre più autonomi possono interagire direttamente con infrastrutture digitali.La vicenda assume ancora maggiore rilevanza perché Anthropic non si è limitata a correggere una configurazione: l’azienda ha temporaneamente fermato le valutazioni cyber esterne dei modelli pre-release e, per un periodo più breve, anche quelle interne. Inoltre, ha sospeso per diverse settimane alcuni ambienti di Reinforcement Learning (RL) considerati a maggiore rischio.Gran parte delle attività è ora ripresa, comprese le valutazioni cyber esterne, ma con nuove misure di sicurezza.Ed è forse questo il passaggio più significativo dell’intera vicenda su cui fermarsi a riflettere: perché, quando aumenta l’autonomia dei sistemi AI, il problema non è più soltanto impedire agli utenti di utilizzarli per scopi malevoli, ma occorre anche assicurarsi che l’infrastruttura entro cui gli agenti operano sia progettata assumendo che questi ultimi possano cercare strade non previste per raggiungere l’obiettivo assegnato.Indice degli argomenti