I modelli di intelligenza artificiale di Anthropic hanno «ottenuto un accesso non autorizzato» ai sistemi di tre organizzazioni durante la fase dei test, in circostanze in cui sarebbero invece dovuti rimanere isolati dal «mondo reale». Lo ha reso noto la compagnia, illustrando una situazione che richiama l’attenzione su rischi analoghi già segnalati da OpenAI pochi giorni fa. Proprio la rivale guidata da Sam Altman aveva infatti denunciato un accesso improprio dei suoi modelli a Internet e comportamenti imprevisti durante i test di sicurezza.

Il caso Anthropic: accesso fuori controllo in ambito test In un post pubblicato giovedì sera (la notte di venerdì per l’Italia), Anthropic ha riferito di aver esaminato oltre 141.000 valutazioni del proprio modello Claude. Sono stati individuati tre episodi in cui una versione del modello aveva ottenuto accesso a Internet dall’interno di un ambiente di test isolato, gestito da un partner esterno, Irregular. In seguito, il modello di AI ha «ottenuto un accesso non autorizzato all’infrastruttura di produzione di tre diverse organizzazioni», ha affermato la stessa Anthropic.Gli incidenti hanno coinvolto tre diverse versioni di Claude: Opus 4.7, Mythos e un modello sperimentale privo di nome. L’uscita dall’ambiente di test è stata resa possibile da un «malinteso» fra Anthropic e il partner incaricato della valutazione, che involontariamente ha permesso ai modelli l’accesso a Internet. La dinamica è quindi diversa dall’incidente OpenAI, dove due modelli sfruttarono una vulnerabilità sconosciuta in software di terzi per collegarsi alla rete senza intervento umano.I rischi dei modelli AI: le sfide «capture-the-flag» e la sicurezza Nel test di Anthropic, ai modelli era stato assegnato uno scenario «capture-the-flag» – esercizio informatico in cui la «bandiera» virtuale è posizionata su una diversa macchina della rete, che deve essere raggiunta dal modello per la riuscita della prova. «La sfida è a esito aperto e non viene prescritto alcun metodo specifico», precisa Anthropic. In circostanze simili a quelle di OpenAI, i modelli hanno operato senza le consuete barriere di sicurezza:incidenti che secondo molti confermano gli avvertimenti della comunità tecnologica sui rischi connessi all’aumento di potenza e autonomia dei sistemi di intelligenza artificiale.