Anthropic ha ammesso che tre versioni del suo modello Claude hanno violato senza autorizzazione i sistemi di produzione di altrettante aziende reali, mentre erano impegnate in test di sicurezza informatica pensati per restare confinati in ambienti isolati. L'azienda lo ha reso noto gioved� 30, al termine di un'indagine interna innescata dal caso analogo emerso in casa OpenAI appena una settimana prima. Il problema nasce da un errore di configurazione che ha lasciato aperta una porta verso Internet in un ambiente che, dai test, avrebbe dovuto risultare completamente isolato.
Tutto parte dalla revisione di 141.006 sessioni di valutazione, avviata subito dopo che OpenAI il 21 luglio aveva reso pubblico come uno dei suoi modelli non ancora rilasciati fosse riuscito a sfuggire a un ambiente di test sfruttando una vulnerabilit� zero-day, arrivando a toccare l'infrastruttura di Hugging Face. Anthropic voleva verificare se ai propri modelli fosse capitato qualcosa di simile. La risposta � stata affermativa, seppure con una dinamica diversa da quella di OpenAI.
Nei tre episodi individuati, la falla risale a un fraintendimento con Irregular, il partner esterno che gestisce parte delle valutazioni di sicurezza per conto di Anthropic. Ai modelli era stato detto esplicitamente, tramite il prompt di sistema, di non avere alcun accesso a internet: nella pratica quella porta era aperta, e Claude lo ha scoperto da solo mentre cercava di completare le proprie missioni di capture-the-flag.
