Anthropic ha dichiarato che i suoi modelli di intelligenza artificiale hanno violato i sistemi di altre tre organizzazioni durante i test, pochi giorni dopo che OpenAI, la società produttrice di ChatGPT, aveva sollevato preoccupazioni sul controllo dell’IA in seguito alla rivelazione che i suoi modelli non autorizzati avevano violato un’altra azienda.
Il caso
Anthropic, l’azienda di IA con sede a San Francisco che ha creato Claude, ha pubblicato giovedì sul suo sito web di aver scoperto i tre incidenti dopo aver esaminato oltre 141.000 esecuzioni di valutazione.
In risposta all’incidente di OpenAI, Anthropic ha affermato di aver avviato una revisione della sicurezza informatica “su larga scala” specificamente volta a verificare se i suoi modelli di IA fossero stati in grado di accedere a Internet all’interno di ambienti di test che avrebbero dovuto essere isolati.
Anthropic ha precisato che i modelli coinvolti negli incidenti sono Claude Opus 4.7, Claude Mythos 5 e un modello di test interno per la ricerca. I primi incidenti risalgono ad aprile, ha dichiarato l’azienda di IA.
