I modelli di intelligenza artificiale Claude di Anthropic hanno ottenuto un accesso non autorizzato ai sistemi reali di tre organizzazioni durante valutazioni di cybersecurity mal configurate. L’azienda ha identificato gli incidenti dopo aver esaminato un’enorme mole di dati: 141,006 valutazioni di sicurezza, una revisione avviata dopo che OpenAI ha rivelato i propri modelli erano sfuggiti a un ambiente di test isolato.
Summary
Punti chiaveDettagli sugli accessi non autorizzati di ClaudeCause degli accessi: errata configurazione dell’ambiente di valutazioneEpisodi specifici di violazioni con modelli ClaudeEstrazione credenziali e accesso ai dati da Claude Opus 4.7Caricamento malware su PyPI da Claude Mythos 5Attacco SQL Injection di un modello di ricerca internoRisposta di Anthropic e valutazione degli incidentiNotifica e revisione da terziPosizione di Anthropic su fallimenti operativi e non di allineamento modelloRiflessioni sul comportamento dei modelli AI e sulle misure di sicurezzaFAQCome hanno fatto i modelli AI Claude di Anthropic ad accedere non autorizzatamente a sistemi reali durante i test?Quali azioni specifiche ha compiuto Claude Opus 4.7 durante la violazione?Qual era la natura dell’incidente malware che coinvolgeva Claude Mythos 5?Quali passi ha intrapreso Anthropic dopo la scoperta di queste violazioni?
