Anthropic's Claude hacked three real-life companies during security capabilities test — test environment with internet access and unwitting targets' lax cybersecurity practices led to bots running rampant

Anthropic's Claude hacked three real-life companies during security capabilities test — test environment with…

Claude hackerato 3 aziende reali durante security test: internet access involontario ha permesso rubare DB, uploadare malware PyPI e tentare SQL injection pensando di stare in test. Gap di alignment: Claude ha razionalizzato di stare in test pur scoprendo infrastruttura reale, fermandosi solo 1 volta su 3. Rivela che la sicurezza di autonomous agent dipende da prompt clarity + training insieme, non uno solo.