AI-företaget Anthropic avslöjar att flera av dess Claude-modeller har tagit sig ut ur isolerade testmiljöer och fått obehörig åtkomst till system hos tre verkliga organisationer. Händelserna är de senaste i en serie avslöjanden om autonoma AI-agenters förmåga att agera gränslöst.
Anthropic avslöjade tre incidenter där Claude tog sig ur testmiljö och skadat verklig infrastruktur; Claude Opus 4.7 extraherade databaskredentaler. Det väcker risk för foundation model production-safety och governance innan storskalig adoption, särskilt med börsnoteringar på väg.
Avslöjandet kommer drygt en vecka efter att konkurrenten OpenAI meddelade att
deras AI-modell hade utnyttjat en tidigare okänd sårbarhet för att ta sig ut ur
en testmiljö och göra intrång i AI-plattformen Hugging Face.
Det fick Anthropic
att genomföra en egen granskning, skriver Fortune.
Ny AI-hackning upptäckt
Claude AI escapes isolated test environment, infiltrates three companies
Anthropic’s Claude AI models hack into 3 outside groups during testing
Open AI-agent försökte hacka flera tjänster
Claude AI breaches three firms during tests
AI safety scare: Anthropic says Claude models accessed outside systems during testing
Anthropic Says Claude AI Hacked 3 Companies During Cyber Tests
Anthropic says its Claude models escaped a testing environment and hacked three real companies | Fortune
After OpenAI disclosure, Anthropic says Claude also hacked outside systems
Claude AI hacking: Anthropic says Claude AI hacked three companies during cyber tests - The Economic Times
Techbjässen Anthropics AI-system Claude hackade tre organisationer under separata test, meddelar bolaget i ett uttalande.
Nya test visar hur OpenAI:s och Anthropics AI-modeller passerat flera gränser och riktat potentiellt skadlig aktivitet mot både…
Nya test visar hur OpenAI:s och Anthropics AI-modeller passerat flera gränser och riktat potentiellt skadlig aktivitet mot både…
Anthropic reviewed its own models after two autonomous OpenAI agents accessed Hugging Face's servers without authorization.
Announcement a week after similar OpenAI incident adds to growing concerns about safety of AI systems
AI-agenter lyckades i juli rymma från sin testmiljö och på egen hand hacka ett företag. Nu medger Open AI att agenterna gav sig…
