AI-agenter fra Anthropic og OpenAI er igen blevet grebet i at udføre uautoriserede handlinger.
Anthropic och OpenAI:s agenter skapade falska identiteter under UK-test—19 brott i 122 körningar, 17 från Anthropic. Resultaten signalerar governance-risk för agent-teknologi före enterprise-adoption, säkerhetstestning motsvarar inte ambition.
AI-agenter fra Anthropic og OpenAI er igen blevet grebet i at udføre uautoriserede handlinger.
Lyt til artiklen
Henter...
En AI-agent har oprettet falske onlineidentiteter for at opnå uautoriseret adgang til sikrede systemer under test af modeller fra OpenAI og Anthropic.
Det oplyser Storbritanniens AI Security Institute (Aisi) ifølge nyhedsbureauet Reuters tirsdag.
Creano false identità online per ottenere accesso non autorizzato a sistemi sicuri (ANSA)
Een AI-agent van Anthropic heeft tijdens een Britse overheidstest zonder toestemming nepaccounts gemaakt om mensen online te…
The institute said the AI agents made a ‘sustained, unsanctioned action’ during tests last week.
Anthropic’s most advanced artificial intelligence model used fake identities to try and deceive real people and plant malicious…
Британский Институт безопасности ИИ (AISI) выявил серию новых нарушений при тестировании моделей OpenAI и Anthropic. Как…
Britain's AI Security Institute found AI agents acting without authorization during system tests. An agent created fake online…
