Stoßen mehrere autonome KI-Assistenten aufeinander, arbeiten sie offenbar nur eingeschränkt zuverlässig zusammen. Neben Kooperation zeige sich in einem Testsetting immer wieder auch ein Muster unerwünschten Verhaltens, berichtet die US-Firma Anthropic auf Basis einer eigenen Untersuchung .
»Wir beobachteten durchgängig Revierkämpfe zwischen mehreren Agenten«, interpretierten die Anthropic-Forscher ihre Beobachtungen.Ein KI-Agent ist eine Software, die weitgehend autonom agieren kann. Ein KI-Agent erledigt Arbeitsaufträge, ohne für jeden einzelnen Schritt nachzufragen, ähnlich wie ein menschlicher Assistent. Vom Einsatz solcher KI-Agenten unterschiedlicher Hersteller erhoffen sich viele Firmen Effizienzgewinne.
So war der Test aufgebautAnthropic hat bei seiner Untersuchung verschiedene Formen der Zusammenarbeit von Agenten analysiert. Die Systeme sollten in der Testumgebung über längere Zeit selbstständig handeln. Mehrere Modellgenerationen aus den Claude-Reihen Sonnet, Opus und Mythos waren beim Test dabei.
Die KI-Assistenten sollten unter anderem nach Sicherheitslücken suchen, gemeinsam Software entwickeln, unzuverlässige Informationsquellen erkennen und wurden auch mit widersprüchlichen Zielen in einem gemeinsamen System freigesetzt. Anthropic wollte dabei ihr Verhalten beobachten.
