In Tests legen KI-Modelle immer wieder erstaunliche Verhaltensweisen an den Tag. Um sich selbst am Laufen zu halten, greifen sie auch mal zu Lügen, Manipulation und Erpressung – und geben dabei nicht alle Gedanken preis, die sie sich im Hintergrund machen. Forscher:innen von Anthropic haben jetzt eine neue Studie veröffentlicht, in der untersucht wurde, wie sich Gruppen von KI-Agenten verhalten, wenn sie in der Praxis aufeinander treffen. Demnach könne die Situation schnell außer Kontrolle geraten.Anzeige
Wenn sich Agenten in die Quere kommen
Immer mehr KI-Agenten drängen auf den Markt und übernehmen selbstständig Aufgaben über mehrere Konten, Websites und APIs hinweg. Erst diese Woche hat SpaceXAI den Grok Bot veröffentlicht, der wie ein digitaler Kollege funktionieren und sich erst dann zurückmelden soll, wenn er eine Freigabe braucht oder eine Aufgabe beendet hat. Anthropic stellt sich vor diesem Hintergrund jetzt eine zentrale Frage: Welche schädlichen Dynamiken entstehen, wenn Millionen Agenten miteinander interagieren?
In einem Experiment setzte das Unternehmen drei Claude-Agenten auf dasselbe Softwareprojekt an. Dabei erhielt jeder Anweisungen, die nicht mit denen der anderen vereinbar waren. Da sie nicht voneinander wussten, konnten die Forscher:innen prüfen, was bei einer Begegnung passiert. „Wir beobachteten durchweg einen Revierkampf zwischen mehreren Agenten”, heißt es in den Ergebnissen.Anzeige
