Verpasse keine News mehr!
Eigentlich sollen Sandboxes die Sicherheit beim Umgang mit KI-Agenten erhöhen. KI-Forscher:innen haben allerdings herausgefunden, dass sich die Testumgebungen durchbrechen lassen – ohne dabei eine Regel zu missachten.
Von Noëlle Bölling
Sandboxes bieten keine uneingeschränkte Sicherheit. (Foto: Dragon Images / Shutterstock)
Bei einer Sandbox handelt es sich um eine isolierte Arbeitsumgebung, in der KI-Modelle oder -Agenten gefahrlos eingesetzt werden können, ohne den Host zu gefährden. Es gibt allerdings einen Haken – denn Dateien innerhalb der Sandbox sind nicht inaktiv. Tools, die außerhalb laufen, können sie lesen und verarbeiten. So kann eine Datei, die der Agent schreiben darf, zu einem schädlichen Befehl werden, den der Host später ausführt. Wie Bleeping Computer berichtet, ist es einem Team von KI-Forscher:innen gelungen, die Sandboxes von vier weit verbreiteten KI-Agenten auf genau diesem Weg zu durchbrechen, darunter auch das beliebte Coding-Tool Cursor.Anzeige
