Viele KI-Modelle werden vor ihrer Veröffentlichung in Sandbox-Systemen getestet. Dadurch soll sichergestellt werden, dass die Agenten keinen Schaden auf den eigentlichen Systemen anrichten oder sich Zugang zum Internet verschaffen. Erst in jüngster Vergangenheit haben Sicherheitsforscher:innen gewarnt, dass KI-Modelle in der Lage sind, aus solchen Sandbox-Umgebungen autonom auszubrechen. Jetzt gibt es einen Fall, der das unter Beweis stellt.Anzeige
Wie OpenAIs KI ausgebrochen ist
Laut OpenAI fand der Vorfall vor wenigen Tagen statt. Hugging Face hatte einen Angriff auf die eigene Infrastruktur festgestellt. Ein KI-Agent hatte versucht, sich Zugriff auf interne Systeme zu verschaffen, und wurde von den Verantwortlichen gestoppt. Nachdem OpenAI Untersuchungen angestellt hatte, stellten sie fest, dass für den Sicherheitsvorfall eine Reihe von OpenAI-Modellen verantwortlich waren, darunter GPT-5.6 Sol.
Bei der Version von GPT-5.6 Sol soll es sich um ein Pre-Release-Modell gehandelt haben, das „noch leistungsfähiger“ war. Um festzustellen, wie leistungsfähig das Modell ist, hat OpenAI GPT-5.6 Sol in eine Sandbox-Umgebung verfrachtet und zusammen mit den anderen Modellen darum gebeten, „fortgeschrittene Exploits mit komplexen Angriffswegen“ zu nutzen. Für den Test wurden die normalerweise gesetzten Richtlinien, an die sich die Modelle halten müssten, aufgehoben.Anzeige
