Vor rund zwei Wochen wurde bekannt, dass KI-Modelle von OpenAI aus ihrer Sandbox ausgebrochen sind und eigenständig Hacking‑Angriffe durchgeführt haben. Das war kein Einzelfall: Auch Modelle von Anthropic und Meta überschritten die Grenzen ihrer Testumgebungen und griffen in fremde Systeme ein. Auf der Black-Hat-Konferenz hat OpenAI jetzt weitere Details veröffentlicht, wie es zu dem Sicherheitsvorfall kommen konnte.Anzeige
Wie den Agenten der Ausbruch gelang
Ursprünglich sollte laut OpenAI die Leistungsfähigkeit neuer Modelle getestet werden, darunter auch GPT-5.6 Sol. Sie erhielten die Anweisung, fortgeschrittene Exploits einzusetzen, wofür die üblichen Richtlinien außer Kraft gesetzt wurden. Die Modelle hätten daraufhin versucht, aus der Sandbox auszubrechen und sich Zugriff auf das Internet zu verschaffen. Trotz Isolation sei es ihnen gelungen, eine Zero-Day-Schwachstelle aufzuspüren, sich selbst weitreichendere Rechte einzuräumen und eine Schnittstelle zum Internet zu nutzen. Anschließend schlussfolgerten sie, dass Hugging Face die nötigen Daten bereithalten könnte. Sie verschafften sich daraufhin mit mehreren aufeinanderfolgenden Angriffen Zugang zu den dahinterliegenden Systemen.
