Den IT-Angriff auf die KI-Plattform Hugging Face haben mehrere KI-Modelle von OpenAI während eines Testlaufs autonom ausgeführt, darunter war neben GPT‑5.6 Sol ein „noch leistungsfähigeres unveröffentlichtes Modell“. Das hat der KI-Konzern selbst jetzt öffentlich gemacht und spricht von einem „beispiellosen Cybervorfall, bei dem modernste Cyberfähigkeiten zum Einsatz kamen“. Man reagiere entsprechend darauf und teile die ersten Erkenntnisse jetzt umgehend, damit andere daraus lernen können. Eine umfassende Analyse in Zusammenarbeit mit Hugging Face laufe, zudem sei eine Zero-Day-Lücke gefunden und verantwortungsvoll gemeldet worden.
Komplizierten Angriffsweg rekonstruiert
Wenige Tage nachdem Hugging Face den IT-Angriff öffentlich gemacht hat, ohne dabei aber einen Verantwortlichen zu benennen, nennt OpenAI nun Details aus der Perspektive der Gegenseite. Der Vorfall hat sich demnach während einer „internen Evaluation“ ereignet, bei der Modelle dazu angeregt würden, ausgefeilte Angriffe über komplexe Pfade durchzuführen, um ihre Fähigkeiten zu quantifizieren. Dafür würden Beschränkungen aufgehoben, gleichzeitig laufen die Modelle dabei aber „in einer stark isolierten Umgebung“. Alle Indizien würden jetzt darauf hinweisen, dass die getesteten Modelle extrem darauf fokussiert gewesen seien, eine Lösung für den Benchmark ExploitGym zu finden. Sie seien „bis zum Äußersten gegangen, um ein eher enges Testziel zu absolvieren“.
