Der aufsehenerregende Hack von Hugging Face durch mehrere autonom agierende KI-Modelle von OpenAI hat bei Angestellten des KI-Unternehmens für erhebliche Unruhe gesorgt. Mit Tests und Sicherheit befasste OpenAI-Mitarbeiter seien von dem Vorfall zwar nicht überrascht gewesen, aber „ausgeflippt“, berichtet die Financial Times unter Berufung auf mehrere Personen mit Einblick in die Geschehnisse.
Der Vorfall habe sich auch vor dem Hintergrund immer aggressiverer Trainingsmethoden ereignet, mit denen OpenAI im Rennen gegen Anthropic bestehen will, so die Financial Times weiter. Der Finanznachrichtendienst Bloomberg berichtet derweil, dass die KI-Modelle nur Stunden für den Einbruch in die Systeme von Hugging Face benötigt hätten, während ein „qualifizierter Mensch“ dafür mehrere Wochen benötigt hätte.
OpenAI wurde angeblich gewarnt
Dass KI-Modelle von OpenAI für den vorige Woche bekannt gewordenen Cyberangriff auf die KI-Plattform Hugging Face verantwortlich waren, hat das KI-Unternehmen am Dienstag eingeräumt. Der Vorfall habe sich während einer „internen Evaluation“ ereignet, bei der Modelle dazu angeregt wurden, ausgefeilte Angriffe über komplexe Pfade durchzuführen, um ihre Fähigkeiten zu quantifizieren. Im Zuge dessen habe GPT‑5.6 Sol sowie ein „noch leistungsfähigeres unveröffentlichtes Modell“ unter anderem eine Zero-Day-Lücke gefunden, die den Ausbruch aus der Sandbox ermöglichte. Auf Hugging Face haben sie dann nach Lösungen für einen Benchmark gesucht, dabei wurden sie entdeckt und ausgesperrt. Anfangs wusste man bei Hugging Face nicht, womit man es zu tun hatte.
