Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sieht in dem aktuellen Cybersicherheitsvorfall bei OpenAI eine beunruhigende Entwicklung. Ein Sprecher sagte dem SPIEGEL: »Aus Sicht des BSI ist mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen eine neue Zeitrechnung der Cybersicherheit angebrochen. Diese Modelle revolutionieren den Umgang mit Schwachstellen und Sicherheitslücken. Der jüngste konkrete Vorfall mit einem OpenAI-Modell macht deutlich, wie dynamisch die Entwicklung im Bereich der KI ist.«Dass sich solche Ereignisse schnell häufen würden, glaube man beim BSI nicht: »Ein solcher Vorgang, bei dem eine KI aus der Laborumgebung ihrer Forscherinnen und Forscher ausbricht, kostet derzeit noch viele Ressourcen. Dies macht eine unmittelbare Häufung derartiger Vorfälle unwahrscheinlich.« Aber: »Nach Einschätzung des BSI muss aber jederzeit damit gerechnet werden, dass sich solche Vorfälle wiederholen. Es handelt sich daher um einen ernstzunehmenden Vorfall, der die Geschwindigkeit der aktuellen Entwicklung unterstreicht«, heißt es in der Erklärung an den SPIEGEL weiter.
Das BSI nimmt Hersteller von KI-Modellen daher in die Pflicht, den eigenen KI-Agenten Grenzen zu setzen: »mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen«.Unternehmen wiederum müssten sich mit KI als entscheidender Maßnahme für ihre eigene Cybersicherheit auseinandersetzen, heißt es vom BSI.Wie bedrohlich ist der KI-Hackerangriff? Eine künstliche Intelligenz von OpenAI ist heimlich aus einem Testsystem ausgebrochen und hat selbstständig einen Konkurrenten gehackt. Für die Firma ist der Vorfall peinlich. Wie groß die Gefahr für das Netz ist, lesen Sie hier .
