„Das ist kein Skynet-Szenario“ – Verfassungsschützer warnt vor KI-Panikmache

Startseite

Politik

Deutschland

Interview: Verfassungsschützer warnt vor Panikmache nach KI-Cyberangriff OpenAI meldet einen beispiellosen KI-Vorfall, China setzt mit Kimi K3 neue Maßstäbe. Ob jetzt ein Szenario wie im Film „Terminator“ droht, erklärt Thüringens Verfassungsschutzchef Kramer.

OpenAI-Logo: KI-Systeme werden eigenständiger. Foto: IMAGO/ZUMA WireBerlin. Für Thüringens Verfassungsschutzpräsident Stephan Kramer ist der jüngste KI-Vorfall bei OpenAI ein „Warnsignal“ für die Sicherheitsbehörden. Dennoch gebe es keinen Grund, jetzt in Panik zu verfallen. „Das ist kein Skynet-Szenario“, sagt er dem Handelsblatt. Kramer spielt auf das KI-System aus der Reihe „Terminator“ an, das im Film ein eigenes Bewusstsein entwickelte und einen Vernichtungskrieg gegen die Menschheit begann.Für Kramer stehen die jüngsten Ereignisse exemplarisch für den rasanten Wandel der Cybersicherheitslage: eigenständigere KI-Systeme und neue Möglichkeiten für Cyberkriminelle sowie ausländische Nachrichtendienste. Deutschland muss seine Sicherheitsstrategie anpassen.Lesen Sie hier das komplette Interview:Herr Kramer, OpenAI spricht von einem beispiellosen Cybervorfall. Zu Recht?Der Vorfall ist aus meiner Sicht sehr ernst zu nehmen, sollte aber nüchtern eingeordnet werden. OpenAI hat selbst offengelegt, dass zwei fortgeschrittene KI-Modelle während eines internen Sicherheitstests ihre Testumgebung verlassen und sich unbefugten Zugang zu einer externen Infrastruktur verschafft haben. Allein das macht den Fall außergewöhnlich.Was genau ist dabei passiert?Die Modelle wurden bewusst mit gelockerten Sicherheitsbeschränkungen getestet, um ihre maximalen Cyberfähigkeiten zu messen. Statt nur ihre Testaufgaben zu erfüllen, fand die Software einen Weg aus der Testumgebung heraus zum offenen Internet, kombinierte mehrere Angriffstechniken und verfolgte ihr Ziel eigenständig weiter.Ist das ein Wendepunkt?Neu ist, dass wir es hier mit keinem von Menschen Schritt für Schritt gesteuerten Angriff zu tun haben. Die KI plante und koordinierte die Angriffskette eigenständig innerhalb ihres vorgegebenen Ziels. Das ist der eigentliche Paradigmenwechsel.Droht jetzt ein Szenario wie im Film „Terminator“?Nein. Wir sollten jetzt nicht in Panik verfallen. Das ist kein Skynet-Szenario. Die KI hatte weder eigene Absichten noch ein eigenes Motiv. Sie wollte weder Menschen schaden noch Geld stehlen. Der Angriff entstand im Rahmen einer speziellen Testkonfiguration mit bewusst reduzierten Sicherheitsmechanismen. Für Sicherheitsbehörden ist der Vorfall dennoch ein Warnsignal.Kramer: Sicherheitsbehörden benötigen eigene leistungsfähige KI-Systeme. Foto: Martin Schutt/dpaWarum?Der Vorfall bestätigt die These, dass KI zunehmend nicht nur ein Werkzeug zur Unterstützung von Angreifern ist, sondern selbst komplexe Angriffsschritte übernehmen kann. Der sicherheitspolitische Fokus verschiebt sich daher von der Frage „Kann KI beim Hacken helfen?“ zu „Wie verhindern wir, dass hochautonome KI-Systeme selbst zu operierenden Cyberakteuren werden?“Fast zeitgleich mit dem Cybervorfall bei OpenAI veröffentlicht China mit Kimi K3 ein besonders leistungsfähiges Open-Source-Modell. Macht Ihnen das Sorgen?Sehr leistungsfähige, frei verfügbare KI-Modelle können ein deutlich verstärktes Sicherheitsrisiko darstellen. Entscheidend ist aber nicht allein, dass ein Modell offen verfügbar ist. Ausschlaggebend sind seine Fähigkeiten und die Frage, ob sich Sicherheitsmechanismen später entfernen lassen. Vita Stephan Kramer Seit dem 1. Dezember 2015 ist Kramer Präsident des Amtes für Verfassungsschutz Thüringen. Als oberster Verfassungsschützer in dem Bundesland wurde er bekannt mit politischen Maßnahmen gegen die in Teilen rechtsextreme Partei AfD.Als Schüler trat Kramer der Jungen Union bei, später der CDU. Er studierte Jura, arbeitete als Büroleiter für zwei CDU-Bundestagsabgeordnete, wechselte dann zunächst zur FDP und wurde 2010 Mitglied der SPD.Mehrere Jahre arbeitete Kramer für den Zentralrat der Juden in Deutschland und war ab 2004 dessen Generalsekretär. Er ist stellvertretender Vorsitzender der Landesgemeinde in Thüringen. Seine Vorfahren stammen aus dem thüringischen Altenburg, er selbst wurde 1968 in Siegen in Nordrhein-Westfalen geboren.Warum sind frei herunterladbare Modelle problematischer?Bei KI-Modellen, die nur über die Cloud genutzt werden, behält der Anbieter die Kontrolle. Er kann Anfragen überwachen, Nutzer sperren oder Sicherheitsmechanismen nachträglich anpassen. Werden dagegen die sogenannten Modellgewichte veröffentlicht, also die erlernten Parameter, die das Verhalten des Modells bestimmen, kann jeder das System auf eigenen Rechnern betreiben und verändern. Dabei lassen sich Schutzmechanismen entfernen. Sind die Modellgewichte einmal veröffentlicht, ist ihre weitere Verbreitung praktisch nicht mehr zu kontrollieren.Welche Gefahren sehen Sie konkret?KI kann Cyberangriffe beschleunigen, täuschend echte Phishing-Nachrichten erstellen, Schadsoftware anpassen oder personalisierte Desinformation erzeugen. Das größte Risiko ist, dass KI auch weniger erfahrenen Angreifern komplexe Cyberangriffe ermöglicht.Davon dürften dann auch ausländische Nachrichtendienste profitieren.Ja. Open-Source-KI kann Cyberkriminellen und Nachrichtendiensten die Vorbereitung und Durchführung von Cyberangriffen erleichtern. Sie ersetzt zwar bislang meist keinen erfahrenen Hacker, sorgt aber für deutlich mehr Geschwindigkeit, Automatisierung und Skalierung.Kimi K3 KI-Modell aus China sorgt für Furore – das müssen Sie jetzt wissen Was unterscheidet hierbei Nachrichtendienste von gewöhnlichen Cyberkriminellen?Für Cyberkriminelle liegt der Vorteil von KI vor allem darin, Angriffe in großem Umfang und zu deutlich geringeren Kosten durchführen zu können: mehr Phishing, schnellere Betrugsversuche, automatisierte Anpassungen von Schadsoftware und geringere Kosten pro Opfer.Wie gehen Geheimdienste vor?Nachrichtendienste verfügen häufig bereits über gestohlene oder auf geheimdienstlichem Weg beschaffte Daten. Hinzu kommen Informationen über konkrete Zielpersonen, eigene technische Infrastruktur, bislang unbekannte Schwachstellen sowie über Jahre aufgebaute Zugänge und Tarnidentitäten. KI hilft ihnen, all diese Daten schneller auszuwerten, miteinander zu verknüpfen und Operationen gegen viele Ziele gleichzeitig vorzubereiten und durchzuführen.Thorsten Benner Der Kampf zwischen Washington und Peking um die KI-Dominanz beginnt gerade erst Macht KI Hacker bald überflüssig?Nein. Besonders anspruchsvolle Angriffe erfordern weiterhin menschliche Planung und operative Erfahrung. Die größte Gefahr besteht derzeit eher darin, dass erfahrene Angreifer mithilfe von KI schneller und wirksamer vorgehen können. Weniger erfahrene Täter erhalten dagegen Fähigkeiten, über die sie bislang nicht verfügten.Welche sicherheitspolitischen Konsequenzen folgen daraus?Deutschland muss dringend seine Sicherheitsstrategie anpassen. Die heutige Cybersicherheitsstrategie berücksichtigt leistungsfähige KI-Modelle, autonome KI-Agenten und KI-gestützte Angriffsketten noch nicht ausreichend. Wir brauchen deshalb ein eigenes Lagebild „KI und Cyberoperationen“.Das heißt?Die Sicherheitsbehörden sollten gemeinsam beobachten, welche offenen Modelle tatsächlich offensive Cyberfähigkeiten besitzen. Dafür brauchen wir ein technisches Frühwarnsystem und nicht nur eine allgemeine Beobachtung der KI-Entwicklung. Das ist auch deshalb dringend, weil sich die allgemeine Cyberlage bereits auf hohem Niveau bewegt. Das Bundesamt für Sicherheit in der Informationstechnik meldete für 2025 durchschnittlich 119 neu bekannt gewordene Schwachstellen pro Tag.Sollten die Behörden bei der Cyberabwehr stärker auf KI setzen?Ja. Der Staat darf nicht ausschließlich defensiv und manuell arbeiten, während Angreifer ihre Prozesse automatisieren. Sicherheitsbehörden benötigen eigene leistungsfähige KI-Systeme. Sie sollen damit große Mengen technischer Angriffsdaten analysieren, neue Schadsoftware erkennen oder Phishing- und Desinformationskampagnen abwehren. Verwandte Themen OpenAIChinaDeutschlandKünstliche IntelligenzAlibabaSoftwareSind strengere KI-Regeln notwendig?Ein pauschales Verbot offener Modelle wäre weder sinnvoll noch praktisch durchsetzbar. Offene Modelle stärken Forschung, Wettbewerb und digitale Souveränität. Bei besonders leistungsfähigen Modellen sollte eine vollständige Veröffentlichung aber erst nach gründlichen Sicherheitsprüfungen erfolgen. Gefährliche Fähigkeiten dürfen nicht unkontrolliert weltweit verfügbar werden.Vielen Dank für das Interview, Herr Kramer. Veröffentlicht nach den redaktionellen Standards des Handelsblatts. Mehr Informationen finden Sie in unseren Richtlinien. Mehr zum Thema Unsere Partner Anzeige remind.me Jetziges Strom-/Gaspreistief nutzen, bevor die Preise wieder steigen Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Presseportal Direkt hier lesen! Anzeige STELLENMARKT Mit unserem Karriere-Portal den Traumjob finden Anzeige Expertentesten.de Produktvergleich - schnell zum besten Produkt