Deutschland will für die nationale Sicherheit ein KI-Institut aufbauen. Bringt das etwas – ausser neuer Bürokratie?Die «virtuelle Institution» soll die Gefahren von künstlicher Intelligenz erkennen und erforschen. Andere Länder haben das schon länger.Eric Matt, Berlin18.06.2026, 17.03 Uhr4 LeseminutenIllustration Anja Lemcke / NZZDie Menschheit fürchtet sich vor Atomwaffen, die künstliche Intelligenz (KI) hält sie für nützlich. Zu diesem – vereinfachten – Ergebnis kommt eine Anfang 2026 veröffentlichte Studie des King’s College London. Die Studie liess insgesamt 21 Nuklearkrisen von den damals leistungsfähigsten KI-Modellen simulieren. Das Resultat: In 95 Prozent der Fälle drohten die jeweiligen KI-Modelle, Krisen mit dem Einsatz von taktischen Atomwaffen zu eskalieren. Das Experiment zeige, dass KI Atomwaffen nicht so stark ablehne, wie es menschliche Entscheidungsträger tun, heisst es in der Studie.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Bislang sind derartige Szenarien, dass eine KI über Atomkriege entscheidet, reine Fiktion. Es ist aber denkbar, dass sie Realität werden. Um sich mit solchen Fragen zu beschäftigen, hat Deutschlands Nationaler Sicherheitsrat Anfang Juni bekanntgegeben, ein KI-Sicherheitsinstitut gründen zu wollen. In einer Pressemitteilung der Bundesregierung hiess es: «Dieses Institut soll unsere Kapazitäten zur Analyse der Fähigkeiten moderner KI-Modelle inklusive ihrer Risiken bündeln, den Informationsaustausch mit vergleichbaren ausländischen Instituten intensivieren und auf einheitliche Standards im Umgang mit KI mit internationalen Partnern hinwirken.»«Erste Meilensteine sollen 2026 erreicht werden»Doch statt etwa das Zusammenspiel zwischen künstlicher Intelligenz und Atomwaffen, Cyberattacken oder Massenmanipulationen zu erforschen, könnte das Institut vor allem eines hervorbringen: eine weitere Behörde mit noch mehr Bürokratie. Denn mit dem Bundesamt für Sicherheit in der Informationstechnik oder der Bundesnetzagentur gibt es bereits Behörden, die sich mit Umgang und Regulierung von KI auseinandersetzen. In Fragen der nationalen Sicherheit gibt es zudem den Bundesnachrichtendienst sowie den Verfassungsschutz. Und beim Deutschen Zentrum für Luft- und Raumfahrt gibt es sogar ein öffentlich finanziertes «Institut für KI-Sicherheit».Angesichts dieser Fülle bereits bestehender Behörden ist fraglich, ob es das KI-Sicherheitsinstitut benötigt. Zumal das Institut zunächst lediglich als «virtuelle Institution» bestehen soll. Das bedeutet: Das Institut wird vorerst kein eigenes Gebäude oder eigenes Personal haben, stattdessen möchte man zunächst auf bestehenden Ressourcen aufbauen. Genaueres ist noch nicht bekannt; sei es der Name des Instituts, die konkreten Aufgaben, der Zeitpunkt der physischen Gründung, der künftige Standort oder die Finanzierung.Ziel sei jedoch ein schneller Aufbau, «bei dem erste Meilensteine bereits 2026 erreicht werden», sagt auf Anfrage eine Sprecherin des Digitalministeriums, das neben dem Innenministerium federführend verantwortlich ist. Das Institut solle «wissenschaftliche und praktische Expertise» vereinen und sich «ausdrücklich auf nichtregulatorische Aspekte» konzentrieren. Man wolle «hochkarätige KI-Kompetenz» aufbauen, um so die Auswirkungen auf Staat, Wirtschaft und Gesellschaft zu analysieren.Marc HenrichmannPDDer Christlichdemokrat Marc Henrichmann ist Vorsitzender des Parlamentarischen Kontrollgremiums, das im Namen des Bundestages die deutschen Nachrichtendienste kontrolliert. Er begrüsst die Gründung des Institutes und sagt, KI sei «heute schon ein Brandbeschleuniger für Cyberangriffe, Phishing und Desinformation». Die Wahrscheinlichkeit dafür, dass hochentwickelte KI-Modelle den Bau von Cyber- oder Massenvernichtungswaffen erleichtern könnten, sei derzeit zwar gering, «der mögliche Schaden aber so gross, dass wir ihn nicht ignorieren dürfen».Das neu gegründete Institut bringe jedoch nur einen Vorteil, wenn es kein Papiertiger werde, sondern die «gefährlichen Fähigkeiten der neuen Spitzenmodelle technisch evaluiert, ein belastbares nationales Lagebild erstellt und dieses direkt an die zuständigen Behörden und die Bundesregierung liefert», sagt Henrichmann der NZZ.Grossbritannien als VorreiterAuch andere Länder, etwa die Vereinigten Staaten, Frankreich oder Kanada, haben KI-Sicherheitsinstitute gegründet. Vor allem Grossbritannien gilt als Vorreiter und erhielt früh Zugriff auf noch unveröffentlichte KI-Spitzenmodelle der Tech-Konzerne, um diese auf Schwachstellen zu testen. Die Entwicklung derartiger Institute geht auf ein Treffen im November 2023 im englischen Bletchley zurück, wo Vertreter aus 28 Staaten vereinbarten, gegen die Gefahren von künstlicher Intelligenz vorzugehen.Im November 2023 fand ein KI-Gipfel statt.ReutersZur Gründung des deutschen KI-Sicherheitsinstitutes dürften ausserdem Meldungen wie die aus der vergangenen Woche geführt haben: Der amerikanische Tech-Konzern Anthropic liess zwei besonders leistungsfähige Modelle für die gesamte Welt sperren, nachdem die US-Administration unter Berufung auf die nationale Sicherheit eine Sperrung für Nichtamerikaner gefordert hatte. Es bestand die Befürchtung, die Sprachmodelle könnten für illegale Tätigkeiten eingesetzt werden.Die Gefahren von KI sind also unbestritten. Doch es darf bezweifelt werden, ob Deutschlands Institut den erwünschten Nutzen bringt. Angesichts der unkonkreten Angaben erweckt es den Anschein, man habe das Institut symbolisch gründen und ankündigen wollen, ohne dass es für die Umsetzung wirkliche Ideen gäbe.Konstantin von NotzPDDies vermutet auch Grünen-Politiker Konstantin von Notz, der stellvertretender Vorsitzender des Parlamentarischen Kontrollgremiums ist. Zwar sei es richtig, die Chancen und Risiken von KI von Expertinnen und Experten analysieren zu lassen. Bislang jedoch handle es sich um «kaum mehr als lose Absichtserklärungen». Die Gefahr, dass lediglich neue Bürokratie entsteht, sei «zweifellos gegeben». Von Notz sagt: «Für uns stellen sich noch zahlreiche Fragen, denen wir nun nachgehen und die wir deutlich an die Bundesregierung adressieren.»Eine dieser Fragen dürfte sein, wie es gelingt, hochqualifiziertes Personal zu gewinnen. Denn anders wird es kaum möglich sein, die besten KI-Technologien zu analysieren und deren Gefahren zu identifizieren. Das weiss auch der christlichdemokratische Digitalminister Karsten Wildberger, der jüngst ankündigte, das Institut solle mit «Top-Expertise von Experten auf Weltniveau» ausgestattet sein. Anderen Ländern gelang es tatsächlich, für ihre KI-Institute Personal von amerikanischen Tech-Konzernen abzuwerben. Damit das auch Deutschland schafft, wäre nicht nur ein Durchbrechen festgefahrener Behördenstrukturen nötig, sondern auch branchentypische Gehälter, die deutlich über denen von Beamten liegen, sagt Christian Djeffal, Direktor des Zentrums für verantwortungsvolle KI-Technologien an der Technischen Universität München.Christian DjeffalPDEs komme aber nicht nur auf die Bezahlung an. «Der amerikanische Tech-Konzern Open AI hat am Anfang mit der Mission geworben, dass KI der gesamten Menschheit zugutekommen soll, und so Spitzenentwickler überzeugt, obwohl die Bezahlung niedriger war als in der Branche üblich», sagt Professor Djeffal. Auch das deutsche KI-Sicherheitsinstitut brauche daher eine glaubhafte Mission und müsse zu einem «Reallabor für KI-Sicherheit» werden, das technisch bestens ausgestattet und sowohl in der Politik als auch in Unternehmen vernetzt sei. Dann sei es möglich, «gute Köpfe» zu gewinnen.Nach der Gründung ist also vor der Arbeit.Passend zum Artikel