Nach dem vorübergehenden Kontrollverlust über zwei seiner KI-Modelle steht der US-Technologiekonzern Open AI heftig in der Kritik. Ein Sprecher des deutschen Digitalministeriums nannte den Vorfall einen „Paradigmenwechsel“. Die Leistungsfähigkeit dieser technischen Systeme nehme rasch zu. Das verändere ‌die Bedrohungslage massiv. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erklärte, neue hochleistungsfähige KI-Modelle hätten eine „neue ‌Zeitrechnung der Cybersicherheit“ eingeläutet. Darauf aber ist die Welt denkbar schlecht vorbereitet.Europa hat zwar KI-Systeme als Hochrisikotechnologie eingestuft und sich strikte Regularien gegeben. Es spielt bei der Entwicklung von KI aber nur in der zweiten Branchenreihe. In der ersten Reihe stehen Amerika und China. Sie liefern sich hier eine Art von Wettrüsten. Daher haben vor allem die Amerikaner sich bislang nur sehr laxe Sicherheitsvorschriften gegeben. So hatte Open AI Anfang der Woche die Verantwortung dafür übernommen, dass zwei seiner KI-Modelle bei internen Tests außer Kontrolle geraten sind.Nicht der einzige VorfallDie Modelle hatten Schwachstellen in den internen Systemen des Konzerns ausgemacht. Die nutzten sie dann als Fluchttore, breiteten sich im Internet aus und agierten dort wie Hacker. Sie griffen unter anderem das KI-Start-up Hugging Face an. Darüber hinaus sollen auch europäische Institutionen betroffen sein. Open-AI-Vorstandschef Sam Altman sprach ⁠von einem „beispiellosen Cybervorfall“. Der Unfall ist nicht der erste und einzige.Im Frühjahr hatte der chinesische IT-Konzern Alibaba die Alarmstufe Rot ausgerufen, nachdem eine hauseigene KI während eines Experiments aus ihrem virtuellen Testkäfig entflohen war und im Internet auf eigene Faust nach finanziellen Mitteln suchte. Zuvor hatte beim US-Internetkonzern Meta ein KI-Agent bei einer technischen Überprüfung virtuelle Panzerschränke mit sensiblen Daten des Unternehmens für den Zugriff eigentlich unbefugter Personen geöffnet. Ende 2025 war beim IT-Konzern AWS ein interner Programmierassistent zu dem Schluss gekommen, der beste Ansatz für die Lösung eines Problems sei, alte Software zu löschen und neue, bessere Programme zu schreiben – was er dann auch tat und die hauseigenen Systeme stundenlang lahmlegte.„Wir werden demnächst deutlich mehr und deutlich massiver auch von KIs angegriffen ⁠werden“, sagte BSI-Chefin Claudia Plattner. „Die nächsten Monate, die nächsten Jahre werden holprig.“ Man müsse mehr als bisher in Cybersicherheit investieren. „Ansonsten wird das ein sehr, sehr unangenehmer Moment, wenn wir morgens aufwachen ‌und feststellen, hier geht nichts mehr.“ Als vordringlich nannte sie den Einsatz von KI zur eigenen Verteidigung. „Das Wichtigste, was wir machen müssen, ist, KI auch für unsere ⁠eigenen Zwecke zu verwenden, um unsere Systeme abzusichern.“ Unternehmen sollten mit KI ihre eigenen Schwachstellen finden, bevor Angreifer dies tun. „Lasst uns die Lücken schließen und die Systeme sicher machen.“