Künstliche Intelligenz, die außer Kontrolle gerät: Das ist eines der Albtraumszenarien, die in den vergangenen Jahren in Diskussionen über KI beschworen werden. Und spätestens jetzt ist klar, dass es eine dringliche Aufgabe für heute und nicht erst in ferner Zukunft ist, sich darauf einzustellen. Open AI teilte jetzt mit, zwei seiner KI-Modelle hätten sich während interner Tests selbständig gemacht und einen Cyberangriff auf ein anderes Unternehmen verübt. Der Entwickler von ChatGPT ist also unbeabsichtigt selbst zum Hacker geworden. Zum Glück scheint die Attacke keinen größeren Schaden verursacht zu haben. Aber man muss nicht viel Phantasie haben, um sich vorzustellen, dass eine wild gewordene KI weitaus Schlimmeres anrichten könnte.Es ist ein Weckruf – und nicht der erste. Vor wenigen Monaten brachte Anthropic, einer der wichtigsten Rivalen von Open AI, sein KI-Modell Mythos heraus, das in der Lage ist, Sicherheitslücken in Software aufzuspüren und auszunutzen. Mythos hat deutlich gemacht, wie nützlich KI für Hacker sein könnte – und nicht nur zum Schutz vor Hackern. Es sind zwei Seiten derselben Medaille.Notwendigkeit von Diskussionen über RegulierungEs ist noch unklar, inwiefern Open AI nun ein Vorwurf der Nachlässigkeit zu machen ist. Der Vorfall unterstreicht aber die Notwendigkeit von Diskussionen über die Regulierung von KI-Technologien. Die US-Regierung unter Donald Trump hat dies lange nicht für wichtig gehalten, sondern sogar eher für schädlich. Ihre Marschrichtung war es, KI möglichst wenig zu regulieren, nicht zuletzt um die Überlegenheit der USA auf diesem Gebiet im Wettbewerb mit China zu gewährleisten.Anthropics Mythos-Modell scheint sie immerhin ein Stück weit alarmiert zu haben, und Trump hat kürzlich ein Dekret herausgegeben, das eine etwas stärkere staatliche Aufsicht über die KI-Branche zur Folge haben könnte. Zum Beispiel sieht es vor, dass KI-Unternehmen der Regierung ihre Modelle auf freiwilliger Basis zur Prüfung zur Verfügung stellen.Dies ist allerdings noch immer ein recht halbherziger Regulierungsversuch, der den Anschein erweckt, Sicherheitsfragen rund um KI hätten in der Trump-Regierung keine allzu hohe Priorität. Der Kontrollverlust von Open AI über seine KI-Modelle ist nun ein abermaliger und besonders lauter Warnschuss. Es ist zu hoffen, dass die US-Regierung ihn hört.