Kimi K3: Auch das chinesisches KI-Modell konnte laut Berichten Sicherheitstests umgehen. Foto: IMAGOSpätestens diese Meldung wirft die Frage auf, was die Silicon-Valley-Firmen wie OpenAI, Anthropic und Meta eigentlich davon haben, wenn sie freizügig zugeben, dass KI-Modelle ausbrechen, dass sie zum Risiko für die Gesellschaft werden. Schließlich heizt das die öffentliche Debatte an, KI zu regulieren.Wer sich mit Firewalls und KI schon länger auseinandersetzt, kommt schnell zu dem Schluss, dass das Gegenteil die Nachricht wäre. Überraschend wäre, wenn KI nicht eingetretene Pfade verlassen könnte. Denn genau darauf ist sie ausgelegt. Die WirtschaftsWoche hatte schon 2022 berichtet, dass amerikanische Forscher KI-Methoden entwickelt haben, die es Websites oder VPN-Software ermöglichen, chinesische Firewalls zu durchdringen. Die Headline lautete damals: „Eine neue Rambo-KI knackt die Zensurmaschine von China und Russland“.KI aktuell Chinesisches KI-Modell findet Lücke in Testumgebung Forscher ertappen Kimi K3 bei einem ungeplanten Ausbruch aus einer Standard-Testumgebung. Sie empfehlen, Testergebnisse aller Modelle zu überprüfen. von Jan WöllerTatsächlich verhielt sie sich wie jener von Sylvester Stallone verkörperte Actionheld. Im Dauerfeuer attackiert die KI potenzielle Schwachstellen, sie scheitert, lernt, bis sie irgendwann durchkommt. Sie nutzt auch wenig naheliegende Möglichkeiten. Es liegt in der Natur von KI, genau das zu versuchen. Dieses Dauerfeuer werde die Sicherheitslandschaft in den nächsten Jahren verändern, sagt ein deutscher KI-Experte.OpenAI, Anthropic, Meta: Freizügige GeständnisseNicht in der Natur von Unternehmen – besonders solchen, die am Kapitalmarkt notiert sind – liegt es aber, die eigenen Schwächen und Probleme offen hinauszuposaunen. Doch das scheint gerade Mode zu sein, wenn es um ausbrechende KI geht. Erst OpenAI, dann Anthropic, danach Meta – alle veröffentlichten schnell und überaus freimütig solche Vorfälle.Die Abstürze der Boeing 737 Max und der Dieselskandal um Volkswagen haben uns gelehrt, wie große Unternehmen oft mit negativen Nachrichten umgehen: Erst wird hartnäckig geleugnet. Wenn das nicht mehr geht, wird heruntergespielt. Dann wird scheibchenweise mit der Wahrheit herausgerückt. Vielleicht ticken KI-Firmen des Silicon Valley einfach anders. Das wäre allerdings neu. Gegen eine Mitverantwortung für Schäden an der seelischen und geistigen Gesundheit von Jugendlichen durch Social Media sträuben sich Meta und Co. mit Händen und Füßen – auch weil Eingeständnisse potenziell teuer sind.John Thickstun, Professor an der US-Elite-Uni Cornell, der sich mit dem Verhalten von KI-Modellen beschäftigt, äußerte kürzlich gegenüber der Nachrichtenagentur AP seine Verwunderung über die öffentliche Aufregung wegen entflohener KI: „Eine der interessanten Eigenschaften dieser Sprachmodelle ist, dass dieselben Fähigkeiten, die es ihnen ermöglichen, Cyberangriffe durchzuführen, es ihnen auch erlauben, Cyberbedrohungen zu analysieren und Abwehrmaßnahmen zu entwickeln.“„Kimi K3“ Neues KI-Modell aus China rüttelt die Märkte durch Moonshot AI präsentiert das größte chinesische KI-Modell – und plant den Börsengang. Was das für Nvidia und andere Aktien bedeutet. Laut Keith Wilson, Philosoph für Kognitionswissenschaften am University College Dublin, begingen die Medien die Todsünde, „PR für die KI-Branche“ zu betreiben. „KI-Unternehmen wollen ihre Produkte an den Mann bringen“, schrieb er auf Bluesky. „Diese Art der Anthropomorphisierung wirkt sich direkt auf ihren Aktienwert aus. Sie ist Teil ihres Verkaufsarguments.“Frontier Security und Moonshot: Wer profitiert?Dass nun Frontier Security ausgerechnet Mooshot AI und Kimi K3 aufführt, rundet das Bild ab. Die Botschaft lautet nun: Die amerikanische KI ist eine echt mächtige Waffe, aber China hat ebenfalls eine solche mächtige Waffe im Programm. Sollte also ein hybrider Krieg zwischen beiden Nationen ausbrechen, müssen die USA zwingend gewappnet sein. Wenig Erwähnung findet dabei, dass für realistische Stresstests (Sandboxing) Sicherheitsvorkehrungen von Forschern oft absichtlich herabgesetzt werden, um die Grenzen autonomer Agenten zu ermitteln. So waren diese Sandboxes auch bei den aktuellen Fällen ans Internet angeschlossen.Was also steckt hinter der offenen Kommunikation der Ausbrüche? Es drängt sich ein Verdacht auf.Es stehen die Börsengänge von OpenAI und Anthropic an. Beide wollen vom Kapitalmarkt Geld – in Zeiten, in denen immer mehr über das riskante Finanzierungsmodell der dahinter liegenden Rechenzentren gesprochen und geschrieben wird. So hat etwa Michael Burry, der die Finanzkrise 2007 vorhergesagt hat, gerade erst bei KI-Stars wie Oracle und Nebius auf fallende Kurse gesetzt. Und zugleich an schon bestehenden Short-Positionen, etwa bei Nvidia, festgehalten.Kimi K3 KI-Modell aus China sorgt für Furore – das müssen Sie jetzt wissen Offen, billig und stark beim Programmieren: Das Modell Kimi K3 des Start-ups Moonshot AI verschiebt die Machtfrage in der KI. Die zentralen Fragen und Antworten im Überblick. von Stephan Scheuer, Sabine Gusbeth und Larissa HolzkiDie Botschaft der Ausbruchsversuche lautet nun: Wir sind systemrelevant, insbesondere für eine hybride Kriegsführung. Der Staat muss uns im Zweifel retten, wenn wir in Schieflage geraten. Wenn Anleger spüren, dass Staaten die KI-Player tatsächlich als unverzichtbar ansehen und sie im Notfall mit Steuermilliarden retten würden, kann die Party an den Börsen ungehindert weitergehen – es kann nicht viel schiefgehen. Ganz so, wie die Banken vor der Finanzkrise von 2008 wussten, dass sie wegen ihrer Systemrelevanz auch mit hochgefährlichen Derivate-Deals Milliarden scheffeln konnten.Bei US-Präsident Donald Trump greift das Narrativ bereits. Über die KI-Player sagte er unlängst: „Wir müssen in beiderlei Hinsicht vorsichtig sein. Wir wollen sie nicht einschränken, wenn wir plötzlich hinter China zurückfallen“, sagt er und fügt hinzu: „Ich kenne viele dieser Leute. Ich möchte sie nicht daran hindern, großartige Arbeit zu leisten.“Tatsächlich ist ein Bailout – wie bei den Banken in der Finanzkrise – zu erwarten, sollte die KI-Blase platzen. Künstliche Intelligenz ist in den vergangenen Jahren zu einem der wichtigsten geopolitischen Instrumente herangewachsen, das darüber mitentscheiden wird, ob eine Nation künftig einen Krieg gewinnen oder verlieren kann. Und genau das stellen die Unternehmen mit ihren Ausbruchsmeldungen nun regelrecht ins Schaufenster.