Nach den Ausbrüchen amerikanischer KI-Modelle gibt es nun erstmals auch Berichte über ein chinesisches KI-System, das aus seiner Testumgebung ausgebrochen sein soll. Das Modell Kimi K3 des Pekinger Start-ups Moonshot AI sei in einem Test entkommen und habe sich Zugang zum Internet verschafft. Das teilte das amerikanische Cybersicherheits-Start-up Frontier Security mit. Die Forscher warnten: Wenn ein solches Modell eine Abkürzung entdeckt, könnten ähnliche Modelle das Gleiche tun. Eine Kettenreaktion wäre die Folge.KI-Systeme werden von ihren Entwicklern in einer sogenannten Sandbox getestet. Das bedeutet, dass das System vom Internet abgetrennt ist und in einer eigentlich sicheren Umgebung auf Herz und Nieren untersucht werden kann. Durch eine Fehlkonfiguration sei das Modell aber aus dieser Sandbox ausgebrochen. Es habe sich Zugang zum Internet verschafft und online nach Informationen gesucht, um ihm gestellte Testfragen zu beantworten.Dieses Vorgehen unterscheidet den Fall von den bislang bekannt gewordenen Ausbrüchen aus Testumgebungen von KI-Modellen der amerikanischen Anbieter Open AI und Anthropic. Deren ausgebüxte KI-Systeme hatten Hackingversuche auf die Computer und Plattformen anderer Unternehmen unternommen. Die Information, die Kimi K3 suchte, um seinen Test zu absolvieren, war offenbar öffentlich verfügbar.Ist dieser Fall besonders brisant?Weil es sich bei Kimi K3 aber um ein sogenanntes offenes Modell handelt, das von Nutzern frei heruntergeladen und verändert werden kann, nannten die Forscher von Frontier Security diesen Vorfall „potentiell schädlicher“ als die Testunfälle bei den amerikanischen Konkurrenten. Das Modell sei auch für „feindselige Akteure“ verfügbar. Die in Cyberangriffe verwickelten Modelle von Open AI und Anthropic haben dagegen eine geschlossene Architektur und können von Nutzern nicht frei heruntergeladen werden.Kimi K3 gilt aktuell als das beste chinesische KI-Modell und wurde Mitte Juli veröffentlicht. In den üblichen Ranglisten liegt Kimi K3 mit geringem Abstand direkt hinter den Flaggschiff-Modellen von Open AI und Anthropic. Moonshot wurde 2023 gegründet, hat seinen Sitz in Peking und wird von Yang Zhilin geführt.Yang hat in den USA promoviert und kurzzeitig für Google und Meta gearbeitet. Die US-Regierung wirft dem Unternehmen vor, seine Modelle in großem Stil mithilfe amerikanischer KI-Modelle zu trainieren. Moonshot reagierte zunächst nicht auf eine Anfrage der F.A.Z.Immer wieder bricht die KI ausFrontier Security beschreibt den Vorgang in einem Blogeintrag und verweist auf einen Test des britischen AI Security Institute, einem Institut der britischen Regierung. In der Formulierung wird indes nicht klar, ob die KI Kimi K3 aus einem Test dieses Instituts oder aus einem Test von Frontier Security ausgebrochen ist, der sich an den Standards des AI Security Institute orientiert. Frontier Security ist ausweislich seiner Internetseite ein recht junges Start-up. Der erste Blogbeitrag wurde am 28. Juli dieses Jahres veröffentlicht.Die Serie von Nachrichten über Cyberzwischenfälle begann vor mehr als zwei Wochen mit Open AI. Der ChatGPT-Entwickler teilte mit, zwei seiner Modelle seien aus einer eigentlich als isoliert angelegten Testumgebung durch das Ausnutzen einer Sicherheitslücke ins Internet ausgebrochen, wo sie dann die KI-Plattform Hugging Face angegriffen hätten.In der vergangenen Woche gab Anthropic bekannt, dass seine KI-Modelle sich Zugang zu den Computersystemen von drei Unternehmen verschafft hätten. Dies war offenbar auf menschliche Fehler zurückzuführen, Anthropic zufolge hatten die Modelle in den Tests irrtümlich Zugang zum Internet.Vor wenigen Tagen teilte das britische AI Security Institute mit, in Tests mit Modellen von Anthropic und Open AI 19 „unsanktionierte Handlungen“ beobachtet zu haben. Beispielsweise habe ein Anthropic-Modell unaufgefordert versucht, schädlichen Programmcode in Software unterzubringen. Bei diesen Tests bekamen die Modelle aber anders als in den anderen Fällen absichtlich Zugang zum Internet.