KI-News aktuell: Chinesisches KI-Modell Kimi K3 entkommt Testumgebung

Startseite

Unternehmen

IT

KI aktuell: Chinesisches KI-Modell findet Lücke in Testumgebung Forscher ertappten Mythos 5 bei einem erneuten Cyberangriff. Die KI hat sich Fake-Identitäten erstellt, um schadhaften Code in ein Github-Projekt zu schleusen.

KI-Apps auf einem Handy-Display: OpenAIs ChatGPT, Googles Gemini und Anthropics Claude Foto: Getty Images10. August 2026 – Chinesisches KI-Modell findet Lücke in TestumgebungDas KI-Modell Kimi K3 von Moonshot AI hat sich bei einer Evaluation ungeplant Zugang zum Internet verschafft, wie die Cybersecurity-Forscher Paul Kassianik und Yaron Singer im Blog „Frontier Security“ vergangene Woche mitteilten.Die Forscher erklärten, dass die KI eine Lücke in der Testumgebung des britischen AI Safety Instituts entdeckt und dadurch auf die Entwicklerplattform Github.com zugegriffen habe. Dort lud es die offiziellen Ergebnisse der ihm gestellten Testaufgabe herunter und umging damit die Notwendigkeit, die Aufgabe selbst lösen zu müssen. Schaden richtete das Modell bei dem Vorgang offenbar nicht an.Die Forscher betonten, dass fortschrittliche KI-Agenten darauf trainiert seien, die richtige Lösung zu finden – aber nicht unbedingt auf dem Weg, den Menschen beabsichtigen. Mittlerweile würden die Agenten routinemäßig nach Netzzugängen suchen und sie, wenn es sie gibt, auch finden. So könnten sie bei Cybersecurity-Tests schummeln, was bedeutet, dass ihre Fähigkeiten vielleicht weniger ausgeprägt sind, als die Testergebnisse vermuten lassen.Künstliche Intelligenz Wer haftet, wenn eine KI außer Kontrolle gerät? Die Forscher empfehlen, den Internetzugang nur für explizit erwünschte Seiten zu erlauben. Auch sollten Tester davon ausgehen, dass KI-Agenten vorhandene Lücken im System finden. Und schließlich sollten verdächtige Ergebnisse über alle Modelle hinweg auf Schummeleien überprüft werden.Der Ausbruch des chinesisches KI-Modells reiht sich in eine Reihe von Cyerbersicherheitsvorfällen, die in den vergangenen Wochen bekannt wurden. Auch Modelle der US-Entwickler Anthropic, OpenAI und Meta konnten sich aus ihren Testumgebungen befreien und sind dabei teils sogar in die Computersysteme anderer Unternehmen eingedrungen, um die ihnen gestellten Aufgaben zu erfüllen.Ende Juli hatten mehr als 1000 führende KI-Experten in einem offenen Brief eine internationale Entwicklungsbremse für KI-Modelle gefordert, um zunächst Lösungen für die von Künstlicher Intelligenz ausgehenden Gefahren zu finden. Zu den Unterzeichnern zählen führende Forscher und Manager unter anderem von OpenAI, Anthropic, Google und Meta.07. August 2026 – OpenAI pausiert KI-Modell Astra wegen SicherheitsbedenkenOpenAI hat die Entwicklung seines neuen KI-Modells Astra teilweise gestoppt. Das Unternehmen könne „kritische“ Cyber-Fähigkeiten nicht ausschließen, wie OpenAI in einem Blogeintrag mitteilte. Frühere Modelle, einschließlich des aktuell veröffentlichten Spitzenmodells GPT-5.6 Sol, wären bei ähnlichen Tests lediglich mit „hoch“ statt mit „kritisch“ eingestuft worden.Dem KI-Entwickler zufolge werde ein Modell als „kritisch“ eingestuft, wenn es eigenständig unbekannte Sicherheitslücken in geschützten Systemen entdecken und attackieren oder neue Strategien für Cyberangriffe entwickeln kann.Als Reaktion auf die Einstufung habe OpenAI Sicherheitsmaßnahmen wie isolierte Testumgebungen, Modell-Gewichte-Verschlüsselung und Risikoüberwachung ausgeweitet. Alle Aktivitäten, die mit Astra in Verbindung stehen und die Sicherheitsanforderungen nicht erfüllen, seien vorerst pausiert worden.OpenAI betont außerdem, dass Astra ein neues Modell und damit nicht in den Huggig-Face-Hack involviert gewesen sei.06. August 2026 – Auch Meta-KI hackt anderes UnternehmenNach den KI-Firmen OpenAI und Anthropic muss auch der Facebook-Konzern Meta einräumen, dass sein KI-Modell ein anderes Unternehmen gehackt hat, wie die Nachrichtenagentur dpa-AFX berichtet. Ähnlich wie bei einigen Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Testsystems, wie Meta unter anderem dem Sender CNN mitteilte. Durch die falsche Einstellung hatten die KI-Modelle Zugang zum Internet - was eigentlich gar nicht vorgesehen war.Zusammenarbeit mit KI „Mensch-KI-Kollaborationen führen im Durchschnitt zu schlechteren Ergebnissen“ von Jannik DetersMeta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung einer Schwachstelle eindrang. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners.05. August 2026 – Anthropics Mythos 5 schickt Phishing-Mails an MenschenBritische Sicherheitsforscher haben das KI-Modell Mythos 5 von Antrophic in einem Testlauf bei einem erneuten Hacking-Versuch ertappt, wie die Deutsche Presse-Agentur berichtet.Dafür habe die Anthropic-KI sich selbst einen Account auf der Software-Plattform GitHub angelegt und versucht, eine Schwachstelle in den Code eines öffentlich zugänglichen Projekts einzubauen. Um Betreuer der Software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishing-Mails gehört, mit denen Angreifer Menschen etwa Login-Informationen abluchsen.Als der bösartige Programmiercode schließlich aufgefallen sei, habe das Anthropic-Modell alles als einen aufrichtigen Fehler dargestellt – und gleich darauf versucht, die Schwachstelle in angeblichen Korrekturen wieder unterzubringen. Außerdem habe Mythos 5 daran gearbeitet, andere KI-Agenten zu infizieren. Der Programmiercode dafür sei nicht auf der Website angezeigt worden, sondern wäre nur von KI-Software über eine Schnittstelle gelesen worden, hieß es.Ranking 2026 Chinesische Modelle holen im KI-Rennen auf von Jan WöllerDas KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic und OpenAI in Cybersicherheits-Tests absichtlich Zugang zum Internet gewährt. Die Forscher seien allerdings davon ausgegangen, dass die KI sich nur Software-Werkzeuge aus dem Netz holen würde, um die gestellte Aufgabe zu erfüllen. Sie hätten „nicht vorhergesehen“, dass das Anthropic-Modell den Internet-Zugang für gegen Menschen gerichtete Aktivitäten nutzen würde. Sie räumten außerdem ein, dass sie das Vorgehen erst nachträglich über eine Auswertung des Datenverkehrs entdeckten. In künftigen Test wollen sie die Datenströme in Echtzeit besser beobachten.Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internet-Nutzung auferlegt worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.Dem AI Security Institute (AISI) zufolge ist unklar, ob die KI bei dem Test verstand, dass sie mit der realen Welt und nicht dem Test-Umfeld interagierte. Dass die Künstliche Intelligenz zur Lösung der Aufgabe öffentlich zugängliche Software manipulieren würde, kam für die Forscher jedenfalls überraschend. Auch KI von OpenAI sei in Testläufen auf eigene Faust im Internet aktiv gewesen, hieß es.04. August 2026 – US-Regierung ordert KI-Entwickler ins Weiße HausDie US-Regierung hat Insidern zufolge die Technologiekonzerne Meta, Anthropic, OpenAI und Google für Dienstag zu einem Treffen ins Weiße Haus eingeladen, wie die Nachrichtenagentur Reuters berichtet. Dort sollen freiwillige Sicherheitstests für die fortschrittlichsten US-Modelle für Künstliche Intelligenz (KI) besprochen werden, wie drei mit der Angelegenheit vertraute Personen sagten.Hintergrund sind jüngste Eingeständnisse von Anthropic und OpenAI, wonach ihre KI-Werkzeuge in die Systeme anderer Firmen eingedrungen sind. Dies schürte bei US-Gesetzgebern die Sorge, dass immer leistungsfähigere KI-Modelle für Cyberangriffe genutzt werden könnten.Eine Gruppe von 15 republikanischen Generalstaatsanwälten forderte OpenAI am Montag, den 3. August, auf, alle potenziell relevanten Dokumente im Zusammenhang mit dem Vorfall aufzubewahren. Das Unternehmen habe möglicherweise gegen Verbraucherschutzgesetze der Bundesstaaten verstoßen, schrieben sie. Zudem forderte der Cybersicherheitsausschuss des US-Repräsentantenhauses OpenAI-Chef Sam Altman zu einer Unterrichtung über den Angriff auf, wie Reuters berichtet.Künstliche Intelligenz Chinas Militär trainiert offenbar eigene KI mit US-Modellen Ein Vertreter des Weißen Hauses sagte am Montag, die Regierung von Präsident Donald Trump habe die Einzelheiten der freiwilligen Tests zur Messung der Hacking-Fähigkeiten der fortschrittlichsten amerikanischen KI-Modelle fertiggestellt. Details zu den Tests, etwa wie die Ergebnisse gemeldet werden oder ob sie veröffentlicht werden, nannte das Weiße Haus jedoch nicht.OpenAI-Chef Altman hatte bereits vergangene Woche das Weiße Haus besucht, um Details der Tests und kommende KI-Produkte zu besprechen, wie das Unternehmen mitteilte. Es habe die Regierung zudem gebeten, die KI-Sicherheitsexperten des Handelsministeriums in den Mittelpunkt der Tests zu stellen, wie Reuters berichtet.03. August 2026 – Alibaba stellt neues KI-Modell „Qwen3.8-Max“ vorDer chinesische Technologie-Konzern Alibaba hat eine neue Version seines KI-Modells veröffentlicht, wie die Deutsche Presse-Agentur berichtet. Laut Angaben des Unternehmens spielt „Qwen3.8-Max“ in einer Liga mit den US-amerikanischen Spitzenmodellen von OpenAI und Anthropic. Das Modell soll besonders gut programmieren, umfangreiche Recherchen erledigen und komplexe Aufgaben weitgehend selbstständig bearbeiten können.„Qwen3.8-Max“ ist bereits das zweite chinesische Modell, das sich an die Weltspitze drängt. Erst vor wenigen Wochen wurde „Kimi K3“ des chinesischen Entwicklers Moonshot AI vorgestellt. Von dem US-amerikanischen Analyseunternehmen Artificial Analysis wird „Kimi K3 (max)“ ein Intelligenzwert von 57 zugesprochen. Damit liegt es auf Platz drei der Weltrangliste von Artificial Analysis und nur knapp hinter OpenAIs GPT-5.6 Sol (max) mit 59 Punkten und Anthropics Claude Opus 5 (max) mit 61 Punkten.Leserfrage Warum sind KI-Systeme aus China oft viel billiger als die aus den USA? von Thomas KuhnAlibaba zufolge schnitt „Qwen3.8-Max“ in mehreren Tests dennoch besser ab als der heimische Konkurrent von Moonshot AI. Eine unabhängige Bewertung von Artificial Analysis liegt bislang nicht vor. Allerdings war „Qwen3.8-Max“ auf der Vergleichsplattform Arena.AI bei Textaufgaben das bestplatzierte chinesische Modell und zeigte sich auch bei der Auswertung von Bildern besonders stark. Insgesamt blieb es jedoch hinter den Anthropic-Modellen.Schon jetzt kann „Qwen3.8-Max“ genutzt werden und in der kommenden Woche will Alibaba auch die Modellgewichte veröffentlichen. Dann können Entwickler das System herunterladen, selbst betreiben und an eigene Anwendungen anpassen.Mit Agenturmaterial. Mehr zum Thema Unsere Partner Anzeige Stellenmarkt Die besten Jobs auf Handelsblatt.com Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Remind.me Jedes Jahr mehrere hundert Euro Stromkosten sparen – so geht’s Anzeige Presseportal Lesen Sie die News führender Unternehmen! Anzeige Bellevue Ferienhaus Exklusive Urlaubsdomizile zu Top-Preisen Anzeige Übersicht Ratgeber, Rechner, Empfehlungen, Angebotsvergleiche Anzeige Finanzvergleich Die besten Produkte im Überblick