Der US-amerikanische KI-Entwickler Anthropic kappt nach einer Anordnung der US-Regierung den Zugang zu seinen fortschrittlichsten Modellen für Künstliche Intelligenz vorerst für alle Nutzer weltweit. Das Handelsministerium in Washington habe aus Gründen der nationalen Sicherheit untersagt, ausländischen Staatsbürgern Zugriff auf die neuen Modelle „Fable 5“ und „Mythos 5“ zu gewähren, teilte das ⁠Unternehmen mit. Betroffen von dem Verbot seien auch Ausländer, die sich in den USA aufhalten – und selbst die, die bei Anthropic arbeiten. Um diese Vorgabe zu erfüllen, bleibe nichts anderes übrig, als die Systeme komplett vom Netz zu nehmen.Die US-Regierung habe ihre Sicherheitsbedenken nicht näher ausgeführt, erklärte Anthropic. Offenbar sei sie jedoch besorgt wegen sogenannter Jailbreaks, also Methoden, mit denen ‌Nutzer die eingebauten Sicherheitsvorkehrungen der KI umgehen können. Die US-Behörden befürchteten ‌anscheinend, dass die KI-Modelle zur Aufdeckung von Schwachstellen in Software missbraucht werden könnten. Allerdings habe die Regierung nur mündliche Hinweise auf eine eng begrenzte Umgehungsmöglichkeit gegeben.„Wir sind nicht der Ansicht, dass die Entdeckung eines potenziellen, eng begrenzten Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzurufen, das bei Hunderten Millionen Menschen im Einsatz ist“, erklärte das Unternehmen. Würde dieser Maßstab branchenweit angelegt, käme die Einführung neuer Modelle faktisch zum Erliegen. Es handle sich offenbar um ein Missverständnis. ‌Anthropic betonte, man habe bisher nur teilweise Informationen von der Regierung erhalten. Die Firma habe einen Bericht geprüft, der nach Einschätzung des Unternehmens der Auslöser der Anordnung gewesen sein dürfte. Dabei seien die Anthropic-Experten zu dem Schluss gekommen, dass es sich dabei um eine eingeschränkte Möglichkeit handele, die KI spezifische Programmcodes prüfen und Fehler korrigieren zu lassen. Diese Fähigkeit hätten auch Modelle anderer Anbieter wie etwa GPT-5.5 des Rivalen Open AI. Die Firma betont, dass die Sicherheitsvorkehrungen bei Fable 5 ausgiebig getestet worden seien. Das Unternehmen kündigte an, den Zugang so bald wie möglich wieder herzustellen.Das Unternehmen befindet sich in einer sensiblen PhaseNoch am Mittwoch hatte Anthropic selbst eine stärkere Aufsicht ‌der USA über KI gefordert, einschließlich ‌der Möglichkeit, Modelle mit inakzeptablen Risiken zu sperren. Die Maßnahmen der Regierung vom Freitag entsprächen jedoch nicht den Grundsätzen einer fairen und faktenbasierten Regulierung, erklärte das Unternehmen nun. Die Anordnung erreichte Anthropic zudem in einer für das Unternehmen sensiblen Phase: Im Mai hatte der Konzern ‌vertraulich die Unterlagen für einen Börsengang eingereicht.Die IT-Chefin des Verteidigungsministeriums, Kirsten Davies, verteidigte das Vorgehen der Regierung: „Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Unternehmensbewertungen vor einem Börsengang. America First. Immer“, schrieb sie auf der Plattform X.Anthropics Verhältnis zur Regierung von US-Präsident Donald Trump ist angespannt. Das Unternehmen hatte sich ⁠geweigert, dem US-Militär die Nutzung seiner Modelle für inländische Überwachung und vollständig ‌autonome Waffensysteme zu ‌gestatten. Daraufhin setzte die Regierung Anthropic auf eine schwarze Liste für Lieferketten.Die Künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu schließen. Eine Sorge war von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte. Das erst vergangene Woche veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie, in dem aber die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert sind. Mythos 5 ist die nicht-öffentliche volle Version, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden sollte.Anthropic war in den vergangenen Monaten immer wieder in die Schlagzeilen. Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen. Das Pentagon erklärte Anthropic daraufhin zu einem Lieferketten-Risiko, was den Einsatz von Software des Unternehmens in Regierungsbehörden schwer beeinträchtigen kann. Die Firma klagt dagegen. Die außerordentlichen Cybersicherheitsfähigkeiten von Mythos machten Anthropic dann aber wieder wichtig für die US-Regierung.