Open AI hat aus Sicherheitsgründen die Entwicklung eines KI-Modells teilweise gestoppt. Das Unternehmen teilte mit, es könne nicht ausschließen, dass sein neues Modell Astra über „kritische Cyberfähigkeiten“ verfüge. Interne Tests in den vergangenen Tagen hätten ergeben, dass es auf diesem Gebiet erhebliche Fortschritte gemacht habe. Open AI will nun strengere Sicherheitskontrollen für seine leistungsstärksten Modelle einführen.Dazu soll es gehören, Testumgebungen zu isolieren und den Zugang zum Internet zu beschränken. Die Entwicklung von Astra soll vorerst nur noch unter diesen Restriktionen fortgesetzt werden. Andere Arbeiten an dem Modell will Open AI erst einmal einstellen.Serie von Cyberzwischenfällen mit KI-ModellenDies ist einer der ersten Fälle, in denen ein Unternehmen öffentlich einen Entwicklungsstopp für eines seiner KI-Modelle ankündigt. Der Schritt von Open AI kommt, nachdem eine Serie von Cyberzwischenfällen mit KI-Modellen die Technologiebranche in Aufregung versetzt hat. Der erste und bisher wohl auch schwerwiegendste Fall betraf Open AI.Vor knapp drei Wochen teilte der ChatGPT-Entwickler mit, zwei seiner Modelle seien während interner Tests durch das Ausnutzen einer Sicherheitslücke ins Internet ausgebrochen, wo sie dann die KI-Plattform Hugging Face angegriffen hätten. Seither wurden weitere Cyberattacken von KI-Modellen anderer Unternehmen wie Anthropic bekannt.Das Astra-Modell von Open AI ist noch in der Entwicklungsphase, und das Unternehmen hob jetzt hervor, es sei nicht in den Angriff auf Hugging Face involviert gewesen. Die Einstufung von Astras Cyberfähigkeiten als „kritisch“ geschah anhand von Risikokategorien, die Open AI nach eigener Aussage 2023 definiert hat.Demnach ist „kritisch“ die höchste Risikostufe. Sie wird zum Beispiel erreicht, wenn ein KI-Modell ohne menschliches Zutun Sicherheitslücken in Software identifizieren und ausnutzen kann. In diesem Fall sehen die Regeln des Unternehmens vor, die Arbeit an einem Modell zu stoppen, bis ausreichende Sicherheitsstandards entwickelt sind.Open AI arbeitet weiter daran, Astra „allgemein verfügbar“ zu machenOpen AI will die Astra-Entwicklung der Mitteilung zufolge nun nicht ganz einstellen. Gestoppt werden sollen „interne Aktivitäten“, die verschärfte Sicherheitsanforderungen noch nicht erfüllen. Vorstandsvorsitzender Sam Altman schrieb auf der Plattform X, Open AI arbeite weiter daran, Astra „allgemein verfügbar“ zu machen. „Wir halten es nicht für eine gute Strategie, leistungsstarke Modelle einem kleinen ausgewählten Kreis vorzubehalten.“ Angesichts der Cyberfähigkeiten von Astra werde es aber noch etwas länger dauern, dies auf sichere Weise tun zu können, „aber hoffentlich nicht zu lange“.Altman schien sich mit seinen Worten vom Wettbewerber Anthropic und dessen Umgang mit Mythos abzugrenzen. Dieses KI-Modell kam im April heraus und verfügt nach Angaben von Anthropic über ausgeprägte Fähigkeiten, Sicherheitslücken in Software zu finden und auszunutzen. Das macht es nicht nur für Softwareanbieter wertvoll, sondern auch für Hacker.Manager von Open AI, Anthropic und Google sprechen mit US-RegierungWegen dieses Risikos machte Anthropic es zunächst nur für eine kleine Gruppe von Nutzern zugänglich, darunter Technologiekonzerne wie Microsoft, Google und Nvidia. Im Juni kündigte das Unternehmen an, ein abgewandeltes Mythos-Modell für die Allgemeinheit mit eingebauten Schutzmechanismen zu veröffentlichen, das Fable heißt.Inmitten der verstärkten Diskussion über Sicherheitsrisiken wird in der Branche zunehmend darüber gesprochen, die Entwicklung von KI-Technologien vorsichtiger voranzutreiben – auch innerhalb von KI-Unternehmen.Anthropic-Chef Dario AmodeiReutersIn einem von mehr als 1000 Mitarbeitern von Unternehmen wie Open AI, Anthropic und Google unterschriebenen Brief wurde die amerikanische Regierung kürzlich aufgefordert, eine internationale Initiative zu unterstützen, mit der das Entwicklungstempo von KI-Technologien gebremst werden könnte. Zu den Unterzeichnern gehörte Anthropic-Vorstandschef Dario Amodei.Open AI teilte jetzt mit, mit „relevanten Regierungsbehörden und ausgewählten KI-Sicherheitsorganisationen“ zusammenarbeiten zu wollen, um die Fähigkeiten von Astra zu testen. Die US-Regierung unter dem Präsidenten Donald Trump hat in jüngster Zeit verstärkte Anstrengungen unternommen, KI-Technologien zu regulieren, nachdem sie lange den Kurs verfolgt hatte, der Branche weitgehende Freiheiten zu lassen. Im Juni unterschrieb Trump ein Dekret, das der Regierung mehr Aufsicht über KI-Modelle verschaffen könnte.Die US-Regierung hat in den vergangenen Monaten auch mehrmals mit dem Hinweis auf nationale Sicherheit versucht, die Verbreitung einzelner KI-Modelle zu bremsen. Beispielsweise verhängte sie zeitweise Exportkontrollen für Anthropics Mythos-Modell. Erst vor wenigen Tagen waren Manager von Unternehmen wie Open AI, Anthropic und Google in Washington, um mit Regierungsvertretern über KI-Regulierung zu sprechen.Die Serie von Cyberzwischenfällen in den vergangenen Wochen ist für Open AI und Anthropic eine zweischneidige Angelegenheit. Einerseits wirft sie ein schlechtes Licht auf die Unternehmen, da ihnen Nachlässigkeit in den Tests ihrer KI-Modelle vorgehalten werden kann. Ein Stück weit sind die Vorfälle aber auch eine Marketingchance, da sie die Fähigkeiten der Modelle unterstreichen.