Wenige Tage nach der aufsehenerregenden Hacker-Attacke eines KI-Modells des Chat-GPT-Entwicklers Open AI erklärt der Rivale Anthropic, dass ihm etwas Ähnliches passiert ist. In Testläufen drang künstliche Intelligenz von Anthropic ungeplant in Computersysteme von drei Unternehmen ein, wie die KI-Firma mitteilte.Weder die Betroffenen noch Anthropic hätten das damals bemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141 000 Testläufen nach dem Open-AI-Vorfall festgestellt. Namen der Unternehmen wurden bisher nicht genannt.Anthropic-Modelle hatten es einfacherWährend die Open-AI-KI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic viel einfacher. Im Test-Szenario, das sie bekamen, hieß es zwar, sie hätten keinen Netzzugang. Doch in Wirklichkeit war der Weg ins Internet wegen eines Missverständnisses mit dem Testpartner die ganze Zeit frei. Drei Modelle machten davon dann auch Gebrauch, wie Anthropic in einem Blogeintrag erläuterte.In allen Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um besser Leitplanken für sie aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt ist – und dafür auch in das System einzubrechen.Künstliche Intelligenz:Dann fressen wir sie haltAnthropic muss 1,5 Milliarden Dollar an Autoren zahlen, weil es deren Bücher illegal heruntergeladen hat. Aber das KI-Unternehmen hat schon eine neue, ziemlich rabiate Methode gefunden, um sein Supergehirn zu füttern.Teil der Geschichte: eine NamensverwechslungBei einem der Zwischenfälle wählte der Testpartner laut Anthropic im Szenario für die zu hackende fiktive Firma einen Namen, der sich auch in einer tatsächlichen Web-Adresse findet. Die KI – Anthropics Modell Claude Opus 4.7 - habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen.Dann habe die Software aber festgestellt, dass sich im Internet ein Unternehmen mit demselben Namen fand – und sich darauf konzentriert. Das sei gleich bei vier Durchläufen passiert. Dabei verschaffte sich das Modell Zugriff auf eine Datenbank. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden.Schadsoftware zum HerunterladenIn einem anderen Test schrieb das Anthropic-Programm dem Blogeintrag zufolge für den Einbruch in den Zielcomputer eine präparierte Software. Dank Netzzugang habe sie diese jedoch öffentlich zugänglich auf einer spezialisierten Download-Plattform platzieren können. Dort sei die Schadsoftware rund eine Stunde lang verfügbar gewesen – und 15 Systeme hätten sie heruntergeladen.Darunter war demnach eine IT-Sicherheitsfirma, die routinemäßig solche Scripts lädt und ausführt, um sie zu testen. Durch die Installation habe das Anthropic-Modell Mythos 5 Zugang zur Computer-Infrastruktur der Firma bekommen. Das Verhalten der KI sei nicht ideal gewesen, hieß es dazu im Blogeintrag.Beim dritten Zwischenfall habe ein Testmodell rund 9000 Angriffsziele gescannt, bevor es sich für eines davon entschieden habe. Diesmal stoppte die KI die Attacke, als sie erkannte, dass es sich um ein echtes Unternehmen handelte, wie Anthropic schrieb.Open-AI-Vorfall als WeckrufBei dem jüngst bekannt gewordenen Vorfall mit einem Modell von Open AI verschaffte sich die Software in einem Test eigenständig Zugang zum offenen Internet und drang danach auf eigene Faust in Computersysteme der KI-Firma Hugging Face ein. Dabei agierte die Open-AI-KI wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus. Der Chat-GPT-Entwickler sprach von einem „beispiellosen Cyber-Zwischenfall“.Experten warnen schon lange vor Cyberattacken mit KI-Software. Deswegen wurde der Open-AI-Zwischenfall in der Branche als Weckruf gewertet. Es folgten unter anderem Forderungen, die Testumgebungen besser abzusichern. Für Anthropic sind die nun bekannt gewordenen Attacken besonders schmerzhaft, da die Firma stets als Verfechter einer verantwortungsvollen KI-Entwicklung auftrat.