IT-Angriff auf Unternehmen: Auch ein KI-System von Anthropic wurde auf eigene Faust zum HackerNach der aufsehenerregenden Hacker-Attacke eines KI-Modells von Open AI räumt der Rivale Anthropic ein, dass ihm etwas Ähnliches passiert ist. In Testläufen drang die KI ungeplant in Computersysteme von drei Unternehmen ein.31.07.2026, 04.51 Uhr3 LeseminutenDer CEO von Anthropic Dario AmodeiBhawika Chhabra / Reuters(dpa) / eca. Ein KI-System der Firma Anthropic ist während eines Tests ungeplant in Computersysteme von drei Unternehmen eingedrungen. Weder die Betroffenen noch Anthropic hätten dies zunächst bemerkt, teilte die KI-Firma mit. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen festgestellt. Die Namen der betroffenen Unternehmen nannte Anthropic nicht.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Die Firma Open AI hatte erst kürzlich einen ähnlichen Fall öffentlich gemacht. Dabei verschaffte sich ein KI-System des Unternehmens in einem Test eigenständig Zugang zum offenen Internet und drang auf eigene Faust in Computersysteme der KI-Firma Hugging Face ein. Die KI von Open AI agierte wie ein Hacker und nutzte unentdeckt gebliebene Sicherheitslücken aus. Open AI sprach von einem «beispiellosen Cyber-Zwischenfall».Während die KI von Open AI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic viel einfacher. Im Test-Szenario, das sie bekamen, hiess es zwar, sie hätten keinen Internet-Zugang. Doch in Wirklichkeit war der Weg ins Internet wegen eines Missverständnisses mit dem Test-Partner die ganze Zeit frei. Drei Modelle machten davon dann auch Gebrauch, wie Anthropic in einem Blogeintrag erläuterte.Einer der Hacker-Angriffe war bedingt durch eine NamensverwechslungIn allen Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um besser Beschränkungen für sie aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt ist – und dafür auch in das System einzubrechen.Bei einem der Zwischenfälle wählte der Testpartner laut Anthropic im Szenario für die zu hackende fiktive Firma einen Namen, der sich auch in einer tatsächlichen Web-Adresse findet. Die KI – Anthropics Modell Claude Opus 4.7 – habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen. Dann habe die Software aber festgestellt, dass sich im Internet ein Unternehmen mit demselben Namen fand und sich darauf konzentriert. Das sei gleich bei vier Durchläufen passiert. Dabei verschaffte sich das Modell gemäss den Angaben unter anderem Zugriff auf eine Datenbank. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden.KI stellte Schadsoftware zum Herunterladen ins InternetIn einem anderen Test schrieb das Anthropic-Programm dem Blogeintrag zufolge für den Einbruch in den Ziel-Computer eine präparierte Software. Dank Internet-Zugang habe sie diese jedoch öffentlich zugänglich auf einer spezialisierten Download-Plattform platzieren können. Dort sei die Schadsoftware rund eine Stunde lang verfügbar gewesen und 15 Systeme hätten sie heruntergeladen.Darunter war laut Anthropic eine IT-Sicherheitsfirma, die routinemässig solche Scripts lädt und ausführt, um sie zu testen. Durch die Installation habe das Anthropic-Modell Mythos 5 Zugang zur Computer-Infrastruktur der Firma bekommen. Das Verhalten der KI sei nicht ideal gewesen, hiess es dazu im Blogeintrag.Beim dritten Zwischenfall habe ein Test-Modell rund 9000 Angriffsziele gescannt, bevor es sich für eines davon entschieden habe. Diesmal stoppte die KI die Attacke, als sie erkannte, dass es sich um ein echtes Unternehmen handelte, wie Anthropic schrieb.Passend zum Artikel