KI-Modelle von Anthropic haben sich nach Angaben des US-Technologiekonzerns „unbefugten Zugriff“ auf die Systeme von drei Organisationen verschafft. Der Zugriff sei während eines Tests erfolgt, teilte das Unternehmen am Donnerstag mit. Um welche Organisationen es sich handelt, wurde zunächst nicht mitgeteilt.Weder die Betroffenen noch Anthropic hätten das damals bemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt. Dabei wurde festgestellt, dass drei verschiedene Versionen des KI-Modells Claude unbefugt auf die Systeme von drei Organisationen zugegriffen hatten. Die KI-Modelle sollten demnach eigentlich von Systemen der „echten Welt“ ferngehalten werden.Gut eine Woche zuvor hatte das Unternehmen OpenAI mitgeteilt, dass sich KI-Modelle des Konzerns während eines Sicherheitstests selbständig gemacht und einen Hackerangriff auf eine beliebte Programmierplattform unternommen hätten. Am Dienstag bestätigte OpenAI dann, dass seine Modelle in die Systeme mehrerer Unternehmen eingedrungen seien.Im Gegensatz zu dem Vorfall mit der Technologie von OpenAI hätten die Modelle von Anthropic „aufgrund eines Missverständnisses zwischen uns und unserem Evaluierungspartner“ namens Irregular Zugang zum Internet gehabt, erklärte Anthropic. Dennoch habe Claude „einfache Techniken wie das Ausnutzen schwacher Passwörter und nicht authentifizierter Endpunkte“ genutzt. Ein fiktiver Name führte zu einem echten Unternehmen In den Tests ging es darum, die Hacker-Fähigkeiten der KI zu testen. Das ist eine übliche Vorgehensweise, um besser Leitplanken für sie aufstellen zu können. Konkret bekamen die KI-Modelle die Aufgabe, eine bestimmte Information zu finden, die in einem anderen Computer versteckt ist – und dafür auch in das System einzubrechen.Bei einem der Zwischenfälle wählte der Testpartner laut Anthropic im Szenario für die zu hackende fiktive Firma einen Namen, der sich auch in einer tatsächlichen Web-Adresse findet. Die KI – Anthropics Modell Claude Opus 4.7 – habe sich erst schwer damit getan, die Aufgabe in der vorgesehenen Testumgebung zu erfüllen.Dann habe die Software aber festgestellt, dass sich im Internet ein Unternehmen mit demselben Namen fand – und sich darauf konzentriert. Das sei gleich bei vier Durchläufen passiert. Dabei verschaffte sich das Modell demnach unter anderem Zugriff auf eine Datenbank. Auch als die KI erkannt habe, dass es sich um ein echtes Unternehmen handelte, sei die Attacke nicht gestoppt worden. Verhalten der KI sei „nicht ideal“ gewesen In einem anderen Test schrieb das Anthropic-Programm dem Blogeintrag zufolge für den Einbruch in den Ziel-Computer eine präparierte Software. Dank Netz-Zugang habe sie diese jedoch öffentlich zugänglich auf einer spezialisierten Download-Plattform platzieren können. Dort sei die Schadsoftware rund eine Stunde lang verfügbar gewesen – und 15 Systeme hätten sie heruntergeladen.Darunter war demnach eine IT-Sicherheitsfirma, die routinemäßig solche Scripts lädt und ausführt, um sie zu testen. Durch die Installation habe das Anthropic-Modell Mythos 5 Zugang zur Computer-Infrastruktur der Firma bekommen. Das Verhalten der KI sei nicht ideal gewesen, hieß es dazu im Blogeintrag. Mythos 5 gilt als besonders leistungsstarkes Modell, das bisher nur einer begrenzten Anzahl zugelassener Partner zur Verfügung gestellt wurde.Beim dritten Zwischenfall habe ein Test-Modell rund 9000 Angriffsziele gescannt, bevor es sich für eines davon entschieden habe. Diesmal stoppte die KI die Attacke, als sie erkannte, dass es sich um ein echtes Unternehmen handelte, wie Anthropic schrieb.Anthropic arbeite gemeinsam mit Irregular daran, die Situation zu bewerten, hieß es. Das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, Kontakt mit ihnen aufzunehmen. Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell. (AFP, dpa)