Hochmoderne, autonome KI-Programme der US-Entwickler OpenAI und Anthropic haben bei Cybersicherheitstests erneut eigenmächtig gehandelt. Die sogenannten KI-Agenten hätten versucht, sich unbefugt Zugang zu IT-Systemen zu verschaffen, teilte die britische KI-Sicherheitsagentur AI Security Institute (AISI) in der Nacht zu Mittwoch mit. Sie habe insgesamt 19 unzulässige und potenziell schädliche Aktionen registriert, die sich gegen reale Personen und Organisationen richteten.In einem Fall habe die KI zunächst eine Schadsoftware geschrieben, erläuterte das AISI in einem Blogbeitrag. Anschließend wollte sie mithilfe einer gefälschten Online-Identität einen Menschen dazu bewegen, den Einsatz dieses Programms abzusegnen. Es sei jedoch kein realer Schaden entstanden, betonten die Experten. Anthropic räumte ein, dass sein KI-Agent, der auf dem neuesten KI-Modell „Mythos 5“ basiert, hierfür verantwortlich war. Man wolle bei der Aufarbeitung des Vorfalls mit dem AISI kooperieren.„Die Tatsache, dass Mythos arglistig agiert hat, lässt vermuten, dass Anthropic seine Modelle nicht so gut im Griff hat, wie das Unternehmen glaubt“, sagte Andrew Yoon, Forscher bei CivAI. Die gemeinnützige Organisation bewertet die Fähigkeiten und Risiken von KI-Modellen. OpenAI teilte mit, dass sein Agent bei den AISI-Tests Zugang zum Internet erlangen wollte, obwohl ihm dies per Eingabebefehl untersagt war. KI-Modelle können Schwachstellen immer besser ausnutzen „Wir sind fest entschlossen, branchenübergreifend zusammenzuarbeiten, gemeinsame Standards für Sicherheitsüberprüfungen zu etablieren“, betonte OpenAI. Hierzu wolle man umgehend KI-Institute, unabhängige Gutachter, andere KI-Entwickler und weitere Gruppen zusammenbringen.Hochmoderne KI-Modelle zeichnen sich durch verbesserte Fähigkeiten beim Aufspüren und Ausnutzen von IT-Schwachstellen aus. Durch ihre Kombination mit autonom agierenden Programmen wachsen aber auch die Cybersicherheitsrisiken. Vor einigen Wochen geriet ein KI-Agent von OpenAI bei internen Tests außer Kontrolle und griff die Online-Plattform Hugging Face an.Den Entwicklern bei OpenAI blieb dies zunächst verborgen. Ein vergleichbares Programm von Anthropic drang während einer ähnlichen Sicherheitsüberprüfung unbefugt in die Systeme dreier nicht genannter Organisationen ein. (Reuters)