Startseite
Technologie
Künstliche Intelligenz
Cybersicherheit: Anthropic – KI-Modell Claude hackt bei Testlauf drei Unternehmen Nach OpenAI meldet nun auch Konkurrent Anthropic einen Zwischenfall: Ein Modell der Firma brach demnach aus seiner Testumgebung aus. Die politische Debatte um KI-Sicherheit beschleunigt sich.
Anthropic-Chef Dario Amodei: Das KI-Modell Claude hat sich unbefugt Zugang zu anderen System verschafft. Foto: BloombergSan Francisco. Wenige Wochen nach der aufsehenerregenden Hackerattacke eines KI-Modells des ChatGPT-Entwicklers OpenAI muss der Rivale Anthropic einräumen, dass ihm etwas Ähnliches passiert ist. In Testläufen drang die Künstliche Intelligenz (KI) von Anthropic demnach ungeplant in die Computersysteme von drei Unternehmen ein, wie die KI-Firma mitteilte.Weder die Betroffenen noch Anthropic hätten das damals bemerkt. Man habe die Aktivität erst bei einer nachträglichen Überprüfung von gut 141.000 Testläufen nach dem OpenAI-Vorfall festgestellt. Namen der Unternehmen wurden zunächst nicht genannt.Während die OpenAI-KI erst einen Weg finden musste, aus der Testumgebung ins offene Internet auszubrechen, hatten es die Modelle von Anthropic viel einfacher. Im Testszenario, das sie bekamen, hieß es zwar, sie hätten keinen Netzzugang. Doch in Wirklichkeit war der Weg ins Internet wegen eines angeblichen Missverständnisses die ganze Zeit frei. Drei Modelle machten davon dann auch Gebrauch, wie Anthropic in einem Blogeintrag erläuterte.Demnach führten „Fehlkonfigurationen“ bei Systemen, die von Anthropic und dem Testpartner des Unternehmens, der Sicherheitsfirma Irregular, betrieben wurden, dazu, dass die Modelle auf das Internet zugreifen konnten. Mehr zum Thema Unsere Partner Anzeige remind.me Jetziges Strom-/Gaspreistief nutzen, bevor die Preise wieder steigen Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Presseportal Direkt hier lesen! Anzeige STELLENMARKT Mit unserem Karriere-Portal den Traumjob finden Anzeige Expertentesten.de Produktvergleich - schnell zum besten Produkt
