Startseite
Technologie
Digitale Welt
Künstliche Intelligenz: Anthropic meldet vierten Hackerangriff durch eigenes KI-Modell Bei Anthropic ist ein weiterer Sicherheitsvorfall mit dem KI-Modell Claude bekannt geworden. Entdeckt wurde er erst bei einer nachträglichen Auswertung.
Anthropic meldet einen vierten Cybersicherheitsvorfall mit einer frühen Version seines KI-Modells Claude. Foto: REUTERSDas US-Unternehmen Anthropic hat einen vierten Cybersicherheitsvorfall mit einer frühen Version seines KI-Modells Claude gemeldet. Wie die Entwicklerfirma am Mittwoch in einem Blogbeitrag mitteilte, ereignete sich der Zwischenfall im Januar mit einer Vorabversion von Claude Opus 4.6. Die Betroffenen seien informiert worden, weitere Details nannte Anthropic nicht. Erst im Juli hatte das Unternehmen offengelegt, dass seine Modelle bei Tests in die Systeme von drei Firmen eingedrungen waren. Ursache war ein Fehler, durch den die Künstliche Intelligenz (KI) versehentlich Zugang zum offenen Internet erlangt hatte.Anthropic hatte die Vorfälle nach der Überprüfung von 141.006 Testläufen entdeckt. Diese Untersuchung war eingeleitet worden, nachdem ein von OpenAI-Modellen gesteuerter Agent die Infrastruktur des KI-Start-ups Hugging Face gehackt hatte. Bei der ersten Durchsicht seien jedoch einige Testsitzungen übersehen worden, teilte Anthropic weiter mit. Deren nachträgliche Auswertung im vergangenen Monat habe nun zur Entdeckung des vierten Vorfalls geführt.Mit der Untersuchung der Vorfälle hat Anthropic das unabhängige Forschungsunternehmen METR beauftragt. Dieses erhalte umfassenden Zugang, auch zu Protokollen außerhalb des fraglichen Zeitraums sowie zu Mitarbeitern, die befugt seien, vertrauliche Informationen weiterzugeben. Die zunächst achtwöchige Vereinbarung könne in beiderseitigem Einvernehmen verlängert werden.KI-Unternehmen stehen wegen solcher Ausbrüche, bei denen KI-Programme unbeabsichtigt ins offene Internet gelangen, zunehmend unter Beobachtung. In der vergangenen Woche hatte die Nachrichtenagentur Reuters gemeldet, dass außer Kontrolle geratene Agenten von OpenAI ein deutschsprachiges Wiki und eine Reihe anderer Websites gekapert hätten. OpenAI hatte diese Panne nach der Veröffentlichung durch Reuters eingeräumt. rtr Mehr zum Thema Unsere Partner Anzeige Stellenmarkt Die besten Jobs auf Handelsblatt.com Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Remind.me Jedes Jahr mehrere hundert Euro Stromkosten sparen – so geht’s Anzeige Presseportal Lesen Sie die News führender Unternehmen! Anzeige Bellevue Ferienhaus Exklusive Urlaubsdomizile zu Top-Preisen Anzeige Übersicht Ratgeber, Rechner, Empfehlungen, Angebotsvergleiche Anzeige Finanzvergleich Die besten Produkte im Überblick
