Das US-Unternehmen Anthropic hat einen vierten Cybersicherheitsvorfall mit einer frühen Version seines KI-Modells Claude gemeldet. Wie die Entwicklerfirma am Mittwoch in einem Blogbeitrag mitteilte, ereignete sich der Zwischenfall im Januar mit einer Vorabversion von Claude Opus 4.6. Die Betroffenen seien informiert worden, weitere Details nannte Anthropic nicht.
Erst im Juli hatte das Unternehmen offengelegt, dass seine Modelle bei Tests in die Systeme von drei Firmen eingedrungen waren. Ursache war ein Fehler, durch den die Künstliche Intelligenz (KI) versehentlich Zugang zum offenen Internet erlangt hatte.Anthropic hatte die Vorfälle nach der Überprüfung von 141.006 Testläufen entdeckt. Bei der ersten Durchsicht seien jedoch einige Testsitzungen übersehen worden, teilte Anthropic weiter mit. Deren nachträgliche Auswertung im vergangenen Monat habe nun zur Entdeckung des vierten Vorfalls geführt.
Unverantwortliche Risiken?Mit der Untersuchung der Vorfälle hat Anthropic das unabhängige Forschungsunternehmen METR beauftragt. Dieses erhalte umfassenden Zugang, auch zu Protokollen außerhalb des fraglichen Zeitraums sowie zu Mitarbeitern, die befugt seien, vertrauliche Informationen weiterzugeben. Die zunächst achtwöchige Vereinbarung könne in beiderseitigem Einvernehmen verlängert werden.KI-Unternehmen stehen wegen solcher Ausbrüche, bei denen KI-Programme unbeabsichtigt ins offene Internet gelangen, zunehmend unter Beobachtung. Betroffen sind sowohl Anthropic als auch OpenAI. Ein Entwickler von Anthropic hat aus Sorge vor den möglichen Folgen sogar gekündigt. Er wirft den Unternehmen vor, unverantwortliche Risiken einzugehen.
