KI-Prototypen von OpenAI sind aus einer Testumgebung ausgebrochen und haben eine Website gehackt, berichtet die Firma. Einen Forscher beunruhigt das.

Die KI-Agenten von OpenAI haben sich verselbstständigt und in den Daten einer anderen Website herumgewühlt

imago

afp | KI-Modelle des Unternehmens OpenAI haben während eines Sicherheitstests selbständig einen Hackerangriff auf eine beliebte Programmierplattform unternommen. Es handele sich um einen „nie dagewesenen Cybervorfall“, erklärte das Unternehmen aus San Francisco am Dienstag. OpenAI werde eine gemeinsame Untersuchung mit der betroffenen Online-Code-Bibliothek Hugging Face unternehmen.

An dem Vorfall waren nach Angaben von OpenAI mehrere Modelle beteiligt, darunter das kürzlich veröffentlichte GPT-5.6 Sol sowie ein „noch leistungsfähigeres“, noch vor der Veröffentlichung stehendes Modell. Das Unternehmen wollte die Hacking-Fähigkeiten der Modelle bemessen und gab ihnen dazu Aufgaben in einem streng kontrollierten digitalen Testumfeld. Zur Sicherheit war der Internetzugang eingeschränkt.