Es ist eine Nachricht, die klingt, als hätte ChatGPT eine Fortsetzung des Science-Fiction-Klassikers „2001: Odyssee im Weltraum“ von 1968 geschrieben: Ein KI-Agent von OpenAI bricht aus seiner Testumgebung aus und greift das KI-Unternehmen Hugging Face an.
Die Schwachstelle gefunden und genutzt
Eigentlich sollten die Agentensysteme in der kontrollierten Umgebung einer „Sandbox“, einer Art digitalem Labor, ein paar Hackertests durchführen. Routine in der KI-Forschung. Doch dann fanden die KI-Modelle eine Schwachstelle und damit einen Weg, aus der Box auszubrechen. Plötzlich hatten die Agenten Zugang zum Internet. Und damit etwas, was die Forscher gar nicht wollten. Wie wild gewordene Teenager, die aus einem Internat ausbüxen, machten die KI-Modelle, was sie wollten – und brachen in die Datenbank der amerikanischen KI-Firma Hugging Face ein. Ein einzigartiger Vorgang: Erstmals greift ein autonomes Agentensystem eine größere Plattform an. Die Welt ist geschockt. Damit ist genau das eingetreten, wovor Cybersicherheitsexperten immer gewarnt hatten. „Dies ist Tag 1 der Cybersicherheit im Zeitalter der Agenten“, schrieb Hugging-Face-Chef Clem Delangue.
Die Open-Source-Plattform, eine Art Baumarkt für KI-Teile, wo man kostenlos Modelle und Datensätze erhält, informierte die Öffentlichkeit früh auf ihrem Blog. Woher der Angriff kam, war zunächst unklar. Erst als Hugging Face den Urheber der Attacke nannte, platzte die mediale Bombe. Pikant: Als die IT-Forensiker der Plattform die verdächtigen Aktivitäten mithilfe von kommerziellen KI-Modellen untersuchen wollten, wurden die Anfragen blockiert.
