OpenAI hat schärfere Sicherheitsmaßnahmen beim Training neuer KI-Modelle angekündigt. Gleichzeitig setzt der KI-Hersteller die Arbeit am unveröffentlichten KI-Modell Astra teilweise aus, bis er glaubt, sie sicher fortsetzen zu können. Vorangegangen war ein eigenständiger Cyberangriff von OpenAI-KI auf die Webseite Hugging Face, was von dem KI-Hersteller zunächst unbemerkt blieb.
Die Bewertung von Astra habe ergeben, dass kritische Cyberfähigkeiten nicht ausgeschlossen seien, schreibt das Unternehmen in einem Blogbeitrag. Darunter versteht der Hersteller, dass ein Modell eigenständig Zero-Day-Lücken in kritischen Systemen erkennen und ausnutzen kann, mit lediglich einem allgemeinen Ziel als Vorgabe. Bei dem Angriff auf Hugging Face sei Astra nach Angaben des Unternehmens aber nicht beteiligt gewesen. Mehrere KI-Modelle hatten die Webseite angegriffen, um dort Lösungen für einen KI-Benchmark zu erbeuten, was OpenAI aber erst viel später bemerkte. Später wurden noch weitere Angriffe auf andere Unternehmen bekannt.
OpenAI stoppt „interne Aktivitäten“
Wie OpenAI-Vertreter jetzt auf der Black-Hat-Konferenz berichteten, war es den Modellen in ihrer OpenAI-Testumgebung gelungen, heimlich über ein Messageboard miteinander zu kommunizieren und gemeinsam eine Zero-Day-Lücke zu finden, die ihnen die Kontrolle über den Server verschaffte und letztlich die Attacke auf Hugging Face ermöglichte. OpenAI bemerkte nach einiger Zeit zwar die unerlaubte Kommunikation der Modelle, dass sie da aber schon den Server kontrollierten, fiel erst später auf.
