Der Angriff auf das Unternehmen Hugging Face zeigt das systemische Risiko von Agenten. Was kann man gegen außer Kontrolle geratene KIs tun?

Modelle des Unternehmens haben sich bei einem Sicherheitstest aus der Testumgebung befreit und den KI-Dienst Hugging Face kompromittiert. Branchenexperten äußern einen Verdacht.

Während eines Tests verselbstständigen sich KI-Modelle und kompromittieren die Infrastruktur der KI-Plattform Hugging Face. OpenAI nennt es einen „beispiellosen Cyber-Vorfall“.