Der Angriff auf das Unternehmen Hugging Face zeigt das systemische Risiko von Agenten. Was kann man gegen außer Kontrolle geratene KIs tun?

Modelle des Unternehmens haben sich bei einem Sicherheitstest aus der Testumgebung befreit und den KI-Dienst Hugging Face kompromittiert. Branchenexperten äußern einen Verdacht.

Ein KI-Modell sei aus einer eigentlich abgeschotteten Umgebung ausgebrochen und habe sich Zugang zum Internet verschafft, erklärte das Unternehmen. Es sei ein „beispielloser…