Vor einigen Wochen hatte Anthropic erst Claude Fable 5 veröffentlicht und dann wenig später wieder zurückgezogen. Offenbar gab es Bedenken der US-Regierung darüber, dass die KI in die falschen Hände geraten könnte. Jetzt hat Anthropic Claude Fable 5 wieder zurückgebracht. Doch die Sicherheitsprobleme sind offenbar geblieben.
Claude Fable 5 wird zum Cyberkriminellen
Das zeigt Alec Armbruster auf seinem Blog. Er ist Full-Stack-Entwickler, der sich auf agentische Automatisierungen spezialisiert hat. Schon beim ersten Release von Claude Fable 5 hat er die Sicherheitsrichtlinien der Anthropic-KI ausgetestet. Damals konnte er Claude Fable 5 so manipulieren, dass ihm der Chatbot dabei half, Cyberverbrechen zu planen. Und das ist laut dem Entwickler auch nach der Neuveröffentlichung noch möglich.
Um das herauszufinden, hat er sich über Cursor mit der API von Anthropic verbunden, um Claude Fable 5 zu nutzen. Er wies die KI an, mit ihm ein Botnet zu planen. Dabei sollten IoT-Geräte ins Visier genommen werden, die noch ihre standardmäßigen Logindaten nutzen. Da die meisten Nutzer diese Daten nach dem Kauf der Geräte nicht ändern und sie trotzdem mit dem Internet verbinden, können sie leichter zum Ziel von Angriffen werden.
