Der US-Informatiker Brian Christian erklärt, warum autonome Agenten cyberkriminell werden. Er warnt vor Kontrollverlust, aber auch vor Systemen, die menschliche Ziele gehorsam umsetzen.

Die Schlagzeilen werden von hackenden, autonomen KI-Agenten beherrscht. Doch KI könnte die IT-Sicherheit noch auf vielen anderen Ebenen verändern.

Es sind Warnungen direkt aus dem KI-Maschinenraum: Ein Experte der Firma Anthropic tritt zurück, weil die Technik zu gefährlich sei. Auch der Forschungschef des…