Nach zahlreichen Vorfällen wollen KI-Chefs das Entwicklungstempo bremsen. Bei einer jüngst bekannt gewordenen Attacke einer Anthropic-KI griff ein Ehrenamtlicher rechtzeitig ein. Das ist seine Geschichte.

Derzeit tobt die Debatte, ob KI die Menschheit auslöschen kann. Anthropic gibt nun Einblicke, wie sein Dienst Claude schon heute genutzt wird, um konkreten Schaden anzurichten.

Dario Amodei hat seine Branche davor gewarnt, zu schnell neue Modelle auf den Markt zu bringen. Laut einem Bericht wurde die Anthropic-KI für Waffenentwicklung genutzt.