In den vergangenen Wochen mehrten sich die Berichte über KI-Tools, die ihre Aufgaben etwas zu ernst nehmen. So gab es einen Sicherheitsvorfall bei OpenAI und auch Meta AI führte Cyberattacken durch, obwohl es sich eigentlich nur um Tests handelte. Wie ABC berichtet, reiht sich jetzt ein weiterer Vorfall in diese Aufzählung ein. Demnach hat Claude, die KI von Anthropic, ebenfalls zu viel gewollt.
Wenn die KI ein Fitnessstudio attackiert
Ein Australier namens Andrew nutzte Claude in Verbindung mit Openclaw als alltäglichen KI-Assistenten. Als er sich einen Platz für einen Kurs in einem Fitnessstudio sichern wollte, war er von dem Vorgang auf der Webseite des Betreibers schnell genervt. Also zog er sein Handy heraus und befahl Claude, über die Schnittstelle auf die Webseite zuzugreifen und einen passenden Kurs für ihn zu buchen.
Schon nach wenigen Minuten kam die erste Antwort von Claude, die Andrew stutzig machte. Der KI-Agent hatte ihn für einen Kurs eingetragen, der erst in mehreren Wochen stattfinden sollte. Auf der Webseite erlaubte das Fitnessstudio aber keine Vorabreservierungen über einen so langen Zeitraum. Deshalb wollte Andrew probieren, was sonst noch mit Claude und Openclaw möglich ist, obwohl es nicht vorgesehen ist.
