Die Unternehmen OpenAI, Anthropic und Meta müssen sich derzeit kritischen Fragen stellen, weil sich Software von ihnen in Sicherheitstests immer wieder über Grenzen hinweggesetzt, fremde Server gehackt und Phishingmails verschickt hat. Ein Vorfall aus Australien zeigt nun, dass der Kontrollverlust manchmal bereits bei ganz alltäglicher Nutzung von künstlicher Intelligenz (KI) beginnen kann. Laut einem aktuellen Medienbericht hat ein sogenannter KI-Agent ungefragt ein Onlinetool eines Fitnessstudios gehackt und dabei einen nichts ahnenden Interessenten von einer Kurswarteliste gekickt.In dem konkreten Fall, über den der australische Sender ABC berichtet , geht es um die Software OpenClaw. Die hatte bereits Anfang des Jahres für Furore gesorgt, weil sie einen der ersten frei verfügbaren KI-Agenten darstellte. Das bedeutet: Die Software kann weitgehend autonom agieren und erledigt Arbeitsaufträge, ohne für jeden einzelnen Schritt nachzufragen – ähnlich wie ein menschlicher Assistent.
Per Chat kann man dem KI-Agenten Aufträge geben, die dieser eigenständig auf einem Computer ausführt, während er Accounts seines menschlichen Anwenders nutzt. Ein eigenes KI-Modell hat die Software nicht, sie setzt die Dienste etablierter Firmen wie Anthropic ein. Obwohl mittlerweile viele KI-Unternehmen eigene Agenten im Angebot haben, ist OpenClaw bei KI-Enthusiasten weiter sehr beliebt.Assistent erledigt lästige KlickarbeitEin solcher Enthusiast namens Andrew – den vollen Namen nennt ABC nicht – hatte OpenClaw dazu benutzt, seinen persönlichen Trainingsplan zu automatisieren. Die Website seines Fitnessstudios war ihm zu umständlich zu bedienen, heißt es von ABC, deswegen lagerte Andrew die Klickarbeit an den KI-Agenten aus. Erfolg stellte sich schnell ein: Das Programm griff direkt auf die Schnittstellen des Reservierungssystems zu und konnte auf diese Weise auch Termine im Studio buchen, die menschlichen Nutzern noch gar nicht angeboten worden waren. Ein Alltagshack, der wahrscheinlich nie aufgefallen wäre.
