So mächtig KI-Modelle auch sein können, so gravierend sind die Auswirkungen, wenn Chatbots und Agenten von Sicherheitslücken betroffen sind. Denn dann stehen im Zweifel eine Menge sensible Daten auf dem Spiel. Das zeigen jetzt auch deutsche Forscher:innen mit ihrem Paper „Stealing Reasoning Traces from Proprietary LLM APIs„. Denn sie konnten über einen vergleichsweise einfachen Umweg Daten wie Passwörter und API-Schlüssel aus Chatbot-Antworten extrahieren.Anzeige
Wie funktioniert der Datendiebstahl bei Gemini, ChatGPT und Claude?
Laut den Verantwortlichen sind davon auch die drei größten KI-Ökosysteme der Welt betroffen: Anthropic, OpenAI und Google mit ihren jeweiligen KI-Modellen. Jedes Modell gibt bei Reasoning-Aufgaben, die längere Denkprozesse erfordern, ein sogenanntes Reasoning-Log aus. Dabei handelt es sich um eine verschlüsselte Zeichenfolge. Selbige wird bei jeder neuen Antwort wieder an den Server geschickt, um der KI den nötigen Kontext zu geben.
Die Forscher:innen haben herausgefunden, dass sich die Reasoning-Logs herauskopieren und in anderen KI-Modellen nutzen lassen, solange sie vom selben Unternehmen stammen. Heißt: Ein Reasoning-Log von GPT-5.6 Sol kann trotz Verschlüsselung in einer älteren Version von OpenAIs KI-Modellen genutzt werden, um denselben Kontext zu geben. Das Problem dabei ist, dass nicht nur ältere, sondern auch modifizierte Modelle die Reasoning-Logs nutzen können. Wurden bei einem solchen Modell die Sicherheitsvorkehrungen per Jailbreak entfernt, kann es genutzt werden, um die Verschlüsselung der Logs zu decodieren.Anzeige
