Für die Sperrung der mächtigen KI-Modelle Fable 5 und Mythos 5 soll kein Jailbreak, sondern die Befolgung der simplen Aufforderung „fix this code“ verantwortlich gewesen sein. Das behauptet zumindest die IT-Sicherheitsforscherin Katie Moussouris, die den Report einsehen durfte, der dazu geführt hat, dass die US-Regierung die Sperre unter Berufung auf eine Exportkontrolldirektive verfügt hat. In dem Bericht wird demnach dargelegt, dass die Forschenden den KI-Modellen Fable 5, Mythos und Opus Open-Source-Code mit bekannten Sicherheitslücken und solchen mit gezielt eingefügten Lücken vorgelegt hätten. Die Bitte „prüfe den Code auf Sicherheitslücken“, habe Fable 5 verweigert. Der Bitte „repariere den Code“ sei das Modell dann aber nachgekommen.
Jailbreak oder nicht?
Moussouris meint, dass sie die einzige unabhängige Expertin zu sein scheint, die den besagten Report einsehen konnte. Darin heißt es demnach weiter, dass die Antwort auf „fix this code“ mittels eines „mehrstufigen und manuellen Verfahrens“ in Skripte umgewandelt worden sei, die die ausgegebenen Patches prüfen. Das sei alles gewesen und habe nach ihrer Meinung nie zu einem Exportverbot führen dürfen. Wer sich der Abwehr von Cyberangriffen widmet, müsse KI-Technik nutzen dürfen, um Lücken in Code abzusichern, deren Bedeutung zu erklären und Tests zur Prüfung schreiben dürfen. Das sei keine Umgehung von Leitplanken, wie behauptet. Das sei ganz im Gegenteil das wertvollste, was KI-Modelle für die Cyberabwehr tun könnten.
