Hinter der plötzlichen weltweiten Sperre von Anthropics neuem KI-Modell Fable steckt offenbar ein anderer großer Tech-Player: Amazons CEO Andrew Jassy soll unter anderem US-Finanzminister Scott Bessent von einem mutmaßlichen Jailbreak berichtet haben, die US-Regierung verhängte daraufhin eine Exportdirektive, die Anthropic wiederum zu der Sperre des KI-Modells zwang.
Mehrere Medien berichten übereinstimmend über den Fall. Demnach ließ Andrew Jassy seine Cybersicherheits-Abteilung zunächst das neue KI-Modell auf mögliche Jailbreaks testen – Tricks, mit denen man ein KI-Modell dazu bringt, Prompts zu bearbeiten, die es aus Sicherheitsgründen sonst verweigern würde. Die Experten sollen dann einen Bericht vorgelegt haben, demzufolge das KI-Modell funktionierende Exploits von Sicherheitslücken vier gängiger Programme lieferte. Jassy berichtete demnach auch US-Regierungsangehörigen davon. Ein Amazon-Sprecher bestätigte dem Wall Street Journal, dass die US-Regierung in Technologiefragen häufig den Rat von Amazon als führendes Tech-Unternehmen suche, wollte sich zu konkreten Einzelfällen aber nicht äußern.
Sacks: US-Regierung handelte „widerwillig“
Als Reaktion auf den Bericht setzte die US-Regierung Anthropic ein Ultimatum: Innerhalb von 24 Stunden müssten die Jailbreak-Probleme behoben werden – oder stattdessen der Zugang zu Fable für Nicht-Amerikaner gesperrt. David Sacks, selbst Tech-Investor und Co-Vorsitzender des Beraterstabs des US-Präsidenten für Wissenschaft und Technologie, berichtete auf X, wie das genau abgelaufen sein soll. Demnach soll Anthropic-CEO Dario Amodei sich geweigert haben, die von Amazon ausgemachten Sicherheitslücken zu schließen. Bereits zuvor hatte Anthropic in einer Stellungnahme bestritten, dass es sich um einen vollwertigen Jailbreak handele, die ausgeführten Aufgaben sind demnach auch problemlos mit OpenAIs Konkurrenz-Modell ChatGPT 5.5 machbar. „Nur widerwillig“ habe die US-Regierung wegen Amodeis Weigerung das strenge Verbot auf den Weg gebracht, lautet Sacks Darstellung. Die Hoffnung sei immer noch, dass Anthropic die vorgeworfenen Probleme behebt und das Modell wieder normal genutzt werden kann. Derweil kann Anthropic den Auflagen nur nachkommen, indem das Unternehmen sein neues KI-Modell weltweit sperrt.
