Jailbreak, Exportkontrolle, Machtkampf: Was hinter dem Verbot von Anthropics Fable 5 steckt

Die US-Regierung hat Anthropic angewiesen, den Zugang zu seinen beiden leistungsfähigsten KI-Modellen, Fable 5 und Mythos 5, auf US-Bürger zu beschränken. Da Anthropic die Staatsbürgerschaft seiner Nutzer nicht zuverlässig prüfen kann, hat das Unternehmen beide Modelle vollständig vom Markt genommen. Es ist das erste Mal, dass die USA eine Exportkontrolle für ein großes Sprachmodell verhängen.

Die Anweisung erreichte Anthropic am Freitag um 17:21 Uhr Ortszeit. Das Schreiben berief sich auf Befugnisse zur nationalen Sicherheit, nannte aber keine konkreten Gründe. Anthropic teilte in einer öffentlichen Erklärung mit, dass die Regierung offenbar von einer Methode Kenntnis erhalten habe, mit der sich die Sicherheitsmechanismen von Fable 5 umgehen lassen. Solche Methoden werden als „Jailbreak“ bezeichnet.

Streit um das Ausmaß der Bedrohung

Fable 5 ist die öffentlich zugängliche Version von Mythos 5. Anthropic hatte das Modell selbst als potenziell gefährlich eingestuft, weil es in der Lage ist, Sicherheitslücken in Programmcode zu finden und auszunutzen. Fable 5 enthält Schutzmaßnahmen, die einen Missbrauch für Cyberangriffe verhindern sollen. Ein Jailbreak kann diese Schutzmaßnahmen außer Kraft setzen.

David Sacks, ein Berater von Präsident Trump, schrieb auf X (Twitter), ein „äußerst glaubwürdiger vertrauenswürdiger Partner“ habe einen solchen Jailbreak entdeckt und der Regierung gemeldet. Die Regierung habe Anthropic-CEO Dario Amodei daraufhin aufgefordert, das Problem zu beheben oder das Modell vom Netz zu nehmen. Amodei habe das abgelehnt und erklärt, der Jailbreak stelle kein ernstes Risiko dar, so Sacks.

Anthropic widerspricht dieser Darstellung. Das Unternehmen erklärte, es habe die gezeigte Technik geprüft und festgestellt, dass dabei lediglich kleinere, bereits bekannte Sicherheitslücken gefunden wurden. Dieselben Ergebnisse seien auch mit anderen öffentlich verfügbaren Modellen erreichbar, darunter OpenAI GPT-5.5, und zwar ohne jede Umgehungsmethode. „Wir haben noch nicht einmal die Offenlegung eines besorgniserregenden, nicht universellen potenziellen Jailbreaks erhalten, der zu einem schädlichen Ergebnis geführt hätte“, schrieb Anthropic.

Laut einem Bericht von Semafor informierte Amazon die Regierung über den Jailbreak. Amazon-CEO Andy Jassy stand demnach in direktem Kontakt mit Mitgliedern der Regierung. Amazon bestätigte, gelegentlich Regierungen zu potenziellen Sicherheitsrisiken zu beraten, nannte aber keine Details.

Vorgeschichte: Ein angespanntes Verhältnis

Anthropic und die Trump-Regierung haben bereits mehrfach öffentlich gestritten. Das Unternehmen wandte sich gegen Pläne der Regierung, staatliche KI-Regulierungen auszuhebeln, und klagt derzeit gegen das Pentagon wegen des Einsatzes seiner Modelle für autonome Waffen. Sacks betonte, diese früheren Konflikte hätten keine Rolle bei der aktuellen Entscheidung gespielt.

Semafor berichtet zudem, dass ein mit China in Verbindung stehender Akteur möglicherweise Zugang zu Mythos erlangt hatte. Dies habe die Entscheidung für die Exportkontrolle mitbeeinflusst. Anthropic erklärte, die Regierung habe diesen Aspekt in den Gesprächen über den Jailbreak nicht erwähnt. Das Unternehmen untersagt den Zugang zu seinen Produkten aus China grundsätzlich.

Beobachter stellen Fragen zu Zeitpunkt und Motiven der Anweisung. Die Bekanntmachung erfolgte an einem Freitagabend, was Kritiker mit dem Versuch in Verbindung bringen, unmittelbare Marktreaktionen zu dämpfen. Einige weisen darauf hin, dass Anthropics Konkurrenten engere Beziehungen zur aktuellen Regierung unterhalten. Fable 5 galt zum Zeitpunkt der Abschaltung als das leistungsstärkste für Verbraucher verfügbare Modell.

Anthropic hält die Anweisung für sachlich nicht gerechtfertigt, folgt ihr aber. Das Unternehmen argumentiert, würde dieser Maßstab branchenweit angewendet, „würde das die Einführung neuer Modelle für alle führenden Anbieter grundsätzlich stoppen.“ Anthropic kündigte an, innerhalb von 24 Stunden weitere technische Details zu veröffentlichen und arbeite daran, den Zugang so schnell wie möglich wiederherzustellen.

Für Nutzer und Unternehmen endete der Zugang ohne Vorwarnung. Das australische Rechtstechnologie-Unternehmen Isaacus schrieb in einem Blogeintrag, der Vorfall zeige, wie riskant es sei, sich auf extern gehostete KI-Modelle zu verlassen. Das Unternehmen kündigte an, seinen Fokus auf selbst betreibbare Modelle weiter zu verstärken.

Quellen

• Exclusive: White House’s export limits on Anthropic linked to concerns about Chinese access – Semafor
• David Sacks (@DavidSacks) on X – X (Twitter)
• Statement on the US government directive to suspend access to Fable 5 and Mythos 5 – Anthropic
• Tech Things: There is a massive shadow hanging over this Fable thing – 12 Grams of Carbon
• Our response to the US ban on Fable 5 and Mythos 5 – Isaacus