Claude Mythos: Wie gefährlich ist diese neue KI wirklich?

Anthropics neues KI-Modell Claude Mythos kann selbstständig Sicherheitslücken in nahezu allen wichtigen Softwaresystemen finden und ausnutzen. Wie ich bereits berichtet habe, steht Mythos derzeit nur einer kleinen Gruppe von Technologieunternehmen im Rahmen von Project Glasswing zur Verfügung. Zvi Mowshowitz schreibt in seinem Newsletter „Don’t Worry About The Vase“ darüber, was diese Fähigkeiten so beispiellos macht und warum Kritik, die die Berichterstattung als übertrieben abtut, am eigentlichen Kern vorbeigeht.

Die zentrale Aussage ist klar. Mit einem einfachen automatisierten Aufbau und geringer menschlicher Steuerung findet Mythos sogenannte Zero-Days: Sicherheitslücken, die den Entwicklern der betroffenen Software bislang völlig unbekannt waren. Das Modell kann diese Lücken anschließend in funktionierende Angriffswerkzeuge verwandeln. Anthropic-Mitarbeiter ohne Sicherheitsausbildung sollen das Modell abends gebeten haben, Schwachstellen zu suchen, und haben am nächsten Morgen fertige, voll funktionsfähige Exploits vorgefunden.

Ein dokumentiertes Beispiel betrifft eine 17 Jahre alte Schwachstelle im Betriebssystem FreeBSD. Mythos fand und nutzte sie vollständig ohne menschliche Beteiligung, nach einer allgemeinen Aufforderung, Fehler zu suchen. Der Exploit ermöglichte jedem im Internet vollen administrativen Zugriff auf betroffene Server. In einem anderen Fall verknüpfte das Modell vier separate Browser-Schwachstellen so miteinander, dass ein Angreifer Daten zwischen Websites auslesen und schließlich direkt in den Kern eines Betriebssystems schreiben konnte.

Die Zahlen aus Anthropics internen Tests sind aufschlussreich. Beim Ausnutzen gefundener Schwachstellen gelang dies dem älteren Modell Claude Opus in weniger als einem Prozent der Fälle. Mythos schaffte es in 72 Prozent der Fälle. Das ist somit keine schrittweise Verbesserung, sondern ein grundlegender Unterschied in dem, was diese Technologie leisten kann.

Kritiker halten dagegen, dass auch kleinere und günstigere KI-Modelle dieselben Schwachstellen finden könnten. Einige Tests schienen zu zeigen, dass Modelle mit nur wenigen Milliarden Parametern die gleichen Lücken erkannten wie Mythos. Mowshowitz und andere sehen diese Darstellung als irreführend an. Diesen kleineren Modellen wurde der relevante Code direkt vorgelegt, oft auf rund 20 Zeilen reduziert, mit der Frage, ob dort ein Fehler steckt. Das ist eine grundlegend andere Aufgabe, als ein gesamtes Softwareprojekt von Grund auf zu durchsuchen, die relevanten Stellen selbst zu finden und dann ohne jede Hilfestellung einen funktionierenden Exploit zu bauen. Außerdem produzierten die kleineren Modelle sehr viele Falschmeldungen, was sie für eine breite Suche unbrauchbar macht.

Anthropic selbst räumt ein, dass ältere Modelle wie Opus viele ernste Schwachstellen finden können, wenn man ihnen die Richtung vorgibt. Der entscheidende Unterschied bei Mythos liegt im nächsten Schritt: Das Modell kann Schwachstellen zu komplexen, funktionierenden Angriffen zusammensetzen. Diese Fähigkeit existierte zuvor in dieser Form nicht.

Die Frage, ob die Bedrohung real ist, haben die beteiligten Unternehmen faktisch beantwortet. Microsoft, Google und andere große Technologiekonzerne haben sich Project Glasswing angeschlossen und öffentlich bestätigt, dass sie mit Anthropic zusammenarbeiten, um von Mythos gefundene Lücken zu schließen. Für alle, die fragen, ob Anthropic übertreibt, formuliert Mowshowitz es direkt: Das würde bedeuten, dass die direkten Konkurrenten ebenfalls an dieser Täuschung teilnehmen.