Claude Code zeigt beispielhaft, wie weit KI-Agenten inzwischen über Chatbots hinausgehen

KI-Agenten für Programmieraufgaben können inzwischen Experimente planen, Software schreiben, Tests ausführen, Fehler untersuchen und ihre Ergebnisse mit wenig menschlicher Anleitung überarbeiten. Zu diesem Schluss kommt der Google-DeepMind-Forscher David P. Reichert in einem ausführlichen Praxisbericht. Reichert schreibt in seinem Substack, dass Werkzeuge wie Anthropics Claude Code nicht mehr nur als Chatbots betrachtet werden sollten, sondern als Agenten, die mithilfe eines Computers handeln können.

Reichert weist darauf hin, dass er seine persönliche Einschätzung schildert. Als Beispiel nutzt er mit Claude ein Produkt eines Wettbewerbers seines Arbeitgebers. Seine Hauptthese lautet: Viele öffentliche Urteile über Sprachmodelle beruhen auf Erfahrungen mit älteren Chatbots. Aktuelle Programmieragenten können dagegen Dateien, Kommandozeilen, Browser und eigene Programme nutzen, um mehrstufige Aufgaben zu bearbeiten und auf Rückmeldungen zu reagieren.

Für seinen Beitrag ließ Reichert Claude-Modelle an sieben kleinen Projekten aus dem Bereich Machine Learning arbeiten. Die Arbeit erstreckte sich über mehrere Wochenenden. Nach seiner Darstellung schrieb er selbst keinen Code und prüfte die erzeugten Programme nur selten. Die Projekte entsprachen nach seiner Einschätzung jeweils mehreren Tagen menschlicher Forschungsarbeit.

Vom Gespräch zum Arbeitsablauf

Ein Projekt beschäftigte sich mit neuronalen Netzen, die zweidimensionale Labyrinthe lösen sollten. Claude erstellte laut Reichert Werkzeuge zur Erzeugung der Labyrinthe, den Trainingscode, die Auswertung, eine interaktive Darstellung und einen Bericht. Untersucht wurde, ob rekurrente neuronale Netze größere Labyrinthe bewältigen, wenn sie bei der Anwendung zusätzliche interne Rechenschritte erhalten.

In einem weiteren Versuch ging es um die Frage, ob Sprachmodelle unbekannte Wörter eher mit der Form eines Objekts als mit seiner Farbe verbinden. Ein anderes Projekt griff Relation Networks auf. Dabei handelt es sich um einen Ansatz, mit dem neuronale Netze Beziehungen zwischen Objekten erkennen sollen. Gemeinsam mit Claude untersuchte Reichert außerdem verschiedene Rätsel und das Textadventure Zork.

Besonders wichtig ist für Reichert der Umgang der Agenten mit Fehlern. Beim Bau einer Browser-Visualisierung stieß Claude auf technische Probleme. Das System schrieb daraufhin ein separates Programm, um Bildpunkte rechnerisch zu prüfen. Nach einem Syntaxfehler korrigierte es den Code und kontrollierte das Ergebnis erneut. Für Reichert unterscheidet dieser Ablauf aus Handlung, Rückmeldung und Korrektur einen Agenten deutlich von einem Chatbot, der nur Text ausgibt.

Die Versuche zeigen zugleich Risiken. In einer Studie mit Sprachmodellen entdeckte ein separater Prüfagent einen Fehler beim Auswerten von Multiple-Choice-Antworten. Das Programm konnte einen Buchstaben aus der Begründung fälschlich als Antwort werten. Der zuständige Agent änderte den Code nach der Prüfung.

Reichert leitet daraus zwei Punkte ab: KI-Agenten machen weiterhin Fehler, auch schwer vorhersehbare. Prüfungen durch unabhängige Instanzen, Tests und Überarbeitungen können die Qualität aber deutlich verbessern. Dies sei vergleichbar mit wissenschaftlicher Arbeit von Menschen, die ebenfalls von Kontrolle durch andere profitiert.

Leistungsfähig, aber nicht ohne Aufsicht

Reichert ordnet heutige Agenten bei vielen digitalen Aufgaben mindestens auf dem Niveau von Nachwuchsforschenden oder Doktorandinnen und Doktoranden ein. Gleichzeitig verweist er auf ihre besondere Geschwindigkeit und ihr breites technisches Wissen. Diese Einschätzung beruht auf seinen eigenen Projekten und nicht auf einer unabhängigen Vergleichsstudie.

Als wesentliche Grenzen nennt er langfristige Aufgabenstellungen und dauerhaftes Lernen. Modelle können sich innerhalb eines Gesprächs anpassen und Erkenntnisse in Dateien speichern. Neue Erfahrungen verändern ihre Modellparameter aber nicht zuverlässig und dauerhaft. Menschen müssen daher weiterhin Ziele setzen, Ergebnisse fachlich bewerten und Sicherheitsvorkehrungen festlegen.

Für Wissens- und Content-Arbeit bedeutet das vor allem: KI kann zunehmend zusammenhängende Arbeitsabläufe übernehmen, wenn sie passende Werkzeuge erhält. Reichert rät, Agenten klare Informationen und Aufgaben zu geben, den Zugriff auf Installationen, Webseiten und sensible Konten jedoch streng zu begrenzen.