Studie: 250.000 Claude-Gespräche zeigen, wie sehr Menschen der KI vertrauen

Anthropic hat Ergebnisse eines Pilotprogramms veröffentlicht, in dem drei externe Forschungsgruppen aggregierte Nutzungsdaten von rund 250.000 Gesprächen mit Claude und Claude Code untersuchen konnten. Eine Studie kommt zu dem Ergebnis, dass Nutzer der KI häufiger risikoreiche Aufgaben mit folgenschweren Antworten übertragen als frühere Untersuchungen erwarten ließen. Besonders oft betrifft dies Fragen zu Recht und Finanzen.

Kunal Handa und weitere Autoren berichten für Anthropic, dass die Forschenden über das System Anthropic Insights arbeiteten. Das Werkzeug hieß zuvor Clio und soll Auswertungen ermöglichen, ohne private Gesprächsinhalte offenzulegen. Die Teams erhielten hier keine vollständigen Chatverläufe, sondern formulierten stattdessen Fragen, die Claude auf viele Gespräche anwandte. Sichtbar waren anschließend nur zusammengefasste Ergebnisse.

An dem Pilotprojekt beteiligten sich das Social and Language Technologies Lab der Stanford University, das Human Information Processing Lab der University of Oxford und die gemeinnützige Organisation METR. Die Gruppen entwickelten ihre Forschungsfragen selbst und werteten die Daten eigenständig aus. Anthropic erklärt, eigene Prüfungen auf Datenschutz, Sicherheit, vertrauliche Informationen, fachliche Richtigkeit und mögliche Umgehungen von Schutzvorgaben beschränkt zu haben.

KI auch für folgenreiche Aufgaben

Das SALT Lab in Stanford untersuchte, wie Menschen mit Claude zusammenarbeiten und an welchen Stellen Probleme entstehen. Die ersten Ergebnisse widersprechen der verbreiteten Annahme, KI werde vor allem für Aufgaben mit geringem Risiko eingesetzt.

In mehr als der Hälfte der untersuchten Gespräche übergaben Nutzer Claude Aufgaben mit möglichen Folgen für andere Menschen oder Aufgaben, deren Auswirkungen schwer rückgängig zu machen sind. Besonders häufig suchten sie bei beruflichen Fragen Rat, etwa zu rechtlichen oder finanziellen Themen.

Die Nutzer blieben dabei meist aktiv beteiligt. In fast drei Vierteln der Gespräche gaben sie die Richtung vor, während Claude unterstützte. Die Antworten der KI wurden häufig überarbeitet oder angepasst, statt unverändert übernommen zu werden.

Reibungen traten laut Studie regelmäßig auf. Sie konnten aber auch nützlich sein. Nutzer präzisierten ihre Anfragen, korrigierten Missverständnisse und schärften ihre Vorgaben. Das führte mitunter zu besseren Ergebnissen und hielt sie stärker bei der eigentlichen Aufgabe.

Gefühle, Verhalten und Zeitgewinn

Das Oxford-Team erforschte, wie Nutzer die Arbeit mit Claude erleben und wie dies mit dem Verhalten des Systems zusammenhängt. Erste Auswertungen deuten darauf hin, dass freundlichere Antworten von Claude häufiger mit positiveren Reaktionen der Nutzer zusammen auftreten. Ablehnungen oder Widerspruch gingen häufiger mit Gegenreaktionen einher. Ungewöhnliche Antworten schienen das intellektuelle Interesse zu erhöhen.

Die Forschenden fanden zudem ähnliche Muster bei Frustration, Freude und Vertiefung wie in einer separaten Untersuchung zur allgemeinen Internetnutzung. Eine vollständige Veröffentlichung der Studie steht noch aus.

METR untersucht derweil den Produktivitätsgewinn durch Programmieragenten. Die Auswertung läuft noch, doch erste Hinweise sprechen dafür, dass neuere Claude Modelle mehr Zeit sparen könnten als ältere. METR verglich Schätzungen von Claude zur Dauer einer Aufgabe ohne KI mit bekannten Zeiten aus einer früheren Studie mit Entwicklern. Laut Anthropic stimmten die Schätzungen in sinnvoller Weise mit den tatsächlichen Bearbeitungszeiten überein.

Das Pilotprojekt zeigte auch Grenzen. Die Ergebnisse hängen stark von der Formulierung der Fragen ab. Ungenaue Fragen können Kategorien erzeugen, die Gespräche falsch darstellen. Tests mit dem öffentlichen Datensatz WildChat halfen nur begrenzt, weil dessen Inhalte stärker von lockeren und kreativen Anwendungen geprägt sind.

Anthropic entfernte oder veränderte außerdem einzelne Kategorien, die Hinweise zur Umgehung von Schutzmaßnahmen geben könnten. Nach Angaben des Unternehmens betraf dies in jeder Studie weniger als 5 Prozent der Kategorien und Gespräche. Nun prüft Anthropic, ob sich das Programm ausweiten lässt, ohne Datenschutz, Sicherheit und wissenschaftliche Qualität zu gefährden.