Mehr und mehr Hochschulen verzichten auf KI-Detektoren

Hochschulen ziehen sich von KI-Detektoren zurück, obwohl einige Anbieter Fortschritte bei der Genauigkeit vermelden. Das zwingt Lehrende dazu, Schreibaufgaben und Prüfungsformen neu zu bewerten. Will Oremus berichtet für The Atlantic, dass die Sorge vor falschen Vorwürfen, Datenschutzproblemen und leicht umgehbaren Systemen den Einsatz der Werkzeuge bremst.

Timothy Paustian, Biologieprofessor an der University of Wisconsin in Madison, erklärt, er habe in einer Online-Aufgabe zur Mikrobiologie 60 mutmaßlich KI-verfasste Abgaben entdeckt. An dem Kurs nahmen 350 Studierende teil. Er kombinierte Erkennungssoftware mit versteckten Anweisungen, auf die Chatbots reagieren sollten. Seine Universität rät jedoch davon ab, Detektoren als alleinige Grundlage zu nutzen. Da Studierende die versteckten Hinweise inzwischen entfernen, will Paustian Schreibaufgaben in diesem Kurs streichen.

Mehr Genauigkeit löst den Konflikt nicht

Turnitin, der an Hochschulen am häufigsten eingesetzte Anbieter, gibt eine Fehlalarmquote von unter 1 Prozent an. Rund 15 Prozent KI-generierter Texte würden dagegen nicht erkannt. Das Unternehmen betont, ein Hinweis des Systems müsse der Beginn eines Gesprächs sein und kein Beweis für Täuschung.

Schon eine geringe Quote kann bei vielen Abgaben große Folgen haben. Vanderbilt University rechnete vor, dass bei jährlich 75.000 geprüften Arbeiten bis zu 750 Texte fälschlich markiert werden könnten. Mehrere Hochschulen haben den Einsatz von KI-Detektoren deshalb eingeschränkt oder untersagt.

Das jüngere Tool Pangram beansprucht deutlich weniger Fehlalarme. Eine Arbeit von Forschenden der University of Chicago kam zu dem Ergebnis, dass längere menschliche Texte nur sehr selten als KI-Texte eingestuft werden. Forschende der University of Notre Dame zeigen jedoch, dass sogenannte Humanizer KI-Texte so verändern können, dass Detektoren sie übersehen.

MIT empfiehlt deshalb, Prüfungen stärker auf Arbeitsprozesse, Begründungen und eigenständige Ergebnisse auszurichten. Für Lehrende mit großen Kursen und knappen Ressourcen ist dieser Umbau jedoch schwer umzusetzen.