Schulen und Universitäten setzen vermehrt auf KI-Detektoren, um von Schülern und Studenten eingereichte Arbeiten auf KI-Nutzung zu prüfen. Laut einer Umfrage nutzen etwa zwei Drittel der Lehrkräfte solche Tools regelmäßig. Wie Jackie Davalos und Leon Yin in Bloomberg Businessweek berichten, können bei diesem Umfang selbst geringe Fehlerquoten zu zahlreichen Falschbeschuldigungen führen.
Die Autoren testeten zwei führende Dienste an 500 Bewerbungsaufsätzen für die Texas A&M University aus der Zeit vor ChatGPT. Dabei wurden 1-2% der garantiert von Menschen verfassten Texte fälschlicherweise als KI-generiert markiert. Besonders betroffen sind offenbar Studierende, die Englisch als Zweitsprache sprechen oder neurodivergent sind. Die Folgen reichen von Nullnoten bis hin zu Verwarnung. Einige Bildungseinrichtungen haben die Nutzung solcher Tools daher bereits eingestellt, während andere sie weiterhin einsetzen. Die Situation führt zu Spannungen zwischen Lehrenden und Lernenden sowie zu aufwendigen Vorsichtsmaßnahmen seitens der Studierenden.