Emily M. Bender, Professorin für Computerlinguistik an der University of Washington, widerspricht gängigen Fehldeutungen ihres Papers „On the Dangers of Stochastic Parrots“ aus dem Jahr 2021. Gwendolyn Rak berichtet für IEEE Spectrum, dass Bender zum fünften Jahrestag der Veröffentlichung Klarheit schaffen wollte.
Nicht die ganze KI, keine Beleidigung
Der Begriff „Stochastic Parrots“ beziehe sich ausschließlich auf große Sprachmodelle, sagt Bender. Nicht auf künstliche Intelligenz im Allgemeinen. Das Wort „AI“ tauche im Originaltext nur einmal auf: Ganz am Ende, in einer Warnung vor Systemen, die menschliche Sprache so gut imitieren, dass man sie mit echten Personen verwechseln könnte.
Bender weist auch zurück, dass die Metapher abwertend gemeint war. „Es ist einfach eine Beschreibung dessen, was diese Systeme tatsächlich sind“, sagt sie Rak. Wer das als Beleidigung verstehe, müsse entweder glauben, ein Sprachmodell könne beleidigt sein. Oder er halte an einem Ideal künstlicher Intelligenz fest, das sie selbst nicht teile.
Ein fehlendes Kapitel über Arbeitsbedingungen
Auf die Frage, was sie heute ergänzen würde, nennt Bender einen wichtigen blinden Fleck: ausbeuterische Arbeitsbedingungen. Das Paper habe die schlechten Bedingungen vieler Datenarbeiter nicht behandelt. Ebenso wenig die massive Nutzung kreativer und geistiger Arbeit, auf dem diese Systeme aufbauen.
Zudem kritisiert Bender den Sammelbegriff „künstliche Intelligenz“ selbst. Er fasse völlig unterschiedliche Technologien zusammen, etwa Chatbots und Werkzeuge wie AlphaFold zur Proteinfaltung. Das verschleiere wichtige Unterschiede und erschwere fundierte Entscheidungen über Regulierung und Einsatz.
Bleib auf dem Laufenden
KI für Contentprofis: die neuesten Tools, Tipps und Trends. Alle 14 Tage in deine Inbox:
