So leicht lässt sich eine KI täuschen

Googles NotebookLM lässt sich durch manipulierte Webseiten täuschen. Der Entwickler Ted Benson demonstrierte dies, indem er seiner Webseite für Googles KI-Crawler eine erfundene Geschichte über eine Mondreise mit Fahrrad, Ballons und Taucherausrüstung präsentierte, während menschliche Besucher die reguläre Seite sahen. Er warnt, dass diese Methode, LLMs mit gezielten Lügen zu füttern, eine ernstzunehmende Gefahr darstellt. Webseiten könnten damit so manipuliert werden, dass sie KI-Systeme mit falschen Informationen versorgen. Er entwickelte ein Programm namens „isai“, das Webseitenbetreibern helfen soll, KI-Crawler zu erkennen und ihnen gegebenenfalls andere Inhalte anzuzeigen.

Mehr zum Thema:

Bleib up-to-date: