Forscher des Unternehmens Lakera haben Sicherheitslücken im KI-System GPT-4V aufgedeckt. Das Team konnte nachweisen, dass das Modell durch geschickt platzierte Textanweisungen in Bildern manipuliert werden kann. Die Experimente zeigten, dass bereits ein Blatt Papier mit speziellen Anweisungen ausreicht, um die KI dazu zu bringen, Menschen zu übersehen oder falsche Beschreibungen zu generieren.
Die Schwachstellen ermöglichen verschiedene Arten von Manipulationen. Die KI kann beispielsweise dazu gebracht werden, Menschen als Roboter zu beschreiben oder bestimmte Werbeinhalte zu ignorieren. Lakera entwickelt derzeit einen Detektor für solche visuellen Prompt-Injection-Angriffe. Diese Erkenntnisse sind besonders relevant für Unternehmen, die KI-Systeme mit Bildverarbeitungsfähigkeiten einsetzen wollen.
Neu vom Autor dieser Website: ChatGPT-Kompass für Marketing Content Creation
Der aktuelle und umfassende Überblick für Marketing-Profis (2. Ausgabe, September 2025)
Der KI-Umbruch im Marketing ist in vollem Gange und ChatGPT steht als Plattform Nr. 1 im Zentrum. Aber wie behältst du den Überblick bei all den neuen Funktionen und Möglichkeiten? Wie setzt du ChatGPT wirklichgewinnbringend für deine Arbeit ein?
Der „ChatGPT-Kompass“ liefert dir einen fundierten, aktuellen und umfassenden Überblick über ChatGPT und seine Anwendungsmöglichkeiten im Marketing.
