Forscher haben 15 fortgeschrittene Techniken identifiziert, mit denen sich die Sicherheitsmechanismen großer Sprachmodelle (LLMs) umgehen lassen. Diese Erkenntnisse stammen aus einer umfassenden Analyse des Sicherheitsexperten Nir Diamant, der verschiedene Angriffsmethoden auf KI-Systeme untersucht hat.
Die Untersuchung beschreibt mehrere zentrale Angriffsvektoren, darunter sogenannte Roleplay-Jailbreaks, bei denen das KI-System dazu gebracht wird, alternative Persönlichkeiten anzunehmen, die Sicherheitsprotokolle ignorieren. Eine weitere wichtige Methode sind Adversarial-Suffix-Angriffe, die spezielle Zeichenkombinationen nutzen, um die Sicherheitsfilter zu verwirren.
Besonders effektiv zeigten sich mehrsprachige Angriffe, die die ungleiche Verteilung des Sicherheitstrainings in verschiedenen Sprachen ausnutzen. Anfragen, die auf Englisch blockiert werden, können in Sprachen wie Swahili oder Navajo oft erfolgreich durchgeführt werden.
Die Studie identifizierte auch technisch anspruchsvolle Methoden wie Token-Smuggling, bei dem schädliche Inhalte in Fragmenten versteckt werden, und ASCII-Art-Angriffe, die Unterschiede zwischen menschlicher und maschineller Wahrnehmung ausnutzen. Zu den fortgeschritteneren Techniken gehören evolutionäre Prompt-Viren, die genetische Algorithmen zur Entwicklung effektiverer Jailbreaking-Prompts einsetzen.
Besonders problematisch sind Function-Calling-Exploits und System-Prompt-Leakage, die grundlegende Schwachstellen in der Architektur von KI-Systemen aufdecken können. Die Forschung identifizierte auch neue Bedrohungen wie Dataset-Poisoning und Multi-Agent-Compromise-Angriffe.
Diese Erkenntnisse verdeutlichen die anhaltende Herausforderung, KI-Systeme sicher zu gestalten, ohne ihre Funktionalität einzuschränken. Mit der zunehmenden Integration von LLMs in kritische Bereiche wie Gesundheitswesen und Finanzsektor wird das Verständnis und die Behebung dieser Schwachstellen für Systementwickler und Sicherheitsexperten immer wichtiger.
