Eine neue Studie zeigt, dass KI außergewöhnlich erfolgreich personalisierte Phishing-E-Mails erstellen und versenden kann. Die Erfolgsquote liegt bei über 50 Prozent. Die Forschungsarbeit von Simon Lermen und Fred Heiding wurde jetzt veröffentlicht.
Die Wissenschaftler verglichen vier verschiedene Methoden des Phishings: zufällige traditionelle Phishing-E-Mails, von Experten erstellte Nachrichten, vollautomatische KI-Nachrichten und KI-Nachrichten mit menschlicher Überprüfung. Beide KI-Methoden erreichten mit 54-56 Prozent die gleiche Erfolgsquote wie menschliche Experten.
Die verwendeten Sprachmodelle GPT-4o und Claude 3.5 Sonnet sammelten automatisch öffentlich verfügbare Informationen über potenzielle Opfer. Diese automatisierte Informationssammlung erwies sich als sehr präzise: 88 Prozent der erstellten Profile enthielten korrekte und nützliche Informationen.
Die wirtschaftliche Analyse ergab, dass KI-gestütztes Phishing deutlich kostengünstiger ist als herkömmliche Methoden. Die Kosten können bis zu 50-mal niedriger sein. Der automatisierte Prozess benötigt nur 2:41 Minuten pro Ziel, verglichen mit 34 Minuten bei manuellem Vorgehen.
Das Modell Claude 3.5 Sonnet konnte zugleich Phishing-Versuche mit einer Erfolgsquote von 97,25 Prozent erkennen, ohne dabei falsch positive Ergebnisse zu liefern. Die bestehenden KI-Sicherheitsvorkehrungen haben das Erstellen von Phishing-Inhalten jedoch nicht verhindert.
Diese Ergebnisse sind besorgniserregend für die Cybersicherheit. KI-generierte individuelle E-Mails können traditionelle Spam-Filter umgehen, die auf der Erkennung bekannter Muster basieren. Die Forscher empfehlen die Entwicklung KI-gestützter Abwehrmaßnahmen gegen diese Bedrohungen.