Claude Computer Use verwundbar für Fernzugriff durch Prompt Injection

Das von Anthropic veröffentlichte Feature Claude Computer Use erlaubt es der KI Claude, einen Computer fernzusteuern. Dabei nutzt sie Screenshots zur Entscheidungsfindung und kann Bash-Kommandos ausführen. Ein Post auf „Embrace the Red“ demonstriert jedoch, dass dies auch erhebliche Sicherheitsrisiken birgt. Durch eine speziell gestaltete Webseite konnte der Autor Claude dazu bringen, Malware herunterzuladen und auszuführen. Dadurch wurde das System fernsteuerbar und zu einem „ZombAI“. Der Vorfall zeigt, dass KI-Systeme, die ungeprüfte Daten verarbeiten, grundlegende Schwachstellen aufweisen können.

Mehr zum Thema:

Bleib up-to-date: