OpenAI führt eine neue optionale Sicherheitsfunktion namens Lockdown Mode ein. Sie soll Nutzerinnen und Nutzer vor sogenannten Prompt-Injection-Angriffen schützen. Igor Bonifacic berichtet bei Engadget, dass sich das Feature vor allem an Personen und Organisationen richtet, die mit sensiblen Daten arbeiten.
Bei einem Prompt-Injection-Angriff verstecken Angreifer schädliche Anweisungen auf Webseiten oder in anderen Inhalten. Liest ein KI-System diesen Inhalt, kann es die eingeschleusten Befehle ausführen, ohne dass der Nutzer davon weiß.
Was der Lockdown Mode leistet und was nicht
OpenAI bezeichnet den Lockdown Mode als letzte Verteidigungslinie. Er verhindert nicht, dass schädliche Anweisungen in Inhalten erscheinen, die ChatGPT verarbeitet. Stattdessen schränkt er Netzwerkanfragen ein, die ChatGPT stellen kann. Das soll verhindern, dass Angreifer sensible Daten aus einem Konto abziehen.
Die Aktivierung der Funktion schränkt mehrere ChatGPT-Funktionen ein:
- ChatGPT darf keine Bilder aus dem Internet abrufen und zeigt keine Bilder in Antworten an
- Der Chatbot kann keine Dateien zum Analysieren herunterladen. Manuell hochgeladene Dokumente sind weiterhin möglich
- Deep Research und Agent Mode sind vollständig deaktiviert
Gedächtnis, Datei-Uploads, das Teilen von Gesprächen und Einstellungen zum Modelltraining bleiben laut OpenAI unverändert.
Der Lockdown Mode steht allen Nutzern zur Verfügung, auch im kostenlosen Tarif. Er lässt sich in den ChatGPT-Einstellungen unter „Safety and security“ und dann „Advanced security“ aktivieren. Für einzelne Gespräche kann er vorübergehend deaktiviert werden.
Gleichzeitig führt OpenAI einen aktiven Sitzungsmanager ein. Er zeigt an, von welchen Geräten und Browsern aus das Konto gerade genutzt wird. Nutzer können einzelne oder alle Sitzungen beenden. Laut OpenAI kann das vollständige Abmelden aller Sitzungen bis zu 30 Minuten dauern.
Bleib auf dem Laufenden
KI für Contentprofis: die neuesten Tools, Tipps und Trends. Alle 14 Tage in deine Inbox:
