Lockdown Mode für ChatGPT: OpenAIs Notbremse gegen Prompt Injection und Datenabfluss

Mit der Verbreitung von KI-Agenten, die im Web surfen, Dateien lesen und mit verbundenen Apps arbeiten, ist eine alte Angriffsklasse zum Toprisiko geworden: Prompt Injection. OpenAI reagiert nun mit einem Lockdown Mode für ChatGPT – einer Art Notbremse, die das Risiko von Datenabfluss durch versteckte Schadanweisungen reduzieren soll.

Worum geht es bei Prompt Injection?

Bei einem Prompt-Injection-Angriff werden bösartige Anweisungen in Inhalte eingeschleust, die das Modell verarbeitet – etwa in eine Webseite, ein abgerufenes Dokument oder eine Datei. Das Modell unterscheidet nicht zuverlässig zwischen legitimen Nutzeranweisungen und solchen versteckten Instruktionen und kann dadurch dazu gebracht werden, sensible Daten aus dem Gespräch oder aus verbundenen Apps nach außen zu schleusen. Branchenverbände wie OWASP führen Prompt Injection seit mehreren Jahren als wichtigste Schwachstelle für LLM-Anwendungen.

AD-Checkliste

Dein AD härten: 12 Sofortmaßnahmen

Das PDF mit Bordmitteln, PowerShell-Prüfbefehlen und 30-Tage-Reihenfolge – per Mail, sobald du deine Anmeldung zum Tech-&-Tacheles-Newsletter bestätigst.

E-Mail-Adresse *

Mit der Anmeldung erhältst du die AD-Checkliste als PDF und danach den Tech-&-Tacheles-Newsletter mit Einordnungen zu Security, KI und Crypto sowie gelegentlichen Hinweisen auf meine Bücher und Produktempfehlungen (auch Affiliate-Links) – eingetragen bist du erst nach Klick auf den Bestätigungslink in der E-Mail (Double-Opt-in). Abmeldung jederzeit über den Link in jeder E-Mail, Details in der Datenschutzerklärung.

Was der Lockdown Mode konkret tut

Der Lockdown Mode schränkt nach Angaben von OpenAI deterministisch ein, wie ChatGPT mit externen Systemen interagieren darf. Statt sich auf das Modellverhalten zu verlassen, werden bestimmte Werkzeuge schlicht deaktiviert, die ein Angreifer zum Abfluss von Daten missbrauchen könnte. Im aktivierten Zustand schaltet der Modus unter anderem ab:

• Live-Web-Browsing – es bleibt nur der Zugriff auf zwischengespeicherte (gecachte) Inhalte.
• Das Abrufen und Anzeigen von Bildern aus dem Web – eigene Bilder lassen sich weiterhin generieren.
• Deep Research und den Agentenmodus.

Aktivieren lässt sich die Funktion in den ChatGPT-Einstellungen unter „Safety and security“ → „Advanced security“ → „Lockdown mode“.

Für wen ist das gedacht?

OpenAI stellt klar: Der Lockdown Mode ist nicht für jeden gedacht. Er richtet sich an Personen und Organisationen, die mit sensiblen Daten umgehen und strengeren Schutz vor Datenexfiltration wünschen. Verfügbar ist er für persönliche Konten – einschließlich der kostenlosen Stufe – sowie für Self-Service-Business-Konten. Begleitet wird die Funktion von neuen „Elevated Risk“-Hinweisen, die riskante Situationen kenntlich machen.

Kein Allheilmittel

Wichtig ist die ehrliche Einschränkung von OpenAI selbst: Auch mit aktiviertem Lockdown Mode bleibt ChatGPT gegenüber Prompt Injection nicht vollständig immun. Schadanweisungen könnten etwa in gecachten Webinhalten oder in einer hochgeladenen Datei auftauchen und das Verhalten oder die Genauigkeit einer Antwort weiterhin beeinflussen. Der Modus senkt das Risiko, eliminiert es aber nicht.

Einordnung

Der Lockdown Mode ist ein pragmatisches Eingeständnis: Solange sich Prompt Injection auf Modellebene nicht zuverlässig lösen lässt, ist die wirksamste Verteidigung, dem Modell schlicht die gefährlichen Werkzeuge zu entziehen. Das Prinzip „weniger Fähigkeiten = kleinere Angriffsfläche“ ist klassische Sicherheitslehre – und passt zu einem breiteren Trend, agentische KI mit mehrschichtigen Schutzmaßnahmen wie Sandboxing, Rechtetrennung und Human-in-the-Loop-Freigaben abzusichern. Für alle, die ChatGPT mit vertraulichen Daten oder verbundenen Apps nutzen, lohnt ein Blick in die neuen Sicherheitseinstellungen.

Quellen

• OpenAI: Introducing Lockdown Mode and Elevated Risk labels in ChatGPT
• TechCrunch: OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
• Engadget: OpenAI rolls out a Lockdown Mode
• Cyber Security News: New ChatGPT Lockdown Mode to Mitigate Prompt Injection and Data Exfiltration Attacks