KI-Sicherheitspakt im Weißen Haus: Audits ohne Frist und ohne Strafe

Der neue KI-Sicherheitspakt aus dem Weißen Haus ist am 29. September 2026 unterzeichnet worden. OpenAI, Google, Meta, Anthropic, Nvidia und xAI verpflichten sich darin freiwillig, externe Prüfer an ihre Sicherheitskontrollen für fortgeschrittene KI-Modelle zu lassen. Das Dokument trägt den Titel „White House Accord on Super Intelligence – Joint Commitment on Frontier Responsibilities“. Auf dem Papier ein Fortschritt. Beim genauen Lesen ein Text, der an jeder Stelle ausweicht, an der er verbindlich werden müsste.

Was im KI-Sicherheitspakt tatsächlich steht

Die Vereinbarung ist eine Seite lang. Unterzeichnet wurde sie bei einem Treffen im Weißen Haus; veröffentlicht hat Präsident Trump den Text anschließend über seine Plattform Truth Social, nicht als offizielle Pressemitteilung. Für OpenAI unterschrieb Präsident Greg Brockman, daneben Sundar Pichai, Mark Zuckerberg, Dario Amodei, Jensen Huang und Elon Musk. Reuters führt Musks Unterschrift unter „X“, andere Medien unter „xAI“.

Inhaltlich verlangt der Pakt, die leistungsfähigsten Modelle während Training und Betrieb auf Fähigkeiten und Alignment zu überwachen – in den Bereichen Cybersicherheit, Biosicherheit und chemische Bedrohungen. Wörtlich sollen Kontrollen sicherstellen, dass Modelle „technische Systeme nicht auf unbeabsichtigte Weise hacken oder darauf zugreifen“.

Die Kontrollarchitektur hat vier Schichten:

• Robuste interne Kontrollen für Monitoring und Detektion der oben genannten Risiken.
• Ein internes Team, das prüft, ob diese Kontrollen wie vorgesehen arbeiten und festgestellte Probleme behoben werden.
• Ein unabhängiger externer Auditor, der die Kontrollen eigenständig bewertet.
• Ein unabhängiger Ausschuss des Verwaltungsrats, der die Berichte interner und externer Prüfer erhält und die Nachbesserung sicherstellt.

Hinzu kommt als einziges wiederkehrendes Element die Zusage, sich regelmäßig zu treffen, um Standards und Best Practices zu entwickeln. Trump hatte die Vereinbarung schon vor der Veröffentlichung als „moralisch bindend“ bezeichnet und sprach anschließend davon, sie sei „fast wie eine Verfassung“. Ein etwa zehnköpfiges Aufsichtsgremium brachte er lediglich ins Gespräch – wörtlich: man denke darüber nach, „vielleicht“ zehn Personen in ein solches Komitee zu setzen, möglicherweise „aus dieser Gruppe“, also aus dem Kreis der Beaufsichtigten selbst. Einen KI-Beauftragten im Weißen Haus kündigte er für die folgenden drei bis vier Tage an; ein Name lag bei Redaktionsschluss dieses Beitrags nicht vor.

Newsletter

Klartext zu KI, Security, Crypto

Einordnung statt Hype: was hinter den Tech-News steckt und was davon für dich zählt. Startbonus: die AD-Checkliste mit 12 Sofortmaßnahmen als PDF.

E-Mail-Adresse *

Mit der Anmeldung erhältst du die AD-Checkliste als PDF und danach den Tech-&-Tacheles-Newsletter mit Einordnungen zu Security, KI und Crypto sowie gelegentlichen Hinweisen auf meine Bücher und Produktempfehlungen (auch Affiliate-Links) – eingetragen bist du erst nach Klick auf den Bestätigungslink in der E-Mail (Double-Opt-in). Abmeldung jederzeit über den Link in jeder E-Mail, Details in der Datenschutzerklärung.

Die vier Lücken im Kleingedruckten

• Keine Sanktion. Es gibt keinen Durchsetzungsmechanismus und keine neue Aufsichtsbehörde, wenn ein Unternehmen hinter den Zusagen zurückbleibt.
• Keine Frist. Für die Umsetzung der Maßnahmen ist kein Termin vereinbart.
• Keine Offenlegung. Die Firmen müssen ihre Auditoren weder benennen noch Ergebnisse veröffentlichen – und wählen die Prüfer selbst aus. Zu Akkreditierung, Methode, Zugang und Umfang sagt der Text nichts.
• Nachbesserung ohne externe Durchsetzung. Der Pakt verlangt zwar, festgestellte Mängel zu beheben. Kontrolliert wird das aber vom eigenen Verwaltungsrat.

Anlass für den Pakt sind reale Vorfälle, keine Theorie. Im Juli machte OpenAI öffentlich, dass Modelle aus einer kontrollierten Testumgebung ausgebrochen waren und das Start-up Hugging Face angegriffen hatten; laut einem beauftragten Bericht von METR und Redwood Research hatten rund 1.200 isolierte Agenten zunächst einen Weg zur Kommunikation untereinander gefunden, bevor etwa 700 zum Angriff übergingen. Am 18. Juni griff ein OpenAI-Agent zudem auf den Medicare Statistics Reporting Service von Services Australia zu. OpenAI entdeckte den Vorfall im August und meldete ihn der Behörde erst am 10. September – ein Muster, das dieser Blog im Beitrag zum Medicare-Portal ausführlich beschrieben hat. Wichtig für die Einordnung: Nach Angaben von OpenAI und den australischen Behörden gibt es keine Hinweise darauf, dass individuelle Patientenakten betroffen waren.

Einen Tag vor der Unterzeichnung stoppte OpenAI zudem die für Oktober geplante Veröffentlichung des Modells GPT-6.1 Astra. Zuerst berichtete das Wall Street Journal darüber. Die Begründung ist bemerkenswert offen: Das Modell habe Aufgaben in Teilen besser erledigt, aber die Messlatte bei „Umfang und Autorisierung“ verfehlt und ungenau zurückgemeldet, welche Arbeit es tatsächlich erledigt hatte.

Was das für dich bedeutet

Für die Praxis ist die entscheidende Erkenntnis nicht politisch, sondern organisatorisch. Der Pakt beschreibt genau das Kontrollmodell, das jede interne Revision kennt: erste Linie kontrolliert sich selbst, zweite Linie prüft die erste, ein Gremium bekommt den Bericht. Dieses Modell funktioniert – wenn der Prüfer wirklich unabhängig ist und der Bericht Konsequenzen hat. Fehlt beides, entsteht kein Kontrollsystem, sondern eine Dokumentationspflicht. Kritiker formulieren es deutlich schärfer und sprechen von Sicherheitstheater, bei dem sich die Unternehmen ihre Hausaufgaben selbst benoten.

Für IT-Verantwortliche heißt das etwas Unbequemes: Die Sicherheit von KI-Agenten in deiner Umgebung wird durch diese Vereinbarung nicht besser. Sie verlagert die Verantwortung nicht zum Anbieter, sondern lässt sie dort, wo sie schon lag. Wer Agenten mit API-Zugriff, Dateisystem-Rechten oder Netzwerkfreigaben betreibt, muss weiterhin selbst davon ausgehen, dass ein Modell Aktionen ausführt, die niemand beauftragt hat. Die Vorfälle der letzten Monate sind genau so entstanden – nicht durch böse Absicht, sondern durch übereifrige Agenten mit zu weiten Rechten.

Fair bleiben muss man trotzdem: Eine freiwillige Selbstverpflichtung ist der schnellste verfügbare Weg, wenn Gesetzgebung Jahre braucht. Der Text hält ausdrücklich fest, es könne „mit der Zeit sinnvoll sein, diese Schritte in Gesetze oder Vorschriften zu überführen“. Neu ist dabei nicht die externe Prüfung: Schon die freiwilligen Zusagen von 2023, die sieben Unternehmen gegenüber der Biden-Regierung abgaben, enthielten internes und externes Sicherheitstesten vor dem Release. Neu ist die Verankerung im Verwaltungsrat. Nur vier der damaligen sieben Firmen sind heute wieder dabei – ein Hinweis darauf, wie belastbar solche Listen über die Jahre sind.

Konkrete Schritte für deine Umgebung

• Rechte begrenzen, nicht vertrauen: Jeder KI-Agent bekommt ein eigenes Konto mit minimalen Rechten und einem klar umrissenen Aufgabenbereich – kein geteilter Service-Account, kein Admin-Token „für den Anfang“.
• Egress kontrollieren: Eine Allowlist der Ziele, die ein Agent erreichen darf, verhindert den häufigsten Schadensfall – unbeabsichtigte Zugriffe auf fremde Dienste.
• Protokollieren, was der Agent wirklich getan hat: Nicht nur Prompts und Antworten, sondern Tool-Aufrufe. Der gestoppte Modell-Release zeigt, warum: Ein Modell kann falsch berichten, was es getan hat.
• Verträge und Anbieter prüfen: Frage konkret, ob dein KI-Anbieter den Pakt unterzeichnet hat, wer sein Auditor ist und ob du Ergebnisse bekommst. Die Antwort „vertraulich“ ist auch eine Information.

Quellen

• Reuters via WHBL: Trump releases AI accord with tech executives (29.09.2026)
• Dark Reading: Trump, Tech Giants Strike Voluntary AI Safety Accord (30.09.2026)
• Al Jazeera: OpenAI scraps release of latest AI model over safety concerns (29.09.2026)
• CoinDesk: OpenAI, Google and Meta pledge independent AI safety audits (30.09.2026)
• White-House-Archiv: Fact Sheet zu den freiwilligen KI-Zusagen (21.07.2023)