KI-Pulse
Analyse

OpenAIs Control Room: Modell-Ausgaben laut Anbieter binnen 35 Sekunden stoppen

Von , Redaktion Intelligenz Welt · mit KI-Unterstützung erstellt, redaktionell verantwortet (so arbeiten wir) · · 3 Min. Lesezeit

Artikel teilen
Symbolbild: Ein abstrakter Kontrollraum aus Lichtlinien mit einem großen leuchtenden Haltepunkt, von dem Datenströme zu Maschinensilhouetten laufen, Dunkelblau mit Rot- und Blau-Akzenten.
Symbol für den zentralen Stopp von Modell-Arbeitslasten. KI-generiert.

Die wichtigsten Fakten

OpenAI beschreibt mit Control Room ein internes Sicherheitssystem für seine Forschungsinfrastruktur. Laut Anbieter stoppt es weitere Modell-Ausgaben spätestens 35 Sekunden nachdem Control Room eine Stopp-Anweisung erhalten hat. Das ist eine beschriebene technische Obergrenze, kein unabhängig nachgemessenes Ergebnis und keine allgemeine Garantie, dass bereits laufende Aktionen oder Nebenwirkungen beendet werden.

Wie Control Room arbeitet

Jede Forschungs-Arbeitslast, die agentische Inferenz ausführt - RL-Experimente, Evaluierungen, große Sampling- oder Datenverarbeitungsjobs -, muss bei OpenAI an einen genehmigten Safety Case gebunden sein und registriert sich zu Beginn bei Control Room, das eine job_id vergibt. Fordert der Job Token an, reicht die Inferenz-Engine die Anfrage zusammen mit der job_id weiter - und fragt vor jeder Erfüllung bei Control Room nach, ob der Job noch autorisiert ist. Nach einem Stopp verweigert die Engine die Anfrage: Statt Token gibt es eine Refusal. Der Job-Prozess darf dabei weiterlaufen; OpenAI verlässt sich ausdrücklich nicht darauf, dass der Workload-Code den Stopp selbst korrekt verarbeitet.

Auslöser: Menschen und Monitore

Gestoppt wird auf zwei Wegen: durch Personen oder durch das Überwachungssystem. Alle Frontier-RL-Jobs laufen laut OpenAI mit einem Monitor - einem weiteren Modell, das das Verhalten des trainierten Modells inspiziert und bei Problemen Alarm schlägt; je nach Lage kann der Monitor den Stopp direkt auslösen. Als Beispiel nennt OpenAI seinen jüngsten DNS-bezogenen Vorfall, der auf diese Weise entdeckt worden sei. Control Room arbeite zudem mit den Systemen zur Erkennung von Fehlausrichtung zusammen.

Warum 35 Sekunden - und warum fail-closed

Die 35 Sekunden kommen aus einer Caching-Schicht für Inferenz-Autorisierungen, die den nötigen Durchsatz erst ermöglicht; OpenAI gibt an, die Zahl Richtung null drücken zu wollen. Zwei Designentscheidungen sind mindestens so wichtig: Erstens sitzt der Abbruchmechanismus in der Inferenz-Schicht, nicht im Job-Code - Workload-Code ändert sich ständig und ist dezentral, die wenigen Inferenz-Pfade dagegen zentral und einheitlich, was sie zum zuverlässigen Flaschenhals macht. Zweitens versagt das System geschlossen: Fällt Control Room aus oder wird manipuliert, verweigern die Engines alle Anfragen, bis der Dienst wieder normal läuft. Zusätzlich durchsucht OpenAI die Infrastruktur kontinuierlich nach abweichenden Engine-Implementierungen ohne aktive Control-Room-Anbindung. Der fail-closed-Modus gilt bereits für alle Frontier-Forschungslasten und soll binnen Tagen auf alle übrigen Forschungslasten ausgeweitet werden.

Einordnung

Das Besondere ist weniger die Existenz eines Notaus als seine Platzierung: Wer unbeaufsichtigte Agenten betreibt, kann das Muster kopieren - die Autorisierung nicht im Agenten, sondern am Punkt der Modellausgabe prüfen, weil dort weitere Modell-Inferenz kontrolliert werden kann. Die Grenzen sind ebenso klar: 35 Sekunden sind ein Fenster, in dem ein gestoppter Job theoretisch noch Ausgaben erhalten könnte; das System gilt nur für die Forschungsinfrastruktur (das externe Serving sei laut OpenAI ohnehin zentralisiert genug für schnelle Abschaltungen); und die Registrierungspflicht per job_id steht und fällt damit, dass keine Engine unangemeldet läuft - genau das adressieren die Sweeps, ein Angriffspunkt bleibt sie dennoch. Alle Angaben stammen aus OpenAIs eigener Beschreibung; wir haben das interne System nicht unabhängig geprüft. Trotzdem ist das Papier als Blaupause lesenswert: Es zeigt, wie ein Frontier-Labor die Frage beantwortet, wer eigentlich die Agenten abschaltet.

Häufige Fragen

Warum dauert der Stopp bis zu 35 Sekunden?

Wegen einer Caching-Schicht für Inferenz-Autorisierungen, die den nötigen Durchsatz ermöglicht. OpenAI gibt an, die Verzögerung Richtung null senken zu wollen.

Wer löst den Stopp aus?

Menschen oder das Überwachungssystem: Frontier-RL-Jobs laufen laut OpenAI mit einem Monitor-Modell, das das Verhalten inspiziert und je nach Schwere den Stopp auslösen kann.

Gilt das auch für die öffentliche API?

Nein. Control Room ist auf der Forschungsinfrastruktur im Einsatz; das externe Modell-Serving sei laut OpenAI von Natur aus zentralisiert genug, um Deployments schnell abzuschalten.

Quellen

  1. Control Room: A central system to track and stop model workloads across our research infrastructure (OpenAI, abgerufen 2026-11-10)

Weitere Artikel

Artikel teilen

Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.