OpenAIs Control Room: Modell-Ausgaben laut Anbieter binnen 35 Sekunden stoppen

Die wichtigsten Fakten
- Control Room verbindet laut OpenAI Forschungs-Inferenz-Arbeitslasten und beendet weitere Modell-Ausgaben binnen maximal 35 Sekunden nach Eingang einer Stopp-Anweisung.
- Der Abbruch sitzt in der Inferenz-Schicht: Die Engine fragt vor jeder Anfrage bei Control Room nach, ein gestoppter Job erhält Refusals statt Tokens.
- Laut OpenAI verweigert die Anbindung bei Ausfall weitere Inferenz-Anfragen. Fail-closed ist für Frontier-Forschungslasten ausgerollt; weitere Forschungslasten sollen laut Beitrag folgen. Sweeps suchen nach nicht angebundenen Engines.
- Es gilt nur für die Forschungsinfrastruktur; alle Angaben sind OpenAIs Selbstbeschreibung ohne unabhängige Prüfung.
OpenAI beschreibt mit Control Room ein internes Sicherheitssystem für seine Forschungsinfrastruktur. Laut Anbieter stoppt es weitere Modell-Ausgaben spätestens 35 Sekunden nachdem Control Room eine Stopp-Anweisung erhalten hat. Das ist eine beschriebene technische Obergrenze, kein unabhängig nachgemessenes Ergebnis und keine allgemeine Garantie, dass bereits laufende Aktionen oder Nebenwirkungen beendet werden.
Wie Control Room arbeitet
Jede Forschungs-Arbeitslast, die agentische Inferenz ausführt - RL-Experimente, Evaluierungen, große Sampling- oder Datenverarbeitungsjobs -, muss bei OpenAI an einen genehmigten Safety Case gebunden sein und registriert sich zu Beginn bei Control Room, das eine job_id vergibt. Fordert der Job Token an, reicht die Inferenz-Engine die Anfrage zusammen mit der job_id weiter - und fragt vor jeder Erfüllung bei Control Room nach, ob der Job noch autorisiert ist. Nach einem Stopp verweigert die Engine die Anfrage: Statt Token gibt es eine Refusal. Der Job-Prozess darf dabei weiterlaufen; OpenAI verlässt sich ausdrücklich nicht darauf, dass der Workload-Code den Stopp selbst korrekt verarbeitet.
Auslöser: Menschen und Monitore
Gestoppt wird auf zwei Wegen: durch Personen oder durch das Überwachungssystem. Alle Frontier-RL-Jobs laufen laut OpenAI mit einem Monitor - einem weiteren Modell, das das Verhalten des trainierten Modells inspiziert und bei Problemen Alarm schlägt; je nach Lage kann der Monitor den Stopp direkt auslösen. Als Beispiel nennt OpenAI seinen jüngsten DNS-bezogenen Vorfall, der auf diese Weise entdeckt worden sei. Control Room arbeite zudem mit den Systemen zur Erkennung von Fehlausrichtung zusammen.
Warum 35 Sekunden - und warum fail-closed
Die 35 Sekunden kommen aus einer Caching-Schicht für Inferenz-Autorisierungen, die den nötigen Durchsatz erst ermöglicht; OpenAI gibt an, die Zahl Richtung null drücken zu wollen. Zwei Designentscheidungen sind mindestens so wichtig: Erstens sitzt der Abbruchmechanismus in der Inferenz-Schicht, nicht im Job-Code - Workload-Code ändert sich ständig und ist dezentral, die wenigen Inferenz-Pfade dagegen zentral und einheitlich, was sie zum zuverlässigen Flaschenhals macht. Zweitens versagt das System geschlossen: Fällt Control Room aus oder wird manipuliert, verweigern die Engines alle Anfragen, bis der Dienst wieder normal läuft. Zusätzlich durchsucht OpenAI die Infrastruktur kontinuierlich nach abweichenden Engine-Implementierungen ohne aktive Control-Room-Anbindung. Der fail-closed-Modus gilt bereits für alle Frontier-Forschungslasten und soll binnen Tagen auf alle übrigen Forschungslasten ausgeweitet werden.
Einordnung
Das Besondere ist weniger die Existenz eines Notaus als seine Platzierung: Wer unbeaufsichtigte Agenten betreibt, kann das Muster kopieren - die Autorisierung nicht im Agenten, sondern am Punkt der Modellausgabe prüfen, weil dort weitere Modell-Inferenz kontrolliert werden kann. Die Grenzen sind ebenso klar: 35 Sekunden sind ein Fenster, in dem ein gestoppter Job theoretisch noch Ausgaben erhalten könnte; das System gilt nur für die Forschungsinfrastruktur (das externe Serving sei laut OpenAI ohnehin zentralisiert genug für schnelle Abschaltungen); und die Registrierungspflicht per job_id steht und fällt damit, dass keine Engine unangemeldet läuft - genau das adressieren die Sweeps, ein Angriffspunkt bleibt sie dennoch. Alle Angaben stammen aus OpenAIs eigener Beschreibung; wir haben das interne System nicht unabhängig geprüft. Trotzdem ist das Papier als Blaupause lesenswert: Es zeigt, wie ein Frontier-Labor die Frage beantwortet, wer eigentlich die Agenten abschaltet.
Häufige Fragen
Warum dauert der Stopp bis zu 35 Sekunden?
Wegen einer Caching-Schicht für Inferenz-Autorisierungen, die den nötigen Durchsatz ermöglicht. OpenAI gibt an, die Verzögerung Richtung null senken zu wollen.
Wer löst den Stopp aus?
Menschen oder das Überwachungssystem: Frontier-RL-Jobs laufen laut OpenAI mit einem Monitor-Modell, das das Verhalten inspiziert und je nach Schwere den Stopp auslösen kann.
Gilt das auch für die öffentliche API?
Nein. Control Room ist auf der Forschungsinfrastruktur im Einsatz; das externe Modell-Serving sei laut OpenAI von Natur aus zentralisiert genug, um Deployments schnell abzuschalten.
Quellen
- Control Room: A central system to track and stop model workloads across our research infrastructure (OpenAI, abgerufen 2026-11-10)
Weitere Artikel
- Bericht: Palo Alto Networks verhandelt über Clutch-Kauf für rund 500 Millionen Dollar
- OpenAI meldet 948 Linux-Root-Exploits aus seiner Agenten-Pipeline
Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.