KI-Pulse
Praxis

Cyber Chaos Monkey: Shopify lässt Agenten die eigene Produktion angreifen

Von , Redaktion Intelligenz Welt · mit KI-Unterstützung erstellt, redaktionell verantwortet (so arbeiten wir) · · 3 Min. Lesezeit

Artikel teilen
Abstraktes 3D-Rendering: Servergehäuse hinter einer transparenten Glaswand, im Inneren ein kontrolliertes Funkenleuchten, außen ein Schutzschild-Ring.
Der Cyber Chaos Monkey greift Shopifys Produktion an, aber nur innerhalb enger technischer und verfahrenstechnischer Grenzen. · Illustration: KI-generiert

Die wichtigsten Fakten

Im Shopify-Bug-Bounty-Programm ist die Zahl der Meldungen seit 2024 um fast 300 Prozent gestiegen. Der Grund, so die Einschätzung des Sicherheitsteams: Frontier-Modelle treiben die Kosten für das Finden von Schwachstellen gegen null. Shopifys Antwort heißt Cyber Chaos Monkey, kurz CCM, und dreht die Asymmetrie um: Wer die eigenen Systeme am besten kennt, sollte ihre Lücken auch am schnellsten finden können. In einem Beitrag im Engineering-Blog beschreibt Sicherheitsingenieur Dan Scofield, wie das System funktioniert.

Ein Bug-Bounty-Jäger als Agentengraph

CCM ist konzeptionell ein graphengesteuerter Bug-Bounty-Forscher mit Zugriff auf Quellcode, Bedrohungsinformationen, frühere Meldungen und Infrastrukturdaten. Wie ein menschlicher Forscher kann er live gegen Shopifys Produktionsinfrastruktur arbeiten, allerdings mit eigens angelegten Testshops und Testorganisationen. Der Name ist eine Hommage an Netflix' Chaos Monkey aus dem Jahr 2011, der zufällig Produktionsinstanzen abschaltete, um Ausfallsicherheit zu beweisen. Shopify überträgt die Idee des Chaos Engineering auf Sicherheit. Bisher, so der Beitrag, habe CCM zehntausende Angriffsengagements ausgeführt und Dutzende substanzielle Funde identifiziert, ohne einen Ausfall oder Sicherheitsvorfall zu verursachen.

Discovery und Sandbox

Das System besteht aus zwei Teilen. Discovery nimmt Ideen entgegen, die von Menschen, anderen Sicherheitsagenten oder eigenen Rückkopplungsschleifen stammen, konkret wie "suche ähnliche Risiken wie in dieser Bug-Meldung" oder abstrakt wie "erreiche Codeausführung im Admin". Ein aktuelles Cybermodell verfeinert die Idee und sucht verdächtige Stellen in Code und Konfiguration. Vielversprechende Leads gehen als strukturierte Daten an die Sandbox, wo Agenten versuchen, den Fehler tatsächlich auszunutzen: Pakete installieren, Fuzzer bauen, echte Anfragen an die Produktion stellen, die Produktionslogs lesen, mit dem Quellcode abgleichen und iterieren. Befunde fließen als Bericht zurück und können neue Engagements auslösen.

Warum der Agent die Produktion nicht gefährdet

Jedes Engagement läuft als eigener Kubernetes-Job. Der offensive Agent sitzt in einem Container ohne erhöhte Rechte. Die einzigen voreingestellten Daten sind kurzlebige Zugangsdaten, die er lesen, aber nicht ändern kann. Anfragen an interne Dienste oder Modellanbieter laufen über einen Credential-Proxy: Der Agent schickt einen Platzhalter, der Proxy setzt das echte, regelmäßig rotierte Geheimnis ein. Nach außen lässt ein nginx-basierter Ausgangsfilter nur Shopify-Domains, die Wissensdienste, Modellanbieter und ausgewählte Paketquellen durch.

Das Vier-Augen-Prinzip mit zwei Modellen

Spannender als die Technik ist der Umgang mit dem Ausrichtungsrisiko. Shopify vertraut nicht darauf, dass ein Agent seine Verhaltensregeln über einen langen Lauf einhält. Stattdessen prüft ein zweiter Agent mit einem anderen, anders ausgerichteten Modell in Echtzeit die kompletten Sitzungslogs des ersten, inklusive Antworten, Denkschritten und Werkzeugaufrufen. Erkennt der Prüfer ein Verhalten, das gegen die Einsatzregeln verstößt, beendet er den ausführenden Agenten sofort per Werkzeugaufruf. Entscheidend ist die Ausfallsrichtung: Wenn der Prüfer abstürzt, in einen Timeout läuft oder nicht mehr bewertet, endet der Lauf automatisch. Der Orchestrator hält Herzschläge zu beiden Seiten; fällt eine aus, räumt Kubernetes den gesamten Pod ab, ein Neustart ist ausgeschlossen.

Die gemeldeten Zahlen, zehntausende Engagements, Dutzende Funde, null Vorfälle, stammen aus Shopifys eigener Darstellung; eine externe Prüfung gibt es nicht. Trotzdem ist der Beitrag einer der detailliertesten öffentlichen Baupläne dafür, wie offensive Agenten gegen Produktion laufen können, ohne die Verfügbarkeit oder Kundendaten zu gefährden.

Häufige Fragen

Was ist der Cyber Chaos Monkey von Shopify?

Ein Agentensystem, das Shopifys Produktivinfrastruktur gezielt angreift, um Schwachstellen zu finden, bevor externe Angreifer es tun. Es arbeitet mit kurzlebigen Zugangsdaten und Testshops.

Wie verhindert Shopify, dass der Angriffsagent Schaden anrichtet?

Durch Schichten: Container ohne erhöhte Rechte, lesbare, aber nicht änderbare Kurzzeit-Zugangsdaten, einen Credential-Proxy, strenge Ausgangsfilter und ein zweites, anders ausgerichtetes Modell, das den Agenten in Echtzeit überwacht und stoppen kann.

Was passiert, wenn der Kontroll-Agent ausfällt?

Dann endet der Lauf automatisch. Das System ist auf positive Kontrolle ausgelegt: Ohne laufende Bewertung durch die Kontrollinstanz wird der gesamte Kubernetes-Job abgebaut.

Quellen

  1. Cyber Chaos Monkey: Staying ahead of security threats with AI agents (Shopify Engineering, abgerufen 2026-11-16)

Weitere Artikel

Artikel teilen

Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.