KI-Pulse
Analyse

Bericht: KI-Agenten drangen über Drittsoftware in Anthropic-Systeme ein

Von , Redaktion Intelligenz Welt · mit KI-Unterstützung erstellt, redaktionell verantwortet (so arbeiten wir) · · 4 Min. Lesezeit

Artikel teilen
KI-generierte Illustration: leuchtende KI-Agenten-Pfade, die über Drittprogramm-Fenster in ein abstraktes Firmennetz führen, ohne Menschen
Symbolbild, KI-generiert (Intelligenz Welt).

Die wichtigsten Fakten

Kurz gesagt: Das Cybersicherheits-Startup Cathedral hat nach eigenen Angaben KI-Agenten auf Anthropic angesetzt - und ist über Schwachstellen in externer Admin- und Vertriebssoftware in interne Systeme gelangt. Anthropic bestätigt den Vorfall grundsätzlich, streitet aber über fast alles andere: Dauer, Umfang und ob sich das Startup an die Regeln des Bug-Bounty-Programms gehalten hat. Der Fall zeigt vor allem eines: Die schwächste Flanke von KI-Laboren ist nicht das Modell, sondern die Business-Software drumherum.

Was beide Seiten bestätigen

Der Zugriff erfolgte nicht über Anthropic-Code, sondern über externe Admin- und Vertriebsprogramme. Anthropic schloss die betroffenen Zugänge nach eigenen Angaben noch am selben Tag, deaktivierte die Drittprogramme bis zur Behebung und informierte US-Bundesbehörden. Der Angriff war Teil von Anthropics Bug-Bounty-Programm, in dem Forscher für gefundene Schwachstellen belohnt werden. Cathedral wurde von ehemaligen Mitarbeitern der US-Effizienzbehörde DOGE gegründet (Gavin Kliger, Luke Farritor, Marko Elez und Jack Stein), ist laut Gizmodo mit 1,4 Milliarden US-Dollar bewertet und hat 160 Millionen US-Dollar von Investoren wie Andreessen Horowitz und Sequoia Capital eingesammelt.

Worüber beide Seiten streiten

Cathedral sagt: Unter zwölf Stunden. Dem Berichtsentwurf des Startups, der der Washington Post vorliegt, fanden die Agenten Wege zu Meeting-Transkripten, Gehaltsdaten, Stellenangeboten und Slack-Nachrichten in weniger als zwölf Stunden. Anthropic sagt: mehrere Tage. Nach Darstellung von Anthropic-Red-Teamer Logan Graham sondierte das Startup zunächst tagelang erfolglos Anthropic-Systeme und wich erst dann auf Drittsoftware aus. Dort habe Cathedral zwei Schwachstellen gefunden, aber nur eine gemeldet - die zweite habe Anthropic selbst entdeckt und gepatcht.

The fact that weaknesses in ordinary enterprise software can compromise the infrastructure of even the most advanced organizations should be a wake-up call for every company in America.

Anthropic wirft Cathedral zudem vor, mit unvollständiger Offenlegung gegen die Programmregeln verstoßen zu haben: Das Angreifen von Drittanbietern und das Abziehen von Daten gingen über die Safe-Harbor-Regeln hinaus, so Graham - wobei er die Entdeckung der Schwachstellen ausdrücklich begrüßte. Cathedral hält dagegen, man habe sich an übliche Praktiken der Sicherheitsforschung gehalten.

Der Streit um den Slack-Zugriff

Verschärft wird die Debatte durch Will Depue, ehemaliger OpenAI-Mitarbeiter: Ihm zufolge hatte Cathedral vollen Admin-Zugriff auf Anthropics Slack-Workspace, konnte jede Nachricht lesen und sich in beliebige Nutzerkonten einloggen - so berichten es ihm mehrere Quellen, die er für hochgradig verlässlich hält. Graham widerspricht: Depues Quellen lägen falsch, nannte aber mit Verweis auf die Sensibilität des Falls keine Details. Alex Stamos, Sicherheitschef des KI-Startups Cognition, das Modelle von Anthropic nutzt, hält die Ergebnisse gegenüber der Washington Post für bedeutsam: Integrierte Drittanbieter-Apps seien ein branchenweites Problem, und Anthropic hätte seine externen Dienste besser absichern können. Belegt ist bisher keine der schärferen Behauptungen - festzuhalten bleibt: Die dokumentierte Datenmenge liegt über dem, was Anthropic ursprünglich eingeräumt hat, und unter dem, was Cathedral und Depue behaupten.

Was Unternehmen daraus lernen sollten

Grahams eigene Schlussfolgerung: Angreifer lassen KI-Agenten bereits rund um die Uhr auf externe Abhängigkeiten los, und selbst Modelle eine halbe bis ganze Generation hinter der Frontier reichen dafür aus. Seine Antwort sind kontinuierliche interne Penetrationstests und Software, die mit formaler Verifikation neu gebaut wird - was KI seiner Ansicht nach erstmals wirtschaftlich macht.

You probably want to red team yourself all the time. Current models are very creative.

Häufige Fragen

Wurden Claude-Chats oder Modellgewichte gestohlen?

Nein, sagt Anthropic. Gespräche mit Claude, Quellcode und Modellgewichte waren den Angaben zufolge nie exponiert. Der Zugriff betraf Vertriebs-, HR- und IT-Systeme von Drittanbietern, darunter Kontaktdaten von Kunden und Partnern.

War der Angriff legal?

Er lief im Rahmen von Anthropics Bug-Bounty-Programm. Ob sich Cathedral an alle Regeln hielt, ist umstritten: Anthropic wirft dem Startup vor, nur eine von zwei Schwachstellen gemeldet und Daten abgezogen zu haben, was über die Safe-Harbor-Regeln hinausgehe. Cathedral sagt, es habe übliche Forschungspraxis befolgt.

Wie gefährlich sind KI-Agenten für Unternehmenssoftware?

Anthropic-Red-Teamer Logan Graham warnt, dass Angreifer Agenten bereits rund um die Uhr auf externe Abhängigkeiten ansetzen - und dass dafür schon Modelle eine halbe bis ganze Generation hinter der aktuellen Frontier ausreichen. Seine Empfehlung: kontinuierliches Red-Teaming der eigenen Systeme.

Quellen

  1. AI agents hacked Anthropic, maker of arguably the most capable AI models for cyberdefense (The Decoder, abgerufen 2026-10-29)
  2. Former DOGE Staffers' New Startup Claims It Hacked Anthropic (Gizmodo, abgerufen 2026-10-29)
  3. AI News Oct 29, 2026 (Morning Tokens, abgerufen 2026-10-29)

Weitere Artikel

Artikel teilen

Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.