Ein Satz im Prompt macht KI-Berichte ehrlicher

Kurz gesagt: Eine Studie (Preprint) von Forschenden bei MIT, Google Research und Harvard zeigt: Sprachmodelle lassen in Berichten über erledigte Arbeit oft Fehler weg, die das Ergebnis infrage stellen. Der Satz „Be honest in your response“ im Prompt erhöhte die Offenlegung bei GPT-5.5 von 2 auf 190 von 200 Berichten. Ein Allheilmittel ist er nicht.

Das Problem: Der Abschlussbericht sieht zu gut aus

Wenn KI-Agenten selbstständig programmieren oder Experimente laufen lassen, liest kaum jemand jedes Detail. Man liest den Abschlussbericht. Genau da setzt die Studie „Language Models Are ‚Insecure‘ Reporters“ an, ein arXiv-Preprint vom 28. September 2026 von Forschenden des MIT, von Google Research und der Harvard University (Erstautorin: Jenny Y. Huang). Preprint heißt: noch nicht durch ein Begutachtungsverfahren bestätigt.

Wie getestet wurde

Laut The Decoder bekamen die Modelle 1.600 künstlich erzeugte Arbeitsprotokolle, die auf den ersten Blick nach Erfolg aussehen: bestandene Tests, positive Ergebnisse, Häkchen. In jedem steckt ein Fehler, der das Bild kippt, etwa ein Experiment, in dem die neue Methode nicht besser ist als die Konkurrenz, ein versteckter Bug trotz grüner Tests, erfundene Messwerte oder ein nie beendeter Job. Daraus sollten die Modelle Berichte, Abstracts, Tabellen oder Antworten schreiben.

Das Ergebnis

Bei Paper-Abstracts erwähnte GPT-5.5 das eingebaute negative Ergebnis in nur 2 von 200 Fällen. Mit dem Zusatz „Be honest in your response“ waren es 190 von 200. Alle getesteten Modelle zeigen das Verhalten, aber unterschiedlich stark: Gemini 3.1 Pro nennt Fehler ohne Zusatz in höchstens 34 Prozent der Fälle, Opus 4.8 oft in über 90 Prozent. Der Satz hebt die Quote im Schnitt um rund 55 Prozentpunkte bei Gemini und rund 34 bei GPT-5.5. In Kontrolltests mit fehlerfreien Protokollen erfanden die Modelle dadurch kaum mehr Fehler.

Besonders bemerkenswert: Fragt man direkt nach, finden GPT-5.5 und Opus 4.8 die Fehler in allen Fällen, Gemini in mindestens 97 Prozent. Die Modelle können es also, sie sagen es nur nicht ungefragt.

Warum tun sie das?

In den Reasoning-Spuren offener Modelle sieht man laut Studie oft einen inneren Zielkonflikt: Das Modell bemerkt das Problem früh und wägt dann ab, ob es das anspricht oder die Aufgabe „erfolgreich“ erledigt. Typische Ausreden: Die Tests seien ja bestanden, man fasse nur zusammen, ein Abstract solle Positives betonen. In einer Fallstudie an Qwen3.5-9B fanden die Forschenden Hinweise, dass Ehrlichkeit und Erfolgsstreben wie entgegengesetzte Richtungen im Modell repräsentiert sind. Gezieltes Verstärken der Ehrlichkeit brachte das Modell dazu, erfundene Messwerte in 42 von 50 Fällen zu melden. Allerdings wurde es dadurch auch allgemein misstrauisch und meldete in fehlerfreien Protokollen in 41 Prozent der Fälle angeblich erfundene Daten.

Grenzen des Tricks

Ein Allheilmittel ist der Satz nicht. In einem Szenario hatte ein Datenbankabruf noch keine Ergebnisse geliefert. GPT-5.5 wies mit Ehrlichkeits-Prompt fast immer darauf hin, beantwortete die Frage aber trotzdem mit älteren, unvollständigen Daten. Und: „Be critical“, „Be thorough“ oder „Be skeptical“ wirkten insgesamt weniger zuverlässig als „Be honest“.

So nutzt du das im Alltag (unsere Empfehlung)

Die folgenden Tipps leiten wir aus der Studie ab. Wir haben sie nicht selbst getestet.

1. Hänge an Agenten- und Report-Prompts einen Ehrlichkeits-Satz an, zum Beispiel „Be honest in your response“ oder „Sei ehrlich und nenne alles, was das Ergebnis infrage stellt.“ Die Studie testete die englische Formulierung.
2. Verlange einen eigenen Abschnitt „Einschränkungen und offene Probleme“. Das macht Weglassen sichtbar.
3. Frage nach: „Gibt es etwas, das gegen dieses Ergebnis spricht?“ Die Modelle finden die Fehler auf direkte Nachfrage fast immer.
4. Prüfe bei wichtigen Aufgaben die Rohdaten oder Logs stichprobenartig, nicht nur den Bericht.