KI-Pulse
Analyse

Weight-Space Programming: Laptop-Test und methodische Kritik

Von , Redaktion Intelligenz Welt · mit KI-Unterstützung erstellt, redaktionell verantwortet (so arbeiten wir) · · 2 Min. Lesezeit

Artikel teilen
Symbolbild: Ein aufgeklapptes Laptop, über dessen Tastatur ein holografisches Gitternetz aus Zahlen schwebt, das von einem Lichtstrahl gelesen wird, Nachtblau und Gold.
Das Gewichte-Lesen funktioniert laut Willison auch auf einem lokalen 27B-Modell. (Symbolbild, KI-generiert)

Die wichtigsten Fakten

Nach unserem Bericht vom 3. November über den MIT-CSAIL-Blogpost zu Weight-Space Programming liegen weitere Reaktionen vor: Simon Willison beschreibt eine Teilreplikation des Gewichte-Lesens, während methodische Kritik die Reichweite der ursprünglichen Experimente eingrenzt.

Die Replikation: Qwen 3.8 27B auf dem Laptop

Simon Willison hat die wohl wichtigste Frage direkt getestet: Ist das Gewichte-Lesen eine Fähigkeit, die nur Frontier-Modelle haben? Er nahm die Original-Prompts aus dem begleitenden GitHub-Repository (RikiyaT/lm_understand-logs) und ließ sie über sein llm-Werkzeug gegen Qwen 3.8 27B laufen - lokal, in LM Studio, auf seinem Laptop. Ergebnis laut seinem Blog: Pac-Man nach 46 Minuten und 43.506 Reasoning-Token mit 72 Prozent Konfidenz erkannt, Pong und Breakout ebenfalls korrekt - bei drei der vier Spiele. Auch Kimi K3.1 Pro via OpenRouter identifizierte Breakout korrekt.

I've been playing with one of the examples from the paper and I'm delighted to share that Qwen 3.8 27B running on my laptop can do this as well!

Willisons Lesart ist dabei differenziert: Der MIT-Post vermische zwei Behauptungen, die getrennt gehören - was Modelle mit rohen Gewichten ganz ohne Werkzeuge erkennen können, und wie gut sie andere Modelle verbessern, sobald sie Code ausführen dürfen. Die erste Frage hält er für die interessantere.

Die Kritik: 'misleading' oder 'nicht übermenschlich'?

Zwei weitere Stimmen, die Willison zitiert, argumentieren ähnlich: spaCy-Autor Matthew Honnibal nannte den Post irreführend, weil er beide Behauptungen vermische. Sean Goedecke beschrieb den Qwen3.5-0.8B-Fix als eine Folge von Schritten, die auch ein menschlicher ML-Forscher gehen könnte. Diese Positionen geben wir über Willisons Beitrag wieder.

Das Leistungs-Experiment: 40 Prozent weniger Denk-Token

Der Entwickler Jarrod Watts berichtet auf X, Astra habe für rund 100 Dollar GPU-Zeit die Gewichte hinter dem 'fertig gedacht'-Signal in Qwen3.8-27B gefunden und verstärkt: Im Pelikan-auf-Fahrrad-Test sank die Zahl der Thinking-Token im Schnitt um 40 Prozent. Watts betont selbst, keine Benchmarks gelaufen zu haben und bei härteren Aufgaben Einbußen zu erwarten - eine Selbstauskunft ohne unabhängige Prüfung, zitiert nach Morning Tokens.

Einordnung

Willisons Versuch zeigt, dass ein lokal laufendes 27B-Modell in drei von vier Spielbeispielen die Aufgabe aus rohen Gewichten erkennen konnte. Das ist ein unabhängiger Datenpunkt für diese eng umrissene Demo, kein allgemeiner Nachweis von Modellverständnis. Die stärkeren Aussagen des Originals zum Reparieren und Neuschreiben von Modellen beruhen auf Experimenten mit Code-Ausführung. Eine systematische unabhängige Bestätigung dieser weitergehenden Aussagen haben wir für diesen Artikel nicht geprüft.

Häufige Fragen

Hat jemand den MIT-Blogpost unabhängig bestätigt?

Teilweise: Simon Willison beschreibt die Spiel-Erkennung mit Qwen 3.8 27B auf seinem Laptop anhand der Original-Prompts. Für die weitergehenden Reparatur- und Schreib-Experimente führen die hier geprüften Quellen keine systematische unabhängige Replikation an.

Worum geht es in der Kritik genau?

Der Post vermische zwei Aussagen: dass Modelle Gewichte ohne jedes Werkzeug lesen können, und dass sie Modelle verbessern können, wenn sie Code ausführen dürfen. Kritiker wie Matthew Honnibal und Sean Goedecke halten die erste Fähigkeit für bemerkenswert, die zweite aber für näher an normaler ML-Arbeit als der Post suggeriert.

Muss ich mir als Nutzer offener Modelle Sorgen machen?

Das beobachtete Verhalten ist noch Labor-Demo, keine Angriffstechnik. Aber die Richtung ist klar: Wenn gezielte Gewichts-Edits mit gewöhnlichen Modellen machbar sind, wird die Herkunft offener Gewichte (Provenance) zur echten Sicherheitsfrage.

Quellen

  1. Qwen 3.8 27B on my laptop can interpret model weights, too (Simon Willison (simonwillison.net), abgerufen 2026-11-04)
  2. Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights (Rikiya Takehi et al. (MIT CSAIL Blog), abgerufen 2026-11-04)
  3. RikiyaT/lm_understand-logs (Prompts und Logs zum Nachspielen) (GitHub, abgerufen 2026-11-04)
  4. Binance's $6.43B theft began with a fake AI installer (Ausgabe mit den Weight-Space-Updates) (Morning Tokens, abgerufen 2026-11-04)

Weitere Artikel

Artikel teilen

Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.