KI-Pulse
Modelle

Homelab-Projekt: Kimi K3 mit 2,8 Billionen Parametern läuft komplett ohne GPU

Von , Redaktion Intelligenz Welt · mit KI-Unterstützung erstellt, redaktionell verantwortet (so arbeiten wir) · · 2 Min. Lesezeit

Artikel teilen
Symbolbild: Ein Mainboard mit langen Speicherriegeln, über denen kleine Lüfter rotieren, Temperaturwellen steigen auf, Dunkelblau mit Cyan- und Rot-Akzenten.
Optane-Speicher und Kühlung als Symbol für den berichteten CPU-Aufbau. KI-generiert.

Die wichtigsten Fakten

Wie groß kann ein offenes Modell zu Hause sein? Ein Homelab-Bastler auf Reddit (u/IndividualSurvival) hat nach einem Bericht von Tom's Hardware vom 8. November Moonshot AIs Kimi K3 mit 2,8 Billionen Parametern komplett ohne GPU ausgeführt - auf einem 40-Kern-Xeon der dritten Generation mit Intel Optane PMem 200, Intels längst eingestelltem Persistent-Memory. Das Ergebnis: Es läuft, es ist laut, und es ist langsam.

Die wichtigsten Eckwerte des Builds

Einordnung

Der Build ist ein Einzelprojekt, kein Kaufratgeber - alle Tempowerte stammen aus dem Baubericht, wir haben sie nicht nachgemessen. Interessant ist die Richtung: Es ist der zweite Optane-Umbau dieser Art in diesem Jahr; der erste lief mit dem Vorgängermodell K2.5 (1 Billion Parameter), 2-Bit-Quantisierung und einer RTX 3060 für einen Teil des Modells auf etwa 4 Token pro Sekunde. Die Botschaft beider Projekte: Bei offenen Modellen in Frontier-Größe ist zu Hause weniger die GPU das Limit als die schiere Speicherkapazität. Moonshot AI selbst empfiehlt für Kimi K3 Rechenzentrums-Inferenz-Engines - dass es anders geht, zeigt dieser Basteltisch, praktikabel ist es nur für geduldige Batch-Arbeit.

Häufige Fragen

Kann man Kimi K3 wirklich ohne GPU betreiben?

Laut dem von Tom's Hardware aufgegriffenen Reddit-Baubericht ja: mit 40-Kern-Xeon und Optane PMem 200, bei gemeldeten 0,75 bis 0,85 Token pro Sekunde. Wir haben den Aufbau nicht nachgemessen.

Was ist der Flaschenhals bei so großen offenen Modellen?

Die Speicherkapazität. Schon die kleinste Community-Quantisierung von Kimi K3 braucht mindestens 610 Gigabyte RAM. Gebrauchtes Optane ist trotz Hitze- und Tempoproblemen eine der wenigen bezahlbaren Wege dorthin, weil DRAM-Preise zuletzt stark gestiegen sind.

Ist der Nachbau gefahrlos möglich?

Der Erbauer warnt laut Tom's Hardware vor Hitzeentwicklung und möglichen Schäden an benachbarten DRAM-Riegeln. Das ist eine Warnung aus dem Einzelprojekt, kein von uns geprüfter Nachbauplan.

Quellen

  1. Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone (Tom's Hardware, abgerufen 2026-11-09)

Weitere Artikel

Artikel teilen

Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.