Edge0-145B: Ein 145-Milliarden-Parameter-Modell fürs eigene Notebook

Die wichtigsten Fakten
- Edge0 hat am 12. November die Modelle Edge0-145B und Edge0-120B samt Inferenz-Framework quelloffen veröffentlicht.
- Der Hersteller nennt 29 GB Spitzenspeicher, über 80 Token pro Sekunde und rund 120 Watt - alle Zahlen stammen aus Edge0s eigenen Veröffentlichungen.
- Von den 145 Milliarden Parametern rechnen pro Schritt nur etwa 10 Milliarden; 64 Experten teilen sich je zwei große Matrizen.
- Die Benchmarks von Edge0 und den Vergleichsmodellen stammen aus Edge0s internen Auswertungen; Speicherwerte der Vergleichsmodelle sind Schätzungen.
- Den Anspruch, das erste quelloffene On-Device-Modell dieser Größe zu sein, hat bislang nur der Hersteller geprüft.
Das Unternehmen Edge0 hat am 12. November zwei Modelle quelloffen veröffentlicht: Edge0-145B und Edge0-120B, zusammen mit dem eigenen Inferenz-Framework und Deployment-Werkzeugen. Edge0 nennt das 145B-Modell das erste quelloffene On-Device-Modell dieser Größe - eine Herstellerangabe, die wir nicht unabhängig geprüft haben. Alle folgenden Leistungszahlen stammen aus Edge0s eigenen Veröffentlichungen; wir haben nicht nachgemessen.
Die versprochenen Werte
- 29 GB Spitzenspeicher - lauffähig auf einem kompatiblen Notebook wie einem MacBook Pro.
- Über 1.100 Token pro Sekunde beim Einlesen (Prefill), über 80 Token pro Sekunde bei der Generierung.
- Rund 120 Watt typische Leistungsaufnahme im gemessenen Setup.
- 128K bis 256K Kontext bei laut Edge0 nahezu gleicher Geschwindigkeit.
Wie das technisch gehen soll
Vier Hebel nennt Edge0. Erstens die Architektur: Je 64 Experten des Mixture-of-Experts-Modells teilen sich zwei große Matrizen, jeder Experte behält nur kleine eigene Parameter - von den 145 Milliarden Parametern rechnen pro Schritt nur etwa 10 Milliarden. Zweitens das Training: Das Modell wird von Anfang an in seiner On-Device-Architektur trainiert statt nachträglich komprimiert. Drittens das Laden über drei Speicherstufen: häufig genutzte Experten bleiben im GPU-Speicher, eine rund 40 GB große Expertenbibliothek liegt im Arbeitsspeicher, etwa 48 GB Vokabulardaten auf der SSD. Viertens das Scheduling: GPU und CPU arbeiten parallel, Speculative Decoding prüft mehrere Kandidaten-Tokens gleichzeitig.
Die Benchmarks - und ihre Grenzen
Edge0 meldet 64,6 auf DeepSWE 1.1, 86,52 auf Terminal-Bench 2.1, 90,4 auf GPQA-Diamond und 80,6 auf IFBench; im Mittel über sechs Benchmarks kommt das Modell auf 72,8 Punkte. Zwei Einschränkungen stehen im Kleingedruckten: Die Werte für Edge0 und die Vergleichsmodelle Qwen, DeepSeek und Claude stammen aus Edge0s internen Auswertungen, und die Speicherfußabdrücke der Vergleichsmodelle sind Schätzungen für eine Standard-4-Bit-Installation, keine Messungen. Zudem ist der benannte Claude-Vergleich (Opus 4.6) nicht mehr das jüngste Modell.
Relevant ist die Richtung unabhängig von den Zahlen: Lokale Modelle wachsen von der 30-Milliarden- in die 100-Milliarden-Liga. Wer sensible Daten nicht in die Cloud geben will oder wiederkehrende Tokenkosten vermeiden möchte, bekommt damit eine neue Option - sobald die Versprechen unabhängig bestätigt sind.
Häufige Fragen
Sind die Leistungswerte unabhängig geprüft?
Nein. Alle genannten Werte - Speicher, Geschwindigkeit, Benchmarks - stammen aus Edge0s eigenen Veröffentlichungen und internen Auswertungen. Eine Reproduktionsanleitung hat der Hersteller angekündigt.
Was brauche ich, um Edge0-145B lokal zu nutzen?
Laut Hersteller ein kompatibles Notebook: Edge0 nennt 29 GB Spitzenspeicher und verweist auf Laptops wie ein MacBook Pro mit 48 GB. Das sind Herstellerangaben, keine von uns nachgemessenen Werte.
Ist Edge0-145B wirklich das erste Modell dieser Größe für eigene Geräte?
Das ist eine Herstellerangabe, die wir nicht unabhängig geprüft haben. Edge0 selbst formuliert den Anspruch so in seinem Blogpost.
Quellen
- Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer (Edge0 Blog, abgerufen 2026-11-15)
Weitere Artikel
Transparenzhinweis: Dieser Artikel ist ein redaktioneller Beitrag von Philipp Paulik und entstand mit KI-Unterstützung (Recherche und Textentwurf). Alle Quellen sind unten verlinkt; Zahlen und Aussagen stammen aus diesen Quellen. Das Titelbild ist KI-generiert und im Bild entsprechend gekennzeichnet. Die News-Übersicht auf dieser Seite wird dagegen automatisch aus öffentlichen Feeds aggregiert. So arbeiten wir.