Qwen3.8-27B lokal: Wenn sich die Dichte bemerkbar macht

Es gibt eine Möglichkeit zu erkennen, wann ein Modell wirklich 'nachdenkt', und es ist nicht die Qualität der finalen Antwort – es ist die Zeit, die es braucht, bevor es sie schreibt. Bei Qwen3.8-27B ist diese Zeit in jeder Sekunde spürbar, während der GPU-Lüfter etwas lauter dreht als sonst und der Cursor wartend blinkt. In einer Ära, in der alle zu Mixture of Experts eilen, um schneller zu werden, habe ich mich für das entgegengesetzte Experiment entschieden: Was passiert, wenn man zu einem Modell zurückkehrt, das immer alles einschaltet, ohne Abkürzungen?

Am 14. August 2026 veröffentlichte Alibabas Qwen-Team, das Tongyi Lab, Qwen3.8-27B, ein dichtes multimodales Modell mit etwa 27 Milliarden Parametern, das unter der Apache 2.0-Lizenz zusammen mit seinem größeren Bruder Qwen3.8-2.4T-A95B verteilt wird – der Version der Max-Klasse, die für schwere agentische Infrastrukturen entwickelt wurde. Wie in der offiziellen Ankündigung auf dem X-Profil des Qwen-Teams berichtet wurde, bestand das Versprechen darin, die Gewichte beider Größen der Generation 3.8 offen zu halten – die leichte für das lokale Deployment und die riesige für diejenigen, die Agenten im industriellen Maßstab bauen. Das offizielle Repository auf GitHub beschreibt es als ein nativ multimodales Modell, das in der Lage ist, Qwen3.7-Plus in Büro-Workflows und in der Programmierung zu übertreffen, mit einem nativen Kontextfenster von 262.000 Token, das über YaRN auf bis zu eine Million erweitert werden kann.

Nach drei Episoden dieser Serie, die Mixture of Experts-Modellen gewidmet waren – allen voran Qwen 3.6 35B A3B und Gemma 4 26B –, bricht Qwen3.8-27B mit dem Schema. Es aktiviert nicht für jedes Token einen Bruchteil seiner Parameter, wie es ein Orchester tun würde, das nur die gerade benötigten Instrumentalisten heranzieht; es schaltet sie alle ein, immer, die gesamten siebenundzwanzig Milliarden. Es ist eine Paradigmenrückkehr in einem Moment, in dem die Industrie entschieden zu haben schien, dass die Zukunft lokaler Modelle aus verstreuten Experten und schlafenden Parametern besteht. Die Frage, die mich zum Herunterladen bewegte, ist einfach: Zahlt sich die rohe Kraft eines "voll eingeschalteten" Modells auf Consumer-Hardware in puncto Qualität im Vergleich zur Energieeinsparung eines MoE wirklich aus?

Es gibt auch ein technisches Detail, das für diejenigen erwähnenswert ist, die an professioneller Inferenz arbeiten: Laut einer technischen Analyse auf daily.dev integriert Qwen3.8-27B serienmäßig einen Multi-Token-Vorhersagekopf für spekulatives Dekodieren (speculative decoding) mit Akzeptanzraten von etwa 92 % bei BF16-Präzision und 85 % bei FP8 bei kurzen Prompts. Ein Detail, das vor allem diejenigen betrifft, die es auf Serverinfrastrukturen ausführen, das aber zeigt, wie sehr das Modell trotz der dichten Architekturentscheidung von der technischen Spezifikation an auf Inferenz-Effizienz ausgelegt wurde.

Das Labor, in Kürze

Wer dieser Serie folgt, kennt die Maschine bereits; wer zum ersten Mal vorbeischaut, findet alle Details in der ersten Episode zu Qwen 3.5, die das methodische Referenzsystem für das gesamte Projekt bleibt. Hier beschränke ich mich darauf, an die wesentlichen Zahlen zu erinnern: ein AMD Ryzen 7700, 32 GB DDR5-RAM und eine AMD Radeon RX 9060 XT GPU mit 16 GB VRAM – exakt dieselbe Konfiguration, mit der ich bereits Qwen 3.5, Qwen 3.6, Gemma 4 und Ornith-1.0 auf die Probe gestellt habe. Die Software bleibt LM Studio, seit der ersten Episode gewählt wegen der farblichen Schätzung der erwarteten Leistung – grün, orange, rot –, mit der man im Voraus verstehen kann, ob ein Modell komfortabel oder an der Grenze seiner Möglichkeiten laufen wird.

Das unquantisierte Repository von Qwen3.8-27B wiegt etwa 55,6 GB – eine Größe, die eine Ausführung in voller Präzision auf meiner Konfiguration von vornherein ausschließt. Ich habe die Tests mit der Q8-Quantisierung begonnen, der getreuesten, die in LM Studio für dieses Modell verfügbar ist, und das Ergebnis war unpraktikabel: etwa 2 Token pro Sekunde, ein Tempo, das jeden Konversationsaustausch zu einer Geduldsprobe macht, die mit jeglicher realen Nutzung unvereinbar ist. Ich bin daher auf Q4KM umgestiegen, einen Kompromiss, der numerische Präzision für eine endlich nutzbare Geschwindigkeit zwischen 4,5 und 5,5 Token pro Sekunde je nach Test opfert.

Die spezifischen Parameter dieser Session: Kontext auf 130.000 Token eingestellt – ein Kompromiss, der einen Großteil des nativen 262.000-Fensters nutzt, ohne den verfügbaren VRAM zu sättigen; GPU-Offload von 30 Schichten von insgesamt 65, also etwas weniger als die Hälfte des Modells auf der Grafikkarte geladen und der Rest dem System-RAM anvertraut; ein Pool von 8 CPU-Threads von 8 verfügbaren; Evaluierungs-Batch von 2048 mit physischem Batch von 512; und maximal 4 gleichzeitige Vorhersagen. Eine Konfiguration des erklärten Kompromisses, die darauf ausgelegt ist, Geschwindigkeit und Speicher auszubalancieren, anstatt dem Punkt maximaler Performance nachzujagen.

Dicht, multimodal und ziemlich gesprächig

Der architektonische Unterschied zu den in den vorherigen Episoden getesteten MoEs ist kein bloßes Datenblatt-Detail; er ist die Linse, durch die jedes einzelne Ergebnis dieses Tests zu lesen ist. Ein MoE-Modell wie Ornith-1.0-35B aktiviert für jedes Token nur etwa 3 Milliarden von 35 Milliarden Parametern; ein dichtes Modell wie dieses aktiviert sie alle, immer. Der Rechenaufwand entspricht den Erwartungen: Die Geschwindigkeit fällt im Vergleich zu den bisher in dieser Serie getesteten Gemischt-Experten-Konkurrenten spürbar ab, aber die offene Frage bleibt, ob sich dieser Energieaufwand in solideres Schlussfolgern übersetzt.

Auf der multimodalen Front ist Qwen3.8-27B nativ in der Lage, Bilder zu lesen – eine Eigenschaft, die es von rein textuellen Modellen wie Laguna XS-2.1 unterscheidet und es ihm ermöglicht, die visuellen Tests dieser Reihe ohne zusätzliche Konfigurationen zu bewältigen. Der native Kontext von 262.000 Token, laut offizieller Dokumentation mit YaRN auf bis zu eine Million erweiterbar, ist theoretisch riesig, aber ich habe mich entschieden, ihn für diese Session auf 130.000 zu begrenzen – eine ausreichende Marge, um seine Beständigkeit bei langen Dokumenten zu testen, ohne den verbleibenden VRAM nach dem Layer-Offloading in die Knie zu zwingen.

Dann gibt es einen Charakterzug, der sich vom ersten Prompt an zeigte und die gesamte Session begleitete: Verbosität. Qwen3.8-27B ist deutlich weitschweifiger als andere auf diesem Prüfstand getestete Modelle, mit längeren, strukturierteren Antworten, die auch dort reich an Details sind, wo sie nicht strikt erforderlich waren. Das ist weder eine Tugend noch ein Mangel an sich; es kommt darauf an, wonach man sucht. Wer Tiefe sucht, findet reichlich Stoff; wer eine schnelle Synthese sucht, könnte es als exzessiv empfinden.

Acht Herausforderungen, ein anderes Tempo

Die Testbatterie bleibt identisch mit der in den vorherigen Episoden verwendeten, um ein Minimum an qualitativer Vergleichbarkeit zwischen Modellen unterschiedlicher Größen und Architekturen zu gewährleisten. Es ist kein direkter Vergleich im strengen Sinne; es ähnelt eher dem Messen verschiedener Temperaturen mit demselben Thermometer.

Test 1, wissenschaftliches Schlussfolgern: Der Higgs-Mechanismus, 5/5

Der Test, den ich als allgemeines Thermometer verwende, forderte das Modell auf, den Mechanismus der elektroschwachen Symmetriehardware, die Rolle des Higgs-Feldes und den Grund zu erklären, warum W- und Z-Bosonen Masse erlangen, während das Photon masselos bleibt. Die Antwort kam in vier logische Abschnitte gegliedert an: vom Massenproblem in der vereinheitlichten Symmetrie über das mexikanische Hut-Potenzial, das die Symmetrie spontan bricht, bis hin zum Mechanismus, durch den W und Z Masse erlangen, und der Restsymmetrie, die das Photon schützt. Didaktisch perfekt, mit korrekten Formeln, begleitet von präzisen physikalischen Interpretationen – ein gut geschriebenes Hochschullehrbuch-Beispiel. Aufgezeichnete Geschwindigkeit: 5,64 Token pro Sekunde.

Test 2, Multimodalität: Eine Excel-Tabelle schlechter Qualität, 5/5

Ich habe ein bewusst unscharfes Bild einer Tabellenkalkulation hochgeladen und um eine Beschreibung des Inhalts, der Hauptdaten und der Trends gebeten. Das Modell las Struktur, numerische Werte und Spaltenbeziehungen korrekt ab, extrahierte fünf Schlüsseltrends aus Saisonalität, prozentualer Veränderung und Bestellentwicklung und schlug dann operative Erkenntnisse wie die Überarbeitung des Plans für die Sommermonate vor. Es bemerkte selbstständig die inverse Korrelation zwischen Bestellanzahl und Durchschnittswert – ein Detail, das andere in dieser Serie getestete Modelle nicht mit derselben Klarheit erfasst hatten. Geschwindigkeit: 5,5 Token pro Sekunde; hervorragende visuelle Robustheit trotz der schlechten Qualität der Ausgangsdatei.

Test 3, Code-Generierung: Ein NP-schweres Problem, 4,8/5

Die Aufgabe bestand darin, in Python einen Algorithmus zu implementieren, um den Zyklus maximaler Länge in einem ungerichteten Graphen zu finden, und seine Zeitkomplexität zu erklären. Das Modell erzeugte eine gut organisierte Klasse mit zwei verschiedenen Ansätzen – einen exakten mit Backtracking und Pruning sowie einen angenäherten für große Graphen – und bewies volle Einsicht in die NP-schwere Natur des Problems, noch bevor es eine Zeile Code schrieb. Der Code enthielt jedoch zwei konkrete Fehler: eine redundante Pruning-Bedingung und einen Debug-Marker, der versehentlich oben in der Datei verblieben war.

Aufgefordert, seine Arbeit ohne spezifische Hinweise darauf, wonach es suchen sollte, zu überprüfen, identifizierte es beide Probleme und lieferte eine korrigierte Version, wobei es erklärte, warum die redundante Bedingung im Falle zukünftiger Code-Änderungen potenziell gefährlich war. Die Fähigkeit zur Selbstdiagnose bleibt eine Stärke, aber die anfänglichen Fehler wiegen schwer in der Note. Geschwindigkeit: 5,7 Token pro Sekunde.

Test 4, mehrsprachige Planung: Fünf Tage in Japan, 5/5

Die Aufgabe verlangte einen Fünf-Tage-Reiseplan in Japan für einen französischen Kunden mit Text auf Französisch und einem abschließenden Zusammenfassungsabschnitt auf Italienisch. Das produzierte Französisch war flüssig und fehlerfrei, mit praktischen Ratschlägen zu Transport, Sprachbarrieren und Streetfood sowie spezifischen kulturellen Referenzen wie Tabelog für Restaurantbewertungen, Omoide Yokocho für Retro-Atmosphäre und Pontocho für die traditionellen Gassen von Kyoto. Der italienische Abschnitt war ebenso gepflegt, korrekt und flüssig. Im Gegensatz zu anderen auf diesem Prüfstand getesteten Modellen, die sprachliche Missgeschicke erlitten hatten, gab es hier keinen einzigen Sprachfehler. Geschwindigkeit: 5,42 Token pro Sekunde.

Test 5, langer Kontext: Ein 460-seitiges PDF, 4,8/5

Ich habe den AI Index Report 2025 mit über 460 Seiten hochgeladen und nach Informationen zum Wachstum der Videogenerierung sowie den genauen Seitenzahlen gefragt. Das Modell verwies präzise auf die Seiten 126 und 127 und zitierte spezifische Abbildungen aus dem Bericht sowie die wichtigsten Modelle der Branche: Google Veo, Meta Movie Gen, OpenAI Sora, Runway, Luma, Kuaishou sowie das berühmte Beispiel des "Will Smith isst Spaghetti"-Tests, der zu einem informellen Indikator für den Fortschritt bei der Videogenerierung geworden ist. Die Präzision beim Abrufen bleibt auch in komprimierter Konfiguration hervorragend. Einziger Wermutstropfen war ein lexikalischer Tippfehler, der die präzise technische Arbeit zwar nicht beeinträchtigt, aber die Note leicht senkt. Geschwindigkeit: 5,75 Token pro Sekunde – die höchste in der gesamten Session aufgezeichnete Geschwindigkeit. Screenshot während der Tests

Test 6, räumliches Schlussfolgern: Das unordentliche Zimmer, 5/5

Ich bat um eine Beschreibung des Fotos eines unordentlichen Zimmers und einen Vorschlag für eine Aufräumstrategie. Die Beschreibung deckte alle funktionalen Bereiche ab – Bett, Boden, Schreibtisch, Regale – mit einer auf praktischer Basis begründeten Eingriffsstrategie: Der sperrigste Korben muss zuerst bewegt werden, und der Boden ist der kritischste Bereich, der freigemacht werden muss. Ein Extra-Tipp, die sogenannte Drei-Sekunden-Regel, um bei jedem zweideutigen Objekt schnell zu entscheiden, fügte eine methodische Note hinzu, die andere Modelle nicht vorgeschlagen hatten. Das visuell-räumliche Verständnis war sehr gut; es bemerkte sogar die Reflexionen im Spiegel, und die operative Strategie war gut strukturiert. Geschwindigkeit: 5,52 Token pro Sekunde.

Test 7, Multi-Step-Agent: Eine Ausgabenverwaltungs-Web-App, 5/5

Die Aufgabe bestand darin, die Entwicklung einer Web-App zur Ausgabenverwaltung zu planen – mit Tech-Stack, Projektstruktur und Roadmap für ein Team aus zwei Entwicklern. Die Antwort schlug einen modernen Stack mit React, NestJS, PostgreSQL und Prisma vor, eine Monorepo-Struktur, eine Roadmap in sechs Sprints und einen dedizierten Abschnitt für übergreifende Themen: Zeitzonen, Performance, Sicherheit, CSV-Import. Die Arbeitsaufteilung zwischen den beiden Entwicklern war so detailliert wie die, die ein Projektmanager mit realer Erfahrung vorschlagen würde, mit punktuellen Erwähnungen von Werkzeugen wie Docker, GitHub Actions und Resend sowie Best Practices wie Caching und Rate Limiting. Geschwindigkeit: 5,12 Token pro Sekunde.

Test 8, lange Konversation: Vier Runden, 5/5

Der letzte Test maß das Behalten des Konversationsgedächtnisses über vier Runden zu Tech-Stack, Benachrichtigungen, Datenbank und Skalierbarkeit einer Aufgabenverwaltungs-App. Das Modell bewahrte volle Konsistenz, erinnerte sich an jede frühere technische Entscheidung und begründete sie, schlug eine hybride Architektur mit WebSockets für In-App-Benachrichtigungen und E-Mail für asynchrone Ereignisse vor, ein vollständiges Datenbank-Schema mit strategischen Indizes und eine Skalierungs-Roadmap bis zu zehntausend Nutzern in drei progressiven Stufen. Die Geschwindigkeit sank – 4,5, 4,57, 4,68 und schließlich 4,28 Token pro Sekunde –, eine physiologische Verlangsamung aufgrund des anwachsenden akkumulierten Kontextes, ohne spürbaren Abfall der Antwortqualität.

Zusammenfassende Tabelle

Durchschnittsnote: 4,95 von 5. Durchschnittsgeschwindigkeit: ca. 5,3 Token pro Sekunde.

Der langsame Denker und was das wirklich bedeutet

Die Zahlen erzählen eine klare Geschichte, aber es lohnt sich, sie aus mehreren Blickwinkeln zu betrachten, bevor Schlussfolgerungen gezogen werden. Auf der Qualitätsseite hat Qwen3.8-27B die Ergebnisse der in den vorherigen Episoden getesteten MoE-Modelle erreicht und in gewissen Passagen an Tiefe übertroffen, mit der einzigen Ausnahme des Code-Tests, der wegen anfänglicher Fehler bestraft wurde, die erst auf Aufforderung korrigiert wurden. Dichte zahlt sich offensichtlich in Bezug auf Kohärenz und Denkfähigkeit bei isolierten Aufgaben aus.

Auf der Geschwindigkeitsseite ist der Vergleich jedoch gnadenlos. Ornith-1.0-35B, ein MoE mit nur 3 Milliarden aktiven Parametern pro Token, bewegte sich stabil zwischen 16 und 17 Token pro Sekunde auf exakt derselben Maschine. Qwen3.8-27B im komprimierten Q4KM-Setup blieb bei durchschnittlich 5,3 hängen. Es ist der Unterschied zwischen dem Lesen eines Romans in natürlichem Tempo und dem Buchstabieren Wort für Wort – eine Erfahrung, die in gewisser Weise an Primer erinnert, den unabhängigen Film von Shane Carruth, der eben wegen seiner narrativen Dichte zum Kultobjekt wurde: wunderschön, streng, aber nichts für Leute, die es eilig haben, zum Abspann zu gelangen.

Dann gibt es eine Frage, die diejenigen betrifft, die dieses Modell tatsächlich nutzen werden. Laut von Alibaba verbreiteten und in einer OfficeChai-Analyse zum Modellstart aufgegriffenen Daten erzielt Qwen3.8-27B auf CoWorkBench – dem internen Benchmark für langfristige Produktivitätsaufgaben – 70,7 Punkte, vor Opus4.6 Max (bei 68,2) und dem Vorgänger Qwen3.6-27B (bei 61). Es handelt sich um vom Unternehmen selbst veröffentlichte Zahlen, die daher mit der bei jedem selbst erstellten Benchmark gebotenen Vorsicht zu lesen sind, die aber die Richtung bestätigen: Der Generationssprung in der Denkqualität ist da, egal wie man ihn misst.

Wer in diesem Szenario gewinnt und wer verliert, hängt vollständig vom Nutzungsprofil ab. Wenn Sie an isolierten und komplexen Aufgaben arbeiten – wissenschaftliche Erklärungen, Dokumentenanalysen, detaillierte Planungen – und es sich leisten können, ein paar Sekunden länger auf jede generierte Antwort zu warten, werden Sie in einem dichten Modell wie diesem einen zuverlässigeren Denker finden. Wenn Sie hingegen einen reaktionsschnellen Konversationsassistenten für den täglichen Gebrauch mit hohem Austauschvolumen suchen, werden Sie die Wahl eines MoE wie Ornith-1.0 wahrscheinlich ausgewogener finden, das in der vorherigen Episode zudem die volle Punktzahl 5 von 5 erzielte, ohne die hohe Geschwindigkeitsrechnung zu bezahlen.

Es bleibt eine offene Frage für die nächste Episode: Wie viel von diesem Geschwindigkeitsabstand und den leichten Unvollkommenheiten ließe sich mit einer Q8-Quantisierung, mehr verfügbarem VRAM und vielleicht dem gesamten in die GPU geladenen Modell zurückgewinnen, ohne die Hälfte der Layer auf den System-RAM auslagern zu müssen? Es ist die Art von Frage, der diese Serie, die entstanden ist, um zu verstehen, was mit normalen Mitteln erreicht werden kann, Episode für Episode weiter nachgehen wird.

Fazit: Qwen3.8-27B ist ein Modell für diejenigen, die es nicht eilig haben und vor allem Denktiefe suchen, im Bewusstsein, dass seine dichte Natur auf Consumer-Hardware teuer mit Geschwindigkeit bezahlt wird. Wenn Reaktivität die Priorität ist, bleibt ein MoE die ausgewogenste Wahl, selbst um den Preis von ein paar Qualitätspunkten bei den schwierigsten Aufgaben.

Technischer Hinweis: Alle angegebenen Geschwindigkeiten sind in Token pro Sekunde (t/s) ausgedrückt und wurden lokal mit LM Studio auf der im ersten Artikel der Serie beschriebenen Hardwarekonfiguration gemessen. Bei den Noten handelt es sich um persönliche Bewertungen, nicht um automatisierte Benchmark-Ergebnisse.