MiMo UltraSpeed im Test 2026: 1.000 Token pro Sekunde

Micha Mirz, Lead Consultant Sovereign AI bei Pexon Consulting | 7 Min. Lesezeit | 16.09.2026

TL;DR: MiMo UltraSpeed in fünf Sätzen

MiMo UltraSpeed ist Xiaomis Beschleunigungs-Modus für das 1-Billionen-Parameter-Modell MiMo-V2.5-Pro und liefert auf einem Server mit acht GPUs rund 1.000 bis 1.200 Token pro Sekunde. Der Sprung ist echt, senkt aber weder den Token-Preis noch die Wartezeit auf die erste Antwort. Pexon Consulting misst Inferenz-Stacks für Kunden in Deutschland genau an diesem Punkt.

Das Problem: Der Durchsatz misst nicht, worauf Sie warten

Die kurze Antwort: 1.000 Token pro Sekunde beschreiben die Dekodier-Phase, nicht die Antwortzeit. Bei MiMo-V2.5-Pro liegt die gemessene Zeit bis zum ersten Token je nach Anbieter zwischen 49 und 56 Sekunden, weil das Modell vorher denkt. Ein Nutzer, der eine Frage stellt, sitzt also fast eine Minute vor einem leeren Feld, bevor der Text dann in zwei Sekunden herausschießt.

Genau diese Verwechslung erleben wir in Kundenprojekten ständig. Ein Team vergleicht Anbieter nach Token pro Sekunde, wechselt, und die gefühlte Wartezeit bleibt gleich.

Wer einen Chat-Assistenten baut, sollte auf die Zeit bis zum ersten Token optimieren. Wer Agenten-Pipelines baut, in denen ein Modell 20.000 Token Code am Stück produziert, für den ist der Durchsatz die richtige Größe. Beides ist legitim, aber es sind zwei verschiedene Zahlen, und nur eine davon steht in den Schlagzeilen.

Was in MiMo UltraSpeed technisch steckt

Drei Bausteine greifen ineinander, keiner davon ist für sich genommen neu. Xiaomi und das TileRT-Projekt haben sie erstmals so kombiniert, dass ein Modell mit 1,02 Billionen Parametern (42 Milliarden davon je Token aktiv, 384 Experten, Auswahl Top-8, 70 Layer) auf Standard-Serverhardware über die 1.000er-Marke kommt.

Die Akzeptanzlänge ist die ehrlichste Zahl im ganzen Paket: 6,3 Token je Prüfrunde beim Codieren, 5,6 bei Mathematik und Reasoning, 4,3 bei Agenten-Aufgaben. Xiaomi schreibt selbst, dass die Akzeptanzrate bei offenem, semantisch weit gestreutem Gesprächsverlauf noch nicht hoch ist. Ihr Spitzenwert hängt also davon ab, was Sie das Modell tun lassen. Eine Coding-Demo ist der Best Case, kein Durchschnitt.

Die Gewichte liegen als MiMo-V2.5-Pro-FP4-DFlash unter MIT-Lizenz auf Hugging Face, inklusive BF16-Drafter. Am 16.09.2026 zeigt die Modellkarte 147 Likes und 491 Downloads im letzten Monat, das TileRT-Repository steht bei rund 1.400 GitHub-Sternen. Für ein Modell dieser Klasse sind das kleine Zahlen, und der Grund ist banal: kaum jemand hat acht freie GPUs herumstehen.

Wird MiMo UltraSpeed dadurch billiger?

Nein, pro Token wird es teurer. Der UltraSpeed-Tier kostet etwa das Dreifache des Basis-Modells und liefert grob das Zehnfache an Tempo. Wer in Token abrechnet, zahlt mehr. Wer in Wartezeit oder in belegten GPU-Stunden rechnet, zahlt weniger.

Rechnen Sie das für Ihren Fall einmal durch, bevor Sie umstellen. Ein Agenten-Lauf, der eine Stunde GPU-Zeit blockiert und danach zehnmal schneller fertig ist, spart bei gemieteter Hardware echtes Geld. Ein Support-Chat mit 300 Token Antwortlänge spart nichts und zahlt den dreifachen Preis.

„Commodity Hardware“ ist ein Etikett, kein Preisschild

Der Begriff stimmt und führt trotzdem in die Irre. Gemeint ist: keine Spezial-Silizium-Wafer, kein SRAM-Sonderweg, sondern handelsübliche Beschleuniger. Gemeint ist nicht: bezahlbar für ein normales Team.

Ein Knoten mit acht H200 startet im Mietmarkt bei etwa 15,97 USD pro Stunde, was bei Dauerbetrieb auf rund 11.500 USD im Monat hinausläuft. Der Kauf eines integrierten HGX-Systems liegt 2026 bei 320.000 bis 420.000 USD. Das ist Rechenzentrums-Klasse, nicht Werkbank.

Unsere Empfehlung an dieser Stelle ist unbequem: Wenn Sie nicht ohnehin einen GPU-Cluster betreiben, testen Sie das Modell über die API und lassen Sie den Selbstbetrieb zunächst liegen. Der Stack lohnt sich erst, wenn Souveränität, Datenhaltung oder eine dauerhaft hohe Grundlast den Ausschlag geben. Wer nur die Benchmark-Zahl haben will, verbrennt Budget.

So sieht der Start aus, wenn die Hardware da ist:

# MiMo-V2.5-Pro-FP4-DFlash auf acht GPUs starten.
# tp 8 ist Pflicht: unter acht Karten passt der 1T-MoE nicht in den Speicher.
python -m sglang.launch_server --model-path XiaomiMiMo/MiMo-V2.5-Pro-FP4-DFlash --speculative-algorithm DFLASH --speculative-num-draft-tokens 8 --tp 8 --context-length 262144

Und so messen Sie die Zahl, die im Betrieb zählt, statt der Zahl aus der Pressemitteilung:

# Nicht den Spitzendurchsatz messen, sondern die Zeit bis zur ersten Ausgabe.
curl -s -o /dev/null -w "Gesamtdauer in Sekunden: %{time_total}" -H "Content-Type: application/json" -d '{"model":"mimo","stream":true,"max_tokens":256,"messages":[{"role":"user","content":"Nenne drei Risiken bei FP4-Quantisierung."}]}' http://localhost:30000/v1/chat/completions

DFlash, Googles Diffusionsmodelle und Groq im Vergleich

Der wichtigste Unterschied zuerst: DFlash nutzt ein Diffusionsmodell nur als Entwurfshelfer, nicht als Erzeuger der finalen Antwort. Das autoregressive Hauptmodell prüft jeden vorgeschlagenen Block und verwirft, was nicht passt. Deshalb ist das Verfahren verlustfrei, die Ausgabe entspricht der des unbeschleunigten Modells.

Googles Diffusions-Ansätze setzen anders an. Dort entsteht der Text selbst diffusiv, und die Qualität hängt direkt am Diffusionsprozess. Vergleichbar sind die beiden Welten deshalb nur beim Effekt, nicht beim Risiko. Ein Team von Google berichtet für diffusionsartige spekulative Dekodierung auf TPU v5p einen durchschnittlichen Faktor von 3,13, das DFlash-Papier nennt über 6x verlustfreie Beschleunigung und bis zu 2,5x mehr als das bisher führende Verfahren EAGLE-3.

Zu Groq gibt es keine belastbare Zahl, und wir würden auch keine schätzen. Ein LPU löst ein anderes Problem, nämlich die Latenz je einzelnem Token über SRAM statt über HBM. Spekulatives Dekodieren wäre dort im Prinzip additiv, aber TileRTs persistente Kernel sind auf CUDA gebaut und MiMo läuft bei Groq schlicht nicht. Wer das gegeneinander stellt, vergleicht eine Modell-Technik mit einer Chip-Architektur.

Bleibt die Qualität auf der Strecke?

Weniger, als die Skepsis vermuten lässt. Der Grund ist die Methode: Xiaomi quantisiert nicht nachträglich, sondern trainiert das Modell mit FP4 im Training mit, und die 4 Bit treffen nur die MoE-Experten. Attention-Projektionen und übrige Module bleiben höher aufgelöst.

Die veröffentlichten Werte liegen bei 77,4 auf SWE-bench Verified, 58,8 auf SWE-Bench Pro, 67,8 auf Claw-Eval und 47,0 auf Humanity’s Last Exam. Das ist obere Liga, aber nicht Spitze. Was Praxistests berichten, passt dazu: funktionierende Dashboards und ein 3D-Browser-Spiel in 50 bis 75 Sekunden, dazu gelegentlich fehlende Features und ein hängender Kontext bei langen Prompts.

Unsere Einschätzung nach den ersten Messungen: Das Modell ist kein Ersatz für die Qualitätsführer, sondern ein gutes Werkzeug für Aufgaben, bei denen Tempo mehr wiegt als der letzte Prozentpunkt Treffsicherheit. Massengenerierung, Entwurfsschleifen und Refactoring über viele Dateien fallen darunter. Ein Gutachten, das nur einmal richtig sein muss, nicht.

Auf der Werkzeugseite bewegt sich derweil einiges. Das vLLM-Tracking-Issue #45775 für MiMo-V2.5-Pro-FP4 mit DFlash wurde am 16.06.2026 eröffnet und inzwischen geschlossen, das Release vLLM v0.29.0 vom 09.09.2026 bringt weitere Verbesserungen an der spekulativen Dekodierung mit. Die Zeit, in der dieser Stack nur mit Xiaomis eigener Laufzeit lief, ist damit vorbei.

Häufig gestellte Fragen

Was kostet MiMo UltraSpeed im Vergleich zum Standardmodell?

Der schnelle Tier kostet 1,30 USD je 1 Mio. Eingabe-Token und 2,61 USD je 1 Mio. Ausgabe-Token, das Basismodell liegt bei 0,435 und 0,870 USD. Sie zahlen also etwa das Dreifache für rund das Zehnfache an Geschwindigkeit. Ob sich das rechnet, hängt allein davon ab, ob Sie in Token oder in belegter Zeit abrechnen.

Läuft MiMo UltraSpeed auch auf weniger als acht GPUs?

Nein, nicht sinnvoll. Der Checkpoint ist auf Tensor-Parallelität über acht Karten ausgelegt, und selbst in 4 Bit belegt ein Modell mit 1,02 Billionen Parametern mehr Speicher, als ein kleinerer Knoten bereitstellt. Für Tests auf einzelnen Karten führt der Weg über die kleineren MiMo-Varianten oder über die API.

Was ist der Unterschied zwischen DFlash und einem Diffusionsmodell wie Gemini Diffusion?

DFlash setzt Diffusion nur für den Entwurf ein, das eigentliche Modell prüft jeden Block nach und liefert am Ende exakt die Ausgabe, die es auch ohne Beschleunigung geliefert hätte. Bei einem echten Diffusions-Sprachmodell entsteht der finale Text im Diffusionsprozess selbst. Beschleunigung gegen Architektur, das sind zwei verschiedene Wetten.

Verschlechtert die 4-Bit-Quantisierung das Reasoning?

Messbar kaum, weil quantisierungsbewusstes Training verwendet wurde und nur die Experten betroffen sind. Riskanter als die 4 Bit ist in der Praxis die Akzeptanzrate der spekulativen Dekodierung: Bei offenen Gesprächen fällt sie deutlich, und dann bleibt vom Tempovorteil wenig übrig.

Lohnt sich das für ein deutsches Unternehmen mit DSGVO-Anforderungen?

Als Selbstbetrieb auf eigener oder europäischer Hardware ja, weil die Gewichte unter MIT-Lizenz offen liegen. Über die Hersteller-API in China eher nicht, dort stellen sich Fragen zu Auftragsverarbeitung und Datenfluss, die kein Geschwindigkeitsvorteil aufwiegt. Pexon Consulting begleitet genau diese Abwägung als Hands-on-Partner für Azure, KI und Daten in Deutschland.

Nächster Schritt

Verwandte Themen

Externe Quellen: Modellkarte MiMo-V2.5-Pro-FP4-DFlash auf Hugging Face, TileRT auf GitHub, DFlash-Papier auf arXiv.