Pexon Consulting | 10 Min. Lesezeit | 30.08.2026
TL;DR
Kubeflow 2026 ist eine volle ML-Plattform auf Kubernetes: Pipelines, Notebooks, Tuning, Serving über KServe. Die meisten Mittelstandsteams brauchen diese Breite nicht. Flyte orchestriert Workflows schlanker. Der Text sagt, wann Kubeflow trägt, wann Flyte reicht und wann GitOps plus Registry genügt. Stand August 2026.
Das Problem: MLOps klingt nach Plattform, gemeint ist Nachweis
Ein Data-Team hat ein Modell im Notebook. Der nächste Schritt wird oft als „wir brauchen Kubeflow“ verkauft. Was Revision und Betrieb wirklich fragen, ist enger: Ist der Trainingslauf wiederholbar? Welcher Modellstand ist produktiv? Wer hat ihn freigegeben? Lässt er sich zurückdrehen?
Kubeflow beantwortet das, wenn ihr die Suite wirklich betreibt: viele CRDs, oft Istio oder ein vergleichbares Mesh, Dex oder ein anderes Identity-Stück, Notebooks, Pipelines, Katib, Anbindung an KServe. Der Preis ist nicht die Lizenz (Apache 2.0), sondern die Plattformstelle, die das am Leben hält.
Zwei Blog-Posts „Wann eine MLOps-Plattform?“ würden denselben Job stehlen. Deshalb liegt Flyte in diesem Text, nicht in einem zweiten. KServe und llm-d sind Serving, nicht die ganze Suite. Wer nur Inferenz ohne eigenes Training hat, braucht Kubeflow nicht.
Was Kubeflow 2026 noch ist, und was es nicht mehr sein muss
Kubeflow bleibt das Kubernetes-native Bündel für den ML-Lebensweg: Datenaufbereitung, Experiment, Pipeline, Hyperparameter, Registry-Anbindung, Serving. KServe ist als eigenes CNCF-Projekt rausgewachsen. Serving ist damit eine Integrationsfrage, kein Argument „wir haben Kubeflow, also ist Inferenz gelöst“.
Die Suite trägt, wenn drei Bedingungen zusammenkommen:
- Mehr als ein Mensch trainiert auf denselben Daten, und Notebooks allein erzeugen Drift.
- Modelle stehen im Kundenkontakt oder in einem Prozess mit Freigabe.
- Ihr müsst On-Prem, mehrere Clouds oder air-gapped dieselben Abläufe fahren, nicht nur eine Managed-ML-Konsole eines Hyperscalers.
Fehlt Bedingung 3 und ihr seid ohnehin auf einer Cloud-ML-Plattform zu Hause, ist Kubeflow oft doppelte Arbeit. Fehlt Bedingung 1, reicht eine Pipeline in Argo oder ein Flyte-Projekt. Fehlt Bedingung 2, bleibt es Forschung, kein Betrieb.
Flyte als Alternative, nicht als Feind
Flyte ist ein Workflow-Engine mit Typen, Caching und stärkerer Trennung zwischen Data-Science-Interface und Cluster-Jargon. Serving, HPO und Notebook-Plattform bringt Flyte nicht mit. Ihr koppelt KServe, MLflow oder das, was ihr schon habt.
Die Tabelle ist Absicht: kein Sieger, drei Jobs. Eine volle Plattform plus Ops-Kapazität spricht für Kubeflow. Reproduzierbare Läufe bei bereits gelöstem Serving über vLLM sprechen für Flyte oder Argo. Ohne Data-Team kauft ihr keinen von beiden.
# Orientierungsbeispiel: Entscheidung im Git, nicht in einer Folie
ml_plattform:
modus: flyte # kubeflow | flyte | none
serving: kserve-vllm
registry: mlflow
begruendung: "ein Trainingsteam, Inferenz schon auf vLLM, keine Notebook-Plattform noetig"Diese Datei zwingt euch, den Modus zu nennen. „Wir evaluieren Kubeflow“ ohne Modus ist ein offenes Ticket, kein Zielbild.
Wann Kubeflow Overkill ist
Drei Muster sehen wir wiederholt. Erstens: ein SaaS-Team will ein LLM ausliefern, trainiert nichts selbst, braucht aber „MLOps“. Das ist Inferenz-Betrieb plus Gateway, beschrieben auf der MLOps-Kindseite. Zweitens: Katib und Notebooks werden mitinstalliert, genutzt wird nur eine Pipeline. Dann habt ihr Angriffsfläche und Upgrade-Last ohne Nutzen. Drittens: Kubeflow als Ersatz für fehlende GitOps-Disziplin. Die Suite verzeiht kein Chaos im Cluster, sie vergrößert es.
Gegenprobe vor dem Chart:
- Könnt ihr den produktiven Modellstand heute in einem Satz nennen?
- Gibt es ein zweites Retraining in den nächsten 90 Tagen?
- Sitzt jemand mit Kubernetes-Alltag, nicht nur mit Jupyter?
- Ist Serving schon gelöst (vLLM, KServe) oder soll die Suite das nebenbei mitliefern?
Drei Nein: nicht Kubeflow. Zwei Ja ohne Ops-Stelle: Flyte oder eine enge Argo-Pipeline, Betrieb klären. Vier Ja und Nachweispflicht über mehrere Umgebungen: Kubeflow wird diskutabel.
KServe und llm-d gehören nicht in denselben Satz wie „wir machen Kubeflow“
KServe skaliert InferenceServices, Canary, Scale-to-Zero. llm-d setzt darüber auf Prefill/Decode und cache-aware Routing, wenn Last und Modellgröße das erzwingen. Das ist die Inferenz-Treppe, nicht die Trainingsplattform.
Ein Mittelstandscluster, der ein 7B- oder 70B-Modell intern ausliefert, landet zuerst bei vLLM, dann bei production-stack oder KServe. llm-d ist Stufe vier, nicht Tag 1. Kubeflow ändert diese Reihenfolge nicht. Wer beides parallel „einführt“, verdoppelt die Day-2-Last.
Was Pexon konkret macht
Wir betreiben MLOps auf eurem Cluster, wenn ihr eigene Modelle im Lebensweg habt: Pipelines, Registry, Feature-Disziplin, Freigabe als Commit. Kubeflow setzen wir, wenn die Suite zum Nachweis und zur Umgebung passt. Flyte oder Argo, wenn Orchestrierung reicht. Inferenz ohne Training hängt am KI-Plattform-Betrieb, nicht an Kubeflow.
AI-Readiness-Scan 990 EUR. Betrieb der Plattform darunter 5.000-10.000 EUR im Monat, Servicezeit Mo-Fr 08:00-18:00 MEZ. Wir trainieren keine Modelle und schreiben keine Fachlogik. Ohne Data-Team ist das Angebot leer.
Was das nicht ist
Kein Helm-Walkthrough der gesamten Kubeflow-Manifeste, keine Katib-Tutorial-Serie, keine Aussage „CNCF-Graduation macht die Suite betriebsarm“. Graduation ändert Governance, nicht eure CRD-Anzahl. Es ist auch kein 24/7-Versprechen.
Häufig gestellte Fragen
Kubeflow 2026 oder Flyte – was zuerst evaluieren?
Zuerst den Job: volle Plattform versus Orchestrierung. Evaluieren heißt ein Modus im Git, nicht zwei PoCs ohne Löschdatum. Inferenz-only: keines von beiden zuerst, sondern vLLM und Gateway.
Was kostet Kubeflow wirklich?
Die Software ist Open Source. Kosten sind GPU- und Cluster-Kapazität plus die Stelle, die Upgrades, Identity und Serving-Anbindung hält. Pexon-Betrieb der Schicht darunter liegt bei 5.000-10.000 EUR im Monat, unabhängig davon, ob Kubeflow oder Flyte oben draufsitzt.
Brauchen wir Kubeflow, wenn wir schon MLflow haben?
Nein. MLflow deckt Tracking und oft Registry. Kubeflow deckt die Kubernetes-native Suite. Beides zu betreiben, ohne die Schnittstelle zu benennen, erzeugt zwei Wahrheiten über denselben Modellstand.
KServe statt Kubeflow?
KServe ist Serving. Kubeflow ist Lifecycle. Ihr könnt KServe ohne Kubeflow fahren. Ihr könnt Kubeflow ohne sinnvolles Serving haben. Die Verwechslung ist die häufigste Fehlbestellung.
Wann lohnt sich Kubeflow 2026 nicht?
Bei einem Team, einem Modell und ohne zweites Retraining nicht. Ebenso wenig ohne Kubernetes-Alltagswissen. Liegt das eigentliche Problem bei GPU-Leerlauf oder einem fehlenden Gateway, löst die Suite das falsche Ticket.
Nächster Schritt
Notebook läuft, Produktivfreigabe ist unklar: die vier Gegenfragen oben schriftlich beantworten. Bleibt Kubeflow oder Flyte im Raum und der Betrieb fehlt intern, dann den KI-Plattform-Betrieb (AI-Readiness-Scan, 990 EUR). Plattformbreite an den Job koppeln, nicht an den Vendor-Pitch.
