gpt-oss-20b Kosten 2026: Self-Host vs API im Vergleich

Micha, Consultant bei Pexon Consulting | 7 Min. Lesezeit | 04.09.2026

TL;DR: gpt-oss 20b Kosten kurz

Die gpt-oss 20b Kosten beginnen nicht beim Modell, denn die Gewichte sind unter Apache 2.0 verfügbar. Entscheidend sind GPU, Strom, Betrieb und Auslastung. Unter klar markierten Annahmen kostet ein kleiner Self-Host-Pfad etwa 1.030 bis 2.630 Euro monatlich. Pexon empfiehlt ihn für sensible, stetige Lasten, nicht als reflexhaften API-Ersatz.

Das Problem: kostenloses Modell, kostenpflichtiger Betrieb

gpt-oss-20b ist offen verfügbar, aber nicht kostenlos zu betreiben. Das Modell hat rund 21 Milliarden Parameter, davon sind durch die Mixture-of-Experts-Architektur etwa 3,6 Milliarden aktiv. OpenAI nennt rund 16 GB Speicherbedarf mit MXFP4. Damit passt es auf eine starke Workstation-GPU, doch daraus folgt noch kein belastbarer Mehrnutzer-Service.

Der typische Denkfehler lautet: keine Lizenzgebühr, also keine laufenden Kosten. Tatsächlich verschiebt sich die Rechnung. Statt Token auf einer Anbieterrechnung bezahlen Sie GPU-Miete oder Abschreibung, Strom, Monitoring und Engineering-Zeit. Die offizielle Vorstellung von gpt-oss bestätigt Modellgröße, Apache-2.0-Lizenz und Speicherbedarf. Sie nennt aber bewusst keinen pauschalen Europreis für Ihren Betrieb.

Unsere Meinung: Für einen Einzelplatz-POC ist gpt-oss-20b wirtschaftlich attraktiv. Für 50 Beschäftigte ist nicht die Frage, ob das Modell startet, sondern wie viele Anfragen gleichzeitig zuverlässig bedient werden.

gpt-oss 20b Kosten: eine transparente Beispielrechnung

Eine seriöse TCO-Rechnung trennt Annahmen von Fakten. Die folgenden Werte sind keine Listenpreise von OpenAI oder einem Hardwareanbieter. Sie sind ein Rechenrahmen für September 2026, den Sie mit Ihren Angeboten, Stromkosten und internen Stundensätzen ersetzen sollten.

Zum Vergleich nehmen wir eine generische Sitzlizenz an, ausdrücklich keinen Vendor-Listenpreis: 30 Euro je Person und Monat ergeben bei 50 Personen 1.500 Euro. Nutzen davon nur 15 Personen das Werkzeug regelmäßig, zahlen Sie dennoch 50 Sitze. Genau dort wird ein verbrauchsorientierter Ansatz interessant.

Für eine Token-API lautet die Rechnung:

API-Kosten = Token pro Monat / 1.000.000 × Vertragspreis je Million Token

Beispielannahme:
120 Mio. Token × 4 Euro je Mio. Token = 480 Euro pro Monat

Die 4 Euro sind eine Beispielannahme, kein gpt-oss- oder OpenAI-Preis. Bei 480 Euro gewinnt die API rein finanziell gegen den Self-Host. Ab 1.500 Euro API-Verbrauch liegt der rechnerische Schnittpunkt zur mittleren Self-Host-Annahme. Hochverfügbarkeit, Backup-Hardware und Bereitschaft verschieben ihn wieder nach oben. Wer nur den günstigsten Monat vergleicht, trifft fast sicher die falsche Entscheidung.

Self-Host mit Ollama, vLLM oder llama.cpp

Für den ersten lokalen Test ist Ollama der kürzeste Pfad. llama.cpp eignet sich für schlanke lokale Integrationen. vLLM ist meist die bessere Wahl, sobald Batching, Parallelität und ein OpenAI-kompatibler Endpunkt für mehrere Anwendungen wichtig werden.

# Lokaler Funktionstest, noch kein produktiver Mehrnutzerbetrieb
ollama pull gpt-oss:20b
ollama run gpt-oss:20b

# Der Dienst antwortet standardmäßig nur im lokalen Ollama-Kontext.
curl http://localhost:11434/api/generate 
  -d '{"model":"gpt-oss:20b","prompt":"Fasse diese Störungsmeldung in drei Punkten zusammen.","stream":false}'

Der offizielle Speicherwert von rund 16 GB ist eine Untergrenze für die Modellgewichte, keine Kapazitätszusage. Längere Kontexte, KV-Cache und parallele Nutzer erhöhen den Speicherbedarf. Das größere Geschwistermodell gpt-oss-120b braucht laut OpenAI etwa 80 GB GPU-Speicher und gehört deshalb in eine andere TCO-Klasse.

Für sensible Unternehmensdaten führt der technische Pfad über eine hybride KI-Infrastruktur: lokal inferenzieren, kontrollierte API-Fallbacks zulassen und beide Wege über dieselben Richtlinien protokollieren.

Grenzen: wann Self-Host nicht gewinnt

Self-Hosting gewinnt nicht automatisch bei Kosten oder Qualität. Bei schwankender Nutzung steht die GPU unproduktiv herum. Bei hoher Parallelität reicht eine einzelne 16-GB-Karte trotz passender Modellgewichte nicht. Und wenn das Team regelmäßig komplexe Aufgaben an ein stärkeres Modell eskaliert, braucht die Architektur weiterhin einen API-Pfad.

Wir raten vom Eigenbetrieb ab, wenn niemand Patchen, Messen und Kapazitätsplanung verantwortet. Ebenso kritisch ist ein Vergleich gegen pauschale Sitzkosten, wenn die bestehende Lizenz zusätzlich Office-Integration, Support oder Governance enthält. Dann vergleichen Sie nicht Modell gegen Modell, sondern zwei unterschiedliche Leistungsbündel.

Sinnvoll ist gpt-oss-20b vor allem bei stetiger Grundlast, klaren Aufgaben und einem echten Souveränitätsbedarf. Für vertrauliche Zusammenfassungen, Klassifikation oder interne Assistenten kann das Modell eine kontrollierbare Basisschicht sein. Die offene KI-Plattform bündelt diesen Betrieb, ohne jede Anwendung an genau ein Modell zu binden.

Häufig gestellte Fragen

Was kostet gpt-oss-20b im Self-Hosting?

Die Modellgewichte kosten unter Apache 2.0 keine Lizenzgebühr. In unserer klar markierten Beispielrechnung liegen GPU, Strom und Betrieb zusammen bei 1.030 bis 2.630 Euro pro Monat. Hochverfügbarkeit oder eine zweite GPU sind darin nicht enthalten.

gpt-oss-20b Self-Host oder API: Was ist günstiger?

Bei niedriger oder stark schwankender Last ist die API meist günstiger, weil keine GPU leer steht. Self-Hosting wird interessant, wenn der monatliche API-Verbrauch dauerhaft die vollständigen TCO des eigenen Betriebs übersteigt. Datenschutz und Planbarkeit können die Entscheidung früher drehen als der reine Break-even.

Reichen 16 GB GPU-Speicher für gpt-oss-20b?

OpenAI nennt rund 16 GB Speicherbedarf mit MXFP4. Das reicht als Orientierung für einen lokalen Start, aber nicht als Zusage für Kontextlänge und Parallelität. KV-Cache, Runtime und gleichzeitige Anfragen benötigen zusätzliche Reserven.

Läuft gpt-oss-20b mit Ollama und vLLM?

Ja, gpt-oss-20b lässt sich mit Ollama, vLLM und llama.cpp betreiben. Ollama ist bequem für den lokalen Test, vLLM typischerweise besser für parallele Produktionslast. Entscheidend sind danach Authentifizierung, Monitoring und Kapazitätsgrenzen.

Was ist der Unterschied zwischen gpt-oss-20b und gpt-oss-120b?

gpt-oss-20b hat rund 21 Milliarden Parameter und etwa 3,6 Milliarden aktive Parameter. Die 120b-Variante zielt auf mehr Kapazität, benötigt laut OpenAI aber rund 80 GB GPU-Speicher. Damit steigen Hardware- und Betriebskosten deutlich.

Nächster Schritt

Setzen Sie Ihre drei Zahlen ein: monatliche Token, aktive Nutzer und interne Betriebsstunden. Bleibt Self-Host danach attraktiv, prüfen wir den Weg vom Einzelplatz zur kontrollierten Plattform.

Verwandte Themen