LiteLLM Cost & Setup Calculator: TCO-Vergleich mit DSGVO-Filter

LiteLLM Cost & Setup Calculator – TCO-Vergleich mit DSGVO-FilterVergleiche Direct-API, LiteLLM-Gateway und Self-Hosted vLLM in 90 Sekunden — mit DSGVO-Filter und ehrlichen DevOps-Stunden.
Du bekommst eine 4-Wege-Kostenmatrix, Break-Even-Kurve über dein Token-Volumen, Reliability-Score deines Provider-Mix und konkrete Hidden-Cost-Warnungen aus 20+ Pexon-Projekten.

Jetzt Kontakt aufnehmen

100% unverbindlich mit echtem Mehrwert

Kostenrechner · DACH-Edition

LiteLLM Cost & Setup Calculator

Vergleiche Direct-API, LiteLLM-Gateway und Self-Hosted vLLM in 90 Sekunden — inkl. DSGVO-Filter, ehrlicher DevOps-Stunden und Hidden-Cost-Warnungen.

Schritt 1 von 5

Workload-Profil

Wähle ein Preset oder konfiguriere dein Token-Volumen frei.

Use-Case-Preset

Presets setzen typische Token-Werte. Du kannst danach alles anpassen.

Requests pro Monat

500.000

Avg Input-Tokens pro Request

2.000

RAG ~8k, Coding-Agent ~50k, Support ~600.

Avg Output-Tokens pro Request

500

Cache-Hit-Quote

30 %

Wie viel Prozent der Input-Tokens treffen den Prompt-Cache? RAG typisch 60–80 %, ad-hoc Chat ~10 %.

Architektur-Empfehlung für deinen Stack?

Pexon hat LiteLLM, vLLM und Direct-API-Setups in über 20 Projekten produktiv. In 30 Minuten haben wir Klarheit über deine ehrliche TCO, DSGVO-Risiken und Setup-Reihenfolge.

30-Min Architektur-Review buchen Mehr zur KI-Beratung

Alle Berechnungen sind Schätzungen basierend auf öffentlich publizierten Preisen Stand Mai 2026 (OpenAI, Anthropic, Google, AWS Bedrock, LiteLLM). USD→EUR mit Kurs 0,92 umgerechnet. Token-Preise und Infra-Kosten können sich ändern. Keine vertragliche Zusicherung.

LiteLLM Cost & Setup Calculator: Was kostet dein LLM-Gateway wirklich?

Wer 2026 ein LLM-Produkt in Produktion bringt, steht vor drei Wegen: direkt zu OpenAI, Anthropic oder Google. Über einen Gateway wie LiteLLM, der 100+ APIs hinter einer OpenAI-kompatiblen Schnittstelle bündelt. Oder Self-Hosted auf eigener GPU mit vLLM und Open-Source-Modellen. Alle drei Wege haben ehrliche Vor- und Nachteile — und alle drei haben Kosten-Fallen, die in keiner Vendor-Präsentation auftauchen.

Der Calculator oben rechnet alle vier Setup-Varianten parallel: Direct API, LiteLLM Self-Host, LiteLLM Enterprise und Self-Hosted vLLM. Mit DSGVO-Filter, ehrlichen DevOps-Stunden und einer Break-Even-Kurve, die zeigt, ab welchem Volumen sich was lohnt.

Warum LiteLLM überhaupt evaluieren?

LiteLLM ist Open Source und kostenlos in der Self-Host-Variante. Es löst drei konkrete Probleme:

Die drei LiteLLM-USPs in der Praxis

Multi-Provider-Fallback: Fällt OpenAI aus, routet LiteLLM auf Anthropic oder Bedrock — ohne Code-Änderung in deinem App-Layer.
Virtual Keys + Budget-Tracking: Pro Team eigenes Kontingent, pro Modell eigenes Limit, alles über eine API.
Provider-Lock-in vermeiden: Wechsel von GPT-4o auf Claude Sonnet ist ein Config-Change, kein Refactoring.

Der Trade-off: LiteLLM ist eine zusätzliche Komponente in deinem Stack. Postgres, Redis, Compute, Monitoring — alles muss betrieben werden. Bei einem 5-Personen-Team das gerade in die ersten LLM-Features einsteigt, kann das überdimensioniert sein. Bei einem mittelständischen IT-Team mit mehreren parallelen LLM-Projekten und Compliance-Anforderung lohnt sich der Layer in der Regel ab etwa fünf Mio. Tokens pro Monat.

Self-Host vs. Enterprise vs. Direct API: Der ehrliche TCO-Vergleich

Der typische Fehler in jedem Make-vs-Buy-Vergleich: DevOps-Stunden werden mit Null bewertet, weil „die Entwickler eh da sind“. Tatsächlich kostet eine FTE-Stunde inkl. Lohnnebenkosten und Opportunitätskosten zwischen 55 und 180 Euro. Der Calculator macht diese Zahl sichtbar.

Setup-Variante	Stärken	Schwächen
Direct API	Minimaler Setup-Aufwand, niedrigste Token-Kosten ohne Gateway-Overhead, keine zusätzliche Infra.	Kein Failover, kein zentrales Cost-Tracking, Provider-Lock-in im Code.
LiteLLM Self-Host	Vollständige Kontrolle, kein Lizenzpreis, alle Multi-Provider-Features.	10–20 h/Mo Maintenance, Memory-Leaks unter Last bekannt (Issues #15128, #17792), Postgres-Pool-Tuning nötig ab 100 RPS.
LiteLLM Enterprise	SSO, RBAC, Audit-Logs, deutlich reduzierter Wartungsaufwand, SLAs.	Lizenz 250–2.500 €/Mo, lohnt erst ab Compliance-Pflicht oder > 50 internen Usern.
Self-Hosted vLLM	Token-Kosten gegen Null bei hohem Volumen, volle Datenresidenz, kein Vendor.	GPU-Miete 1.500–3.000 €/Mo, 10–15 PT Setup, 30 h/Mo Wartung, Modell-Qualität schlechter als Frontier-Modelle.

Faustregel aus Pexon-Projekten: Unter zwei Mio. Tokens/Monat gewinnt Direct API. Zwischen zwei und 25 Mio. Tokens/Monat ist LiteLLM Enterprise meist die ehrlichste Wahl, weil die DevOps-Stunden den Self-Host-Vorteil auffressen. Über 25 Mio. Tokens/Monat ohne DSGVO-Constraint wird Self-Hosted vLLM rechnerisch attraktiv — sofern das Team GPU-Operations-Erfahrung hat.

Achtung Tokenizer-Drift: Claude Opus 4.7 erzeugt etwa 35 % mehr Tokens als Sonnet 4.6 bei identischem deutschen Text. Wer „nur das Modell wechselt“, sieht die Rechnung steigen ohne Volumen-Änderung. Der Calculator rechnet diesen Faktor automatisch ein.

DSGVO und LLMs: EU-Endpoints im Überblick

OpenAI direkt heißt: Daten verlassen die EU, gehen in US-Rechenzentren, Subprocessor-Liste ist begrenzt einsehbar. Für regulierte Branchen (Banking nach BaFin, Healthcare, Public Sector) ist das in der Regel ein Showstopper. Es gibt drei Wege zu DSGVO-konformen LLM-Setups:

Anbieter	EU-Region	Modelle
Azure OpenAI	Sweden Central, France Central, Germany West	GPT-4o, GPT-4o-mini, o3-mini (gleiche Preise wie OpenAI direkt)
AWS Bedrock	eu-central-1 (Frankfurt), eu-west-3 (Paris)	Claude Sonnet/Haiku, Llama 3.3, Mistral Large
Google Vertex AI	europe-west1, europe-west3 (Frankfurt), europe-west4	Gemini 2.5 Pro, Gemini 2.5 Flash
Self-Host vLLM	Hetzner (DE), Scaleway (FR), OVH (FR)	Llama 3.3 70B, Mistral Large, DeepSeek V3

LiteLLM kann alle drei Cloud-EU-Endpoints transparent ansprechen — der App-Code bleibt OpenAI-kompatibel, der Gateway routet die Requests an die EU-Region. Das ist der einzige Weg, Frontier-Modelle (GPT-4o, Claude Opus, Gemini Pro) in einem DSGVO-Setup zu nutzen, ohne sich auf einen Hyperscaler festzulegen.

Häufige Fragen zu LiteLLM

Was kostet LiteLLM?

Die Open-Source-Variante ist kostenlos. Reale Total-Kosten für Self-Host: 600 €/Mo Infrastruktur (Postgres, Redis, Compute) plus 10–20 Maintenance-Stunden pro Monat. LiteLLM Enterprise startet bei 250 €/Mo Basic-Tier, Premium mit SSO/SOC2/Audit-Logs kostet rund 2.500 €/Mo. Die LLM-Token-Kosten kommen jeweils oben drauf.

Lohnt sich Self-Host oder Enterprise?

Faustregel: Bis ~5 Personen-Stunden Maintenance pro Monat lohnt Self-Host, ab 10+ h/Mo (oder bei SOC2-Anforderung) wird Enterprise rechnerisch günstiger. Multipliziere deine DevOps-Stunden mit deinem Stundensatz und vergleiche mit der Lizenzgebühr — der Calculator macht das automatisch.

Ist LiteLLM DSGVO-konform?

LiteLLM selbst ist ein Proxy-Layer — die DSGVO-Frage hängt am Upstream-Provider. Über LiteLLM auf Azure OpenAI Frankfurt, Bedrock Frankfurt oder Vertex europe-west zu routen, ist DSGVO-tauglich. OpenAI direkt oder Anthropic Direct (ohne Bedrock) sind US-basiert und in regulierten Branchen problematisch.

Welcher Provider-Mix ist günstigster für RAG?

RAG-Workloads profitieren am stärksten von Prompt-Caching. Anthropic Claude (Sonnet 4.6 oder Haiku 4.5) bietet bis zu 90 % Discount auf cached Input — bei 70 % Cache-Hit-Quote ist das ein Faktor 3 günstiger als ohne Caching. Für reine Inferenz ohne große Kontexte ist Gemini 2.5 Flash mit 0,30 $ Input-Preis oft die günstigste Wahl.

Wie viel spart Prompt-Caching tatsächlich?

Bei korrekter Konfiguration (cache_control-Breakpoints, mindestens 1024 Tokens cached) sparen Anthropic-Modelle 90 % auf cached Input, OpenAI 50 %. Bei einem RAG-System mit 100k Queries/Tag und 8k Kontext-Tokens kann das den Unterschied zwischen 90.000 € und 28.000 € pro Monat ausmachen. Falsch konfiguriert greift der Discount gar nicht — der Calculator weist darauf hin.

LiteLLM vs OpenRouter — was ist der Unterschied?

OpenRouter ist ein Marktplatz mit Aufschlag (z.B. ~100 % Markup bei Claude Sonnet vs. Direct), aber Zero-Setup. LiteLLM ist Self-Hosted oder Enterprise-Lizenz, dafür ohne Token-Aufschlag und mit eigenen API-Keys beim Provider. Ab etwa 5 Mio. Tokens/Monat ist LiteLLM rechnerisch günstiger — darunter ist der OpenRouter-Marketplace-Komfort oft den Aufschlag wert.