DeepSeek V4 self-hosted: Souveräne KI aus Deutschland 2026

Constantin Budin, Principal Data & AI bei Pexon Consulting | 8 Min. Lesezeit | 03.08.2026

TL;DR

DeepSeek-V4-Flash-0731 ist ein Open-Weight-Coding-Modell (304B Parameter, MoE, MIT-Lizenz), das deutsche Unternehmen vollständig selbst hosten. Kein Datenabfluss nach China, kein Drittlandtransfer, keine DeepSeek-Cloud als Auftragsverarbeiter. Pexon Consulting deployt das Modell DSGVO-konform auf Ihrem eigenen Kubernetes-Cluster und übernimmt den 24/7-Betrieb. So bekommen Sie souveräne KI-Qualität für Coding-Assistenten und Agenten, ohne Abhängigkeit von einem US- oder China-Cloud-Anbieter.

Das Problem: Die DeepSeek-Cloud ist für deutsche Unternehmen tabu

Ein starkes Modell allein hilft nichts, wenn Sie es rechtlich nicht einsetzen dürfen. Genau das ist bei der offiziellen DeepSeek-Cloud der Fall: Für personenbezogene Daten ist sie für deutsche Unternehmen nicht DSGVO-konform nutzbar. Es gibt keinen Auftragsverarbeitungsvertrag, keine Standardvertragsklauseln für den Datentransfer nach China, und im Februar 2025 haben sieben deutsche Landesdatenschutzbehörden förmliche Prüfverfahren eingeleitet.

Für einen CISO oder Compliance-Verantwortlichen heißt das: Jeder Prompt, der über die DeepSeek-API läuft, ist ein Drittlandtransfer ohne Rechtsgrundlage. Kundendaten, Quellcode, interne Dokumente. Das ist kein Graubereich, das ist ein klares Nein.

Die naheliegende Reaktion, das Modell einfach zu verbieten, ist die schlechtere Lösung. Denn das Modell ist gut. Und die Sperre kostet Sie einen Wettbewerbsvorteil, den Ihre Entwickler bereits kennen. Der Ausweg ist nicht Verzicht, sondern Kontrolle: Sie holen das Modell auf Ihre eigene Infrastruktur. Weil die Gewichte offen sind, geht das rechtlich sauber.

Quellen zur Rechtslage lesen sich deckungsgleich, etwa die Einordnung von e-recht24 zum DeepSeek-Datenschutz. Die Kurzfassung: Cloud raus, self-hosted rein.

Was DeepSeek-V4-Flash-0731 wirklich kann, und was nicht

Die kurze Antwort: Es ist ein exzellentes Coding- und Agenten-Modell, kein dokumentiertes Allround-Sprachmodell. Diese Unterscheidung ist wichtig, weil sie darüber entscheidet, wofür Sie es einsetzen sollten.

Die veröffentlichten Benchmarks der offiziellen Model-Card auf Hugging Face sind ausnahmslos agentische und Coding-Aufgaben:

Was in der Model-Card auffällig fehlt: klassische Sprach-Benchmarks wie MMLU oder GPQA und Angaben zur deutschen Sprachqualität. Wir behaupten deshalb bewusst nicht, dass das Modell der beste deutschsprachige Chatbot ist, das ist schlicht nicht belegt. Wer eine Kundenservice-KI mit perfektem Deutsch sucht, evaluiert andere Modelle mit.

Wofür das Modell sich anbietet: Coding-Assistenten für Ihre Entwickler, autonome Agenten, die Tools und APIs bedienen, Test- und Refactoring-Automatisierung, interne Developer-Werkzeuge. Genau die Domäne, in der die Zahlen oben liegen.

Ein paar harte Fakten zur Einordnung: Das Modell ist eine Mixture-of-Experts-Architektur mit 304 Milliarden Gesamtparametern, von denen pro Anfrage nur ein Bruchteil aktiv ist. Das ist der Trick hinter der Flash-Variante, sie ist deutlich sparsamer als das größere V4-Pro. Ein angehängtes Speculative-Decoding-Modul namens DSpark beschleunigt die Ausgabe zusätzlich. Und die Zugkraft ist real: Stand 03.08.2026 zählt Hugging Face 236.076 Downloads im letzten Monat. Das Modell wurde in der offiziellen 0731-Version am 31.07.2026 veröffentlicht und löst die Preview ab.

Der entscheidende Punkt für Sie: Die MIT-Lizenz erlaubt die kommerzielle Nutzung ohne Lizenzgebühr, und die Gewichte sind frei herunterladbar. Sie dürfen das Modell verändern, betreiben und in Produkte einbauen. Kein Vendor kann Ihnen den Zugang kündigen oder die Preise erhöhen.

Warum self-hosted den Datenschutz-Knoten durchschlägt

Sobald das Modell auf Ihrer Hardware läuft, verschwindet das Kernproblem: Es gibt keinen Drittlandtransfer mehr, keinen Cloud-Anbieter als Auftragsverarbeiter, keinen externen Zugriff auf Ihre Daten. Die Prompts verlassen Ihr Rechenzentrum nicht. Das ist der Unterschied zwischen „chinesisches Modell, verboten“ und „chinesisches Modell, souverän betrieben“.

Wichtig ist die ehrliche Abgrenzung, sonst wiegen Sie sich in falscher Sicherheit: Self-hosting löst den Drittland-Transfer, aber nicht Ihre gesamten DSGVO-Pflichten. Verzeichnis von Verarbeitungstätigkeiten, technische und organisatorische Maßnahmen, Zugriffskonzept, Löschkonzept, das alles bleibt Ihre Aufgabe. Der Vorteil: Es sind Pflichten, die Sie in der eigenen Infrastruktur tatsächlich erfüllen können, statt sie an einen Anbieter zu delegieren, der sie nicht erfüllt.

Für regulierte Branchen ist das der eigentliche Hebel. Ein Modell, das nachweisbar in Deutschland läuft, dessen Datenflüsse Sie kontrollieren und auditieren können, ist unter BAIT, DORA oder dem EU AI Act eine ganz andere Ausgangslage als eine intransparente API. Wie sich diese Governance konkret bauen lässt, mit SSO, Audit-Logs und Zugriffskontrolle, haben wir in unserem Beitrag zu Governance für self-hosted LLMs beschrieben.

Wenn Souveränität für Sie strategisch ist und nicht nur ein Compliance-Häkchen, lohnt der Blick auf unsere Beratung zur Datensouveränität in der KI. Dort geht es um die grundsätzliche Frage, welche Modelle und welcher Stack für Ihre Risikolage passen.

Was self-hosted wirklich kostet, ehrlich gerechnet

Hier kommt die unbequeme Wahrheit, die die meisten Anbieter verschweigen: Auf dem Papier ist self-hosting oft teurer als eine günstige API, und die versteckten Kosten sind der eigentliche Killer.

Die Hardware ist noch der überschaubare Teil. Eine H100-GPU kostet je nach Anbieter und Commitment grob zwischen 1.100 und 7.300 US-Dollar pro Monat, und ein MoE-Modell dieser Größe braucht mehrere davon parallel. Der Punkt, an dem sich self-hosting gegenüber einer Open-Weight-API rein rechnerisch lohnt, liegt laut Branchenanalysen 2026 irgendwo zwischen 100 und 500 Millionen Token pro Monat. Darunter ist die API meist billiger.

Der Haken sind die Kosten hinter der Hardware. Betrieb, Monitoring, Modell-Updates, Auslastungs-Management und Abschreibung treiben die echten Gesamtkosten auf das Drei- bis Fünffache der reinen GPU-Rechnung. Allein die laufende Wartung frisst 10 bis 20 Stunden Engineering-Zeit pro Monat, und zwar von genau den Senior-Leuten, die Sie ohnehin schwer finden.

Unsere klare Empfehlung deshalb: self-hosten Sie DeepSeek V4 dann, wenn Souveränität oder Compliance es erzwingen oder wenn Ihr Token-Volumen wirklich hoch und dauerhaft ist. Nicht, weil es billiger klingt. Und wenn Sie es tun, lagern Sie den Betrieb aus, statt ein eigenes Team dafür aufzubauen. Genau an dieser Rechnung scheitern die meisten DIY-Projekte.

So setzen wir das um: DeepSeek auf Ihrem Kubernetes-Cluster

DeepSeek V4 self-hosted ist kein Docker-Container, den Sie am Freitagnachmittag hochziehen. Es ist ein verteiltes Inferenz-System auf mehreren GPUs, das sauber in Ihre Plattform integriert werden muss. Als Implementierungspartner nehmen wir Ihnen genau diesen Teil ab.

Der Kern ist eine Inferenz-Engine wie vLLM oder SGLang, die das Modell über mehrere GPUs verteilt und einen OpenAI-kompatiblen Endpoint bereitstellt. Ein minimaler Start sieht so aus:

# DeepSeek-V4-Flash-0731 mit vLLM auf einer GPU-Node serven
# tensor-parallel-size an die Anzahl der GPUs anpassen
vllm serve deepseek-ai/DeepSeek-V4-Flash-0731 
  --tensor-parallel-size 8 
  --trust-remote-code 
  --served-model-name deepseek-v4-flash

Danach spricht jede Anwendung das Modell so an, als wäre es ein OpenAI-Endpoint, nur dass die Anfrage Ihr Netz nie verlässt:

# Anfrage gegen den lokalen Endpoint, die Daten verlassen das Rechenzentrum nicht
curl http://llm-gateway.intern:8000/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{
    "model": "deepseek-v4-flash",
    "messages": [{"role": "user", "content": "Refactore diese Funktion."}]
  }'

Der Betriebsteil ist der, der über Erfolg oder Frust entscheidet, und der Grund, warum das auf Kubernetes gehört: GPU-Scheduling und Node-Pools für teure Hardware, Autoscaling nach Last statt dauerhaft laufender GPUs, Health-Checks und Failover, Zugriffskontrolle über Ihr SSO, sowie Monitoring von Latenz und Auslastung. Welche Inference-Engine dabei zu Ihrem Setup passt, haben wir im Vergleich von Ollama, vLLM und TGI durchgespielt.

Das ist die Brücke zu unserem Managed-Kubernetes-Angebot: Wir betreiben den Cluster, auf dem Ihr souveränes Modell läuft, damit Ihr Team sich um die Anwendungen kümmert statt um GPU-Nodes um drei Uhr nachts. Sie bekommen die Modell-Qualität, wir tragen die Betriebslast.

Häufig gestellte Fragen

Ist DeepSeek self-hosted DSGVO-konform?

Ja, wenn Sie es korrekt betreiben. Weil die Gewichte unter MIT-Lizenz offen sind und lokal laufen, gibt es keinen Datentransfer nach China und keinen Cloud-Anbieter als Auftragsverarbeiter. Die allgemeinen DSGVO-Pflichten wie Verzeichnis von Verarbeitungstätigkeiten und technische Maßnahmen bleiben aber Ihre Aufgabe. Die DeepSeek-Cloud dagegen ist für personenbezogene Daten nicht konform.

Was kostet der Betrieb von DeepSeek V4 im eigenen Rechenzentrum?

Die Hardware ist der kleinere Posten: Eine H100 liegt bei rund 1.100 bis 7.300 US-Dollar pro Monat, und Sie brauchen mehrere für ein MoE-Modell dieser Größe. Der größere Block sind Betrieb und Wartung, die die Gesamtkosten auf das Drei- bis Fünffache treiben. Rechnerisch lohnt es sich meist erst ab 100 bis 500 Millionen Token pro Monat oder wenn Compliance den Ausschlag gibt.

Ist DeepSeek-V4-Flash besser als GPT oder Claude?

Bei agentischen und Coding-Aufgaben spielt es in der oberen Liga, die veröffentlichten Benchmarks sind stark. Für allgemeine Sprachaufgaben oder speziell deutsche Textqualität gibt es keine belegten Vergleichszahlen, hier würden wir es nicht blind gegen GPT oder Claude setzen. Ein hybrider Ansatz ist oft am sinnvollsten: das self-hosted Modell für Routine- und Coding-Last, ein Frontier-Modell für die harten Fälle.

Können wir DeepSeek auch in der Azure- oder AWS-Cloud statt on-premise betreiben?

Ja. Sie können das Modell in Ihrem eigenen EU-Cloud-Konto auf GPU-Instanzen betreiben und behalten trotzdem die Kontrolle über die Daten, da kein externer LLM-Anbieter dazwischensteht. Für viele Kunden ist das der pragmatische Mittelweg zwischen echtem On-Premise und der verbotenen DeepSeek-Cloud.

Wie lange dauert die Einführung mit Pexon?

Für einen produktionsreifen Piloten planen wir sechs Wochen: Modell-Deployment auf Ihrem Kubernetes-Cluster, Anbindung an SSO, ein konkreter Use Case und die nötige DSGVO-Dokumentation. Danach steht ein System, das Ihr Team übernehmen oder von uns betreiben lassen kann.

Nächster Schritt

Wenn Sie gerade evaluieren, ob DeepSeek V4 self-hosted für Ihr Unternehmen infrage kommt, klären wir in einem kurzen Gespräch die zwei entscheidenden Fragen: Rechtfertigt Ihr Use Case den Betriebsaufwand, und wie sieht der schnellste Weg zu einem produktiven Piloten aus.

Verwandte Themen