Qdrant on premise installieren: DSGVO-Vektorsuche 2026

Pexon Consulting | 11 Min. Lesezeit | 01.07.2026

TL;DR

Qdrant on premise installieren heißt: Vektordatenbank per Docker oder Helm im eigenen Rechenzentrum betreiben, ohne dass ein einziger Embedding-Vektor die Firmen-Infrastruktur verlässt. Pexon Consulting (80 MA, Deutschland, Microsoft Partner) baut solche DSGVO-konformen RAG-Systeme in 6 Wochen produktiv. Ein lokaler Docker-Start dauert unter einer Minute.

Warum Vektorsuche im eigenen Rechenzentrum?

Sobald ein RAG-System Kundenakten, Verträge oder Patientendaten in Embeddings umwandelt, gelten diese Vektoren als personenbezogene Daten. Ein Vektor ist eine numerische Repräsentation des Ausgangstextes und lässt sich mit Rückschluss-Angriffen teilweise rekonstruieren. Wer diese Vektoren in einer US-Cloud speichert, löst Art. 44 DSGVO (Drittlandtransfer) aus. Bei Verstößen drohen Bußgelder bis zu 20 Mio. EUR oder 4 % des weltweiten Jahresumsatzes.

Genau deshalb sehen wir bei regulierten Kunden in Banking, Versicherung und Energie einen klaren Trend: Die LLM-Frage ist verhandelbar, die Vektordatenbank-Frage nicht. Der Index mit den durchsuchbaren Firmendokumenten muss im eigenen Haus liegen.

Der Markt bestätigt das Tempo. Von 3,02 Mrd. USD (2025) wächst der Vektordatenbank-Markt 2026 auf 3,73 Mrd. USD, mit einer jährlichen Wachstumsrate von 23,5 % und einer Prognose von rund 17,9 Mrd. USD bis 2034. Vektordatenbanken sind kein Nischen-Tooling mehr, sondern Kern-Infrastruktur für jeden KI-Anwendungsfall.

Unsere klare Empfehlung: Wer mit sensiblen Daten arbeitet, sollte On-Premise nicht als teure Ausnahme behandeln, sondern als Default. Der Cloud-Weg ist die Ausnahme, die man begründen muss, nicht umgekehrt.

Warum Qdrant und nicht Pinecone oder Weaviate?

Qdrant ist die pragmatischste Wahl für On-Premise, wenn Datensouveränität das Primärziel ist. Es ist in Rust geschrieben, steht unter Apache-2.0-Lizenz (keine Nutzungslimits, kein Vendor-Lock-in) und hat rund 31.000 GitHub-Stars (Stand 01.07.2026, qdrant/qdrant). Der Self-Hosted-Modus ist voll funktionsfähig und kostenlos, nicht kastriert.

Pinecone fällt für strikte On-Premise-Szenarien aus, weil es primär ein Managed-Cloud-Dienst ist. Weaviate und Milvus sind valide Alternativen, aber schwergewichtiger im Betrieb: Milvus bringt eine ganze Komponenten-Landschaft (etcd, MinIO, Pulsar) mit, die im Kubernetes-Cluster gepflegt werden will. Qdrant läuft als einzelnes Binary bzw. ein Container.

Die aktuelle Version 1.18 („TurboQuant“, veröffentlicht am 11. Mai 2026; jüngster Patch v1.18.2 aus Juni 2026) bringt eine Quantisierungsmethode, die bei doppelter Kompression ähnliche Recall- und Latenzwerte wie Scalar Quantization liefert. Für große On-Premise-Indizes bedeutet das: weniger RAM pro Million Vektoren, was direkt die Hardware-Kosten senkt.

Einen breiteren Marktüberblick über die Alternativen findest du in unserem Überblick der 8 relevanten Vektordatenbanken.

Qdrant on premise installieren mit Docker

Der schnellste Weg zu einem lokalen Qdrant ist ein einzelner Docker-Befehl. Qdrant exponiert zwei Ports: 6333 für die REST-API und die Web-UI, 6334 für gRPC. Für einen ersten Test reicht das hier:

# Qdrant lokal starten, Version fest pinnen (nicht :latest im Betrieb!)
# Port 6333 = REST + Web-UI, Port 6334 = gRPC
docker run -d --name qdrant 
  -p 6333:6333 -p 6334:6334 
  -v "$(pwd)/qdrant_storage:/qdrant/storage" 
  qdrant/qdrant:v1.18.2

# Web-UI danach erreichbar unter http://localhost:6333/dashboard

Für alles jenseits eines Spielprojekts gehört Qdrant in eine docker-compose.yml. Wichtig ist hier vor allem eins: der API-Key. Ab Werk lauscht Qdrant ohne Authentifizierung. Das ist der häufigste Fehler, den wir bei Kunden-Setups sehen — ein offener Vektor-Endpunkt im Firmennetz.

# docker-compose.yml — Qdrant mit API-Key-Auth und persistentem Storage
services:
  qdrant:
    image: qdrant/qdrant:v1.18.2
    restart: unless-stopped
    ports:
      - "6333:6333"   # REST-API + Web-UI
      - "6334:6334"   # gRPC
    volumes:
      - ./qdrant_storage:/qdrant/storage
    environment:
      # API-Key erzwingt Authentifizierung auf allen Endpunkten
      QDRANT__SERVICE__API_KEY: "${QDRANT_API_KEY}"
      # Telemetrie abschalten — kein Datenabfluss nach draußen
      QDRANT__TELEMETRY_DISABLED: "true"

Start mit QDRANT_API_KEY=$(openssl rand -hex 32) docker compose up -d. Der generierte Schlüssel gehört in einen Secret-Store, nicht ins Repository.

Collection anlegen und Vektoren schreiben (REST-API)

Sobald Qdrant läuft, sprichst du es über die REST-API an. Eine Collection ist der Container für Vektoren einer festen Dimension und Distanzmetrik. Die Dimension richtet sich nach dem Embedding-Modell — für das mehrsprachige intfloat/multilingual-e5-large sind es 1024 Dimensionen bei Cosine-Distanz.

# 1) Collection "firmen_docs" anlegen — 1024 Dim, Cosine-Distanz
#    Modell: intfloat/multilingual-e5-large (mehrsprachig, DE tauglich)
curl -X PUT "http://localhost:6333/collections/firmen_docs" 
  -H "api-key: $QDRANT_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "vectors": { "size": 1024, "distance": "Cosine" }
  }'

# 2) Zwei Punkte (Vektoren + Metadaten) upserten
#    In der Praxis kommen die Vektoren aus dem Embedding-Modell,
#    hier stark gekürzt zur Veranschaulichung.
curl -X PUT "http://localhost:6333/collections/firmen_docs/points" 
  -H "api-key: $QDRANT_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "points": [
      { "id": 1, "vector": [0.11, 0.23, 0.05, 0.87],
        "payload": { "titel": "Wartungsvertrag 2026", "abteilung": "Legal" } },
      { "id": 2, "vector": [0.41, 0.19, 0.73, 0.02],
        "payload": { "titel": "DSGVO-Richtlinie", "abteilung": "Compliance" } }
    ]
  }'

# 3) Ähnlichkeitssuche mit Payload-Filter (nur Abteilung "Legal")
curl -X POST "http://localhost:6333/collections/firmen_docs/points/search" 
  -H "api-key: $QDRANT_API_KEY" 
  -H "Content-Type: application/json" 
  -d '{
    "vector": [0.10, 0.22, 0.06, 0.85],
    "filter": { "must": [ { "key": "abteilung", "match": { "value": "Legal" } } ] },
    "limit": 3
  }'

Der Payload-Filter im dritten Call ist mehr als Komfort. Er ist der Baustein für Mandantentrennung und rollenbasierte Zugriffe — genau das, was Multi-Tenant-Setups gegen Datenlecks absichert. Ohne konsequente Filterung sieht ein Nutzer Treffer aus fremden Abteilungen, und genau daran scheitern viele erste RAG-Prototypen.

Qdrant im Kubernetes-Cluster mit Helm

Für den Produktivbetrieb im eigenen Cluster ist Helm der Standardweg. Qdrant pflegt ein offizielles Helm-Chart, das StatefulSet, Persistent Volume und Service in einem Rutsch ausrollt. Für echte Ausfallsicherheit setzt du auf mindestens 3 Replicas mit aktiviertem Cluster-Modus — ein Single-Node-Qdrant ist kein Produktions-Setup.

# Qdrant Helm-Repository hinzufügen
helm repo add qdrant https://qdrant.github.io/qdrant-helm
helm repo update

# Qdrant im Namespace "vectordb" installieren, 3 Replicas, Auth aktiv
helm install qdrant qdrant/qdrant 
  --namespace vectordb --create-namespace 
  --set replicaCount=3 
  --set config.cluster.enabled=true 
  --set apiKey=true 
  --set persistence.size=50Gi

Die entscheidende Zeile ist persistence.size. Vektoren fressen Storage: Bei 1024 Dimensionen und float32 sind das rund 4 KB pro Vektor allein für die Rohdaten, plus HNSW-Index-Overhead. Zehn Millionen Dokumente landen schnell im dreistelligen Gigabyte-Bereich. Plane das Volume großzügig, ein nachträgliches Resize ist im StatefulSet unangenehm.

Ein Wort zur Hardware: Qdrant braucht keine GPU. Die Ähnlichkeitssuche läuft CPU-basiert, RAM ist der eigentliche Engpass. SSDs für den Storage-Layer sind Pflicht, sonst wird der HNSW-Index-Aufbau zur Geduldsprobe.

Wenn der gesamte RAG-Stack rund um Qdrant souverän aufgesetzt werden muss, lohnt der Blick auf unseren Aufbau eines Enterprise-RAG-Systems als Fundament.

Worauf Sie bei einem Produktions-Setup achten sollten

Ein lauffähiger Container ist noch kein Produktionssystem. Aus unseren Projekten die fünf Punkte, an denen On-Premise-Vektorsuche in der Praxis scheitert:

1. Authentifizierung ab Tag eins. Qdrant ohne API-Key ist ein offenes Scheunentor. In regulierten Umgebungen zusätzlich Read-Only-Keys und TLS-Terminierung davor.
2. Backup-Strategie testen, nicht nur planen. Qdrant kann Snapshots ziehen. Ein Snapshot, den nie jemand zurückgespielt hat, ist kein Backup.
3. Skalierung ehrlich einschätzen. Ein Single-Node-Qdrant reicht für einen Bereich, nicht fürs ganze Unternehmen. Sharding und Replication brauchen den Cluster-Modus.
4. Monitoring anschließen. Qdrant exportiert Prometheus-Metriken. RAM-Auslastung und Suchlatenz gehören auf ein Dashboard, bevor der erste Nutzer klagt.
5. DSGVO nachweisbar machen. „Läuft on premise“ ist kein Compliance-Nachweis. Es braucht Löschkonzept, Verarbeitungsverzeichnis und dokumentierte Datenflüsse.

Der letzte Punkt ist der, den technische Teams am häufigsten unterschätzen. Die Installation ist in einer Stunde erledigt. Der Compliance-Nachweis, dass kein Vektor abfließt und Betroffenenrechte technisch durchsetzbar sind, ist die eigentliche Arbeit.

Häufig gestellte Fragen

Was kostet Qdrant on premise?

Die Qdrant-Software selbst ist unter Apache 2.0 kostenlos, auch im vollen Funktionsumfang self-hosted. Kosten entstehen für Hardware (RAM ist der Treiber, keine GPU nötig) und Betrieb. Ein produktiver 3-Node-Cluster für einige Millionen Vektoren lässt sich auf Standard-Servern mit 32-64 GB RAM pro Node betreiben. Der größere Posten ist meist das Engineering für ein compliance-festes Setup.

Ist Qdrant on premise wirklich DSGVO-konform?

Die Architektur ist die Voraussetzung, nicht der Nachweis. Weil alle Vektoren und Metadaten in Ihrer Infrastruktur bleiben, gibt es keinen Drittlandtransfer nach Art. 44 DSGVO. Für echte Konformität brauchen Sie zusätzlich ein Löschkonzept, ein Verarbeitungsverzeichnis und dokumentierte Datenflüsse — das ist organisatorische Arbeit, keine Config-Zeile.

Qdrant vs. Milvus für On-Premise — was ist besser?

Kommt auf den Betriebsappetit an. Qdrant läuft als ein einziger Container und ist deutlich schlanker im Betrieb. Milvus bringt mehr Komponenten mit (etcd, MinIO, Message Queue) und lohnt sich erst bei sehr großen, verteilten Workloads. Für die meisten deutschen Mittelständler mit klarem Souveränitäts-Fokus ist Qdrant die pragmatischere Wahl.

Welche Hardware braucht Qdrant on premise?

Keine GPU. Die Vektorsuche ist CPU- und RAM-gebunden. Rechnen Sie grob mit dem Vektor-Rohvolumen plus HNSW-Index-Overhead im RAM: bei 1024 Dimensionen und float32 sind das rund 4 KB pro Vektor. Mit Quantisierung (ab v1.18 TurboQuant) sinkt der RAM-Bedarf deutlich. SSDs für den Storage-Layer sind Pflicht.

Kann ich Qdrant on premise mit Docker Compose produktiv betreiben, oder brauche ich Kubernetes?

Docker Compose reicht für einen Single-Node-Betrieb, etwa in einer abgegrenzten Abteilung. Sobald Sie Ausfallsicherheit, horizontale Skalierung und Zero-Downtime-Updates brauchen, führt kein Weg an Kubernetes mit dem Cluster-Modus und mindestens 3 Replicas vorbei.

Nächster Schritt

Wenn Ihr Qdrant-POC lokal läuft und die Frage jetzt „wie kriegen wir das produktiv und DSGVO-fest?“ lautet, sollten wir sprechen. Wir bauen die Vektorsuche als produktiven Baustein Ihres RAG-Stacks — mit Auth, Skalierung, Monitoring und Compliance-Nachweis.

Verwandte Themen