Pexon Consulting | 10 Min. Lesezeit | 19.06.2026
TL;DR
DSGVO-konformer KI-Chatbot heißt 2026 nicht mehr „OpenAI ist verboten“ — sondern: das richtige Tool plus richtige Architektur plus dokumentierter Audit-Trail. Pexon Consulting baut DSGVO-konforme Chatbot-Setups als 3-Wochen-Festpreis-Sprint zwischen 28 und 48k EUR mit Self-Hosted-Frontend (Open WebUI), EU-Backend (Azure OpenAI EU oder Mistral DE) und strukturierter Compliance-Doku. Banking, Versicherung, KRITIS-tauglich.
Was DSGVO-konformer KI-Chatbot wirklich heißt
Wir hören das wöchentlich in CIO- und Datenschutzbeauftragten-Erstgesprächen: „Unser Vorstand will einen Chatbot ausrollen. Der Datenschutzbeauftragte sagt nein zu OpenAI direkt. Was geht stattdessen?“
Die rechtliche Lage strukturiert. Die DSGVO verbietet nicht den Einsatz von Generative AI — sie verbietet die Weitergabe personenbezogener Daten an Auftragsverarbeiter ohne entsprechende Schutzmaßnahmen. Bei OpenAI Enterprise sind das die Standard-Vertragsklauseln plus EU-US Data Privacy Framework — rechtlich grundsätzlich tragfähig, aber bei Banking oder KRITIS oft nicht ausreichend, weil zusätzliche Branchen-Regulatorik greift.
Vier Compliance-Stufen aus produktiven Pexon-Setups.
Stufe 1: Standard-DSGVO (Marketing, Vertrieb)
Für nicht-sensitive Workflows reicht OpenAI Enterprise mit SCC plus EU-Routing-Option. Setup pragmatisch, Investment niedrig.
Wann passend: Marketing-Content-Generierung, FAQ-Bots für öffentliche Inhalte, Vertriebs-Recherche.
Wann nicht: Sobald HR-Daten, Vertragsdaten oder Kundenakten ins Spiel kommen.
Stufe 2: Banking und Versicherung (BaFin, VAG §32)
Self-Hosted-Frontend wie Open WebUI plus EU-Backend. Mehr zur konkreten Frontend-Tool-Wahl im Open WebUI vs AnythingLLM-Vergleich.
Backend-Optionen.
- Azure OpenAI in West Europe oder Germany West Central. Vertraglich klar EU-gehostet. Microsoft hat die nötigen DSGVO-, BaFin- und §32-VAG-konformen Verträge.
- Customer-Managed Keys für Verschlüsselung at Rest.
- Private Endpoints — kein einziger Public-IP-Endpunkt im Verarbeitungs-Pfad.
Compliance-Schicht. Audit-Trail strukturiert, PII-Maskierung an der Schnittstelle, Permission-Layer für Multi-Team-Setups. Mehr zum DSGVO-konformen LLM-Routing.
Stufe 3: NIS2 und KRITIS-light
Self-Hosted plus Mistral Large auf Azure DE (Germany West Central) für sensitive Workloads.
Wann passend: KRITIS-Sektoren Energie, Wasser, Verkehr mit NIS2-Pflicht. Microsoft Cloud for Sovereignty erweitert hier die Verarbeitungs-Garantien.
Engineering-Aufwand. Mittel — Mistral hat OpenAI-kompatible API, Integration über LiteLLM-Gateway funktioniert ohne Anpassung am Frontend. Mehr zur breiten AI-Landing-Zone für KRITIS und NIS2.
Stufe 4: KRITIS Tier-1 und Defence
On-Prem komplett. Eigene GPU-Hardware, lokale Open-Source-Modelle (Llama 3.3 70B, Qwen 2.5 72B), eigene Vector-DB.
Wann nötig: KRITIS-Tier-1-Versorger, Defence-Industrie, Bundeswehr-Lieferanten. ITAR- und EAR-Regulatorik machen Cloud-Verarbeitung schwierig.
Engineering-Aufwand höher. Hardware-Investment 25-80k EUR pro GPU-Server, Pexon-Setup-Sprint 8-12 Wochen. Mehr zur Compute-Strategie zwischen Cloud und On-Prem.
Die Compliance-Doku, die wirklich tragfähig ist
Vier Artefakte, die in jedem Pexon-Sprint mit ausgeliefert werden.
Verarbeitungs-Verzeichnis (Art. 30 DSGVO). Strukturiertes Verzeichnis mit Datenkategorien, Zwecken, Empfängern, Lösch-Fristen, Schutzmaßnahmen. Pflicht-Doku für den Datenschutzbeauftragten.
Datenschutz-Folgenabschätzung (Art. 35 DSGVO). Bei AI-Workloads häufig DSFA-pflichtig — Pexon liefert eine Template-DSFA, die der Datenschutzbeauftragte als Basis nutzt.
Transfer Impact Assessment (TIA). Bei OpenAI-Beteiligung Pflicht. Strukturierte Bewertung der Drittland-Transfer-Risiken plus Mitigations-Maßnahmen.
Audit-Trail-Spezifikation. Welche Daten werden in welcher Granularität geloggt, wo gespeichert, wie lange aufbewahrt, von wem einsehbar. Bei BaFin- und BSI-Audits das zentrale Artefakt.
Pexon-Sprint und Investment
3-Wochen-Festpreis-Sprint:
- Woche 1 — Compliance-Workshop und Architektur. CISO, Datenschutzbeauftragter, Engineering-Lead an einem Tisch. Use-Case-Inventur, Daten-Klassifikation, Backend-Wahl.
- Woche 2 — Setup. Open-WebUI-Container, LLM-Gateway, EU-Backend-Konfiguration, PII-Maskierung, Audit-Trail.
- Woche 3 — Doku, Übergabe. Compliance-Doku, Penetration-Test, Schulung.
Investment-Festpreis: 28-48k EUR je nach Stufe. Untere Spanne Stufe 2 (Banking-Standard), obere Spanne Stufe 4 (KRITIS-Tier-1).
Häufig gestellte Fragen
Reicht OpenAI Enterprise für DSGVO ohne Self-Hosting?
Für Standard-DSGVO-Lagen ja, vertraglich tragfähig. Bei Banking und KRITIS strukturell knapp — wir empfehlen für diese Branchen Self-Hosted-Frontend plus EU-Backend.
Was kostet eine Datenschutz-Folgenabschätzung?
Bei Standard-Use-Cases im Sprint-Festpreis enthalten. Bei komplexen Setups (Multi-Mandant, Multi-Country) kommt zusätzlicher Aufwand von 1-2 Wochen dazu.
Können wir mit OpenAI starten und später migrieren?
Häufiger Pfad. Wir empfehlen vom Start an die Architektur so zu wählen, dass ein späterer Backend-Wechsel ohne Anwendungs-Anpassung möglich ist. Das ist genau der Wert des Gateway-Patterns. Mehr im LLM-Gateway-Konzept.
Wie reagiert die BaFin auf Self-Hosted-Chatbot-Setups?
BaFin prüft im Auslagerungs-Audit die Konsistenz der Architektur. Mit Self-Hosted-Frontend plus Azure-EU-Backend plus dokumentierter Audit-Trail haben unsere Banking-Kunden die Prüfung getragen. Wichtig ist die strukturierte Doku.
Was bei Multi-Mandanten-Setups (SaaS-Anbieter)?
Multi-Tenant-Isolation ist eigenes Engineering-Thema. Mehr im Multi-Tenant-RAG-Schutz-Pattern.
Nächster Schritt
Wenn euer Unternehmen unter Banking-, Versicherungs-, NIS2- oder KRITIS-Pflicht steht und einen Chatbot ausrollen will: 60-Minuten-Architektur-Call. Wir skizzieren den Sprint mit Festpreis.
Verwandte Themen
→KI-Chatbot-Plattformen 2026: der große Self-Hosted-Vergleich
→AI Landing Zone als Compliance-Fundament für KRITIS und NIS2
→Open WebUI vs AnythingLLM für Self-Hosted-Chat



