Pexon Consulting | 8 Min. Lesezeit | 16.07.2026
TL;DR
Ein selbst gehosteter CustomGPT läuft auf einem Open-Weight-Modell mit RAG auf Ihren Dokumenten, statt pro Kopf gemietet zu werden. Ihre Daten bleiben im Haus, die Kosten sind fix statt lizenzgetrieben. Wir bei Pexon (80 Mitarbeitende, Microsoft Partner) sehen den Break-Even meist ab 60 bis 100 aktiven Nutzern.
Das Problem: Sie zahlen pro Kopf und geben Ihre Daten aus der Hand
Ein gemieteter Firmen-Assistent klingt bequem: Vertrag zeichnen, Konten verteilen, fertig. Der Preis dafür steht auf zwei Rechnungen, und die zweite sehen die meisten IT-Leiter erst spät.
Die erste Rechnung ist die Lizenz. ChatGPT Enterprise liegt 2026 laut mehreren Marktreports bei rund 60 US-Dollar pro Nutzer und Monat, mit einer Mindestabnahme von 150 Sitzen und Jahresbindung. Microsoft 365 Copilot kostet als Enterprise-Add-on 30 US-Dollar pro Nutzer und Monat, obendrauf auf die Basislizenz. Bei 200 aktiven Nutzern sind das je nach Produkt zwischen 72.000 und 144.000 Euro pro Jahr, und diese Zahl wächst mit jedem neuen Konto weiter.
Die zweite Rechnung ist Ihre Datenhoheit. Jede Frage, jeder hochgeladene Vertrag, jede interne Notiz verlässt Ihr Netz und landet in der Infrastruktur eines US-Anbieters. Enterprise-Tarife versprechen, dass nicht auf Ihren Daten trainiert wird, aber das Versprechen ändert nichts daran, wo die Daten liegen und welchem Rechtsraum sie unterliegen. Für ein Unternehmen mit Betriebsgeheimnissen, Personaldaten oder Mandantenbezug ist das kein Detail, sondern der Kern der Frage.
Genau hier setzt die Alternative an: den Assistenten selbst betreiben, das Modell frei wählen, die Daten im Haus behalten.
Wie ein selbst gehosteter CustomGPT aufgebaut ist
Ein eigener Firmen-GPT ist kein Forschungsprojekt, sondern eine überschaubare Kette aus vier Bausteinen. Sie kennen die einzelnen Teile aus Ihrer bestehenden IT.
Der erste Baustein ist die Chat-Oberfläche. Werkzeuge wie Open WebUI oder LibreChat liefern das, was Ihre Mitarbeitenden von ChatGPT erwarten: ein Eingabefeld, Gesprächsverlauf, Datei-Upload, eigene Assistenten pro Abteilung. Open WebUI steht in Version 0.10.2 (Stand 1. Juli 2026) und hat rund 145.000 GitHub-Sterne, ein Signal, dass hinter dem Projekt eine breite, aktive Community steht und nicht ein einzelner Wartungsvertrag.
Der zweite Baustein ist das Sprachmodell selbst. Open-Weight-Modelle sind 2026 gut genug für den Büroalltag. Alibabas Qwen3.5 (Apache-2.0-Lizenz, veröffentlicht im Februar 2026) tritt in seiner Flaggschiff-Variante mit 397 Milliarden Parametern an, von denen pro Anfrage nur 17 Milliarden aktiv sind, und schlägt sich in Coding und langen Kontexten gegen die geschlossene Konkurrenz. Für den Mittelstand reicht meist eine kleinere dichte Variante, die auf einer einzelnen GPU läuft. Wer europäische Datenresidenz und eine schlanke Lizenz priorisiert, nimmt Mistral. Der Punkt ist: Das Modell ist austauschbar, Sie sind an keinen Anbieter gebunden.
Der dritte Baustein ist RAG, also die Anbindung Ihrer Dokumente. Das Modell weiß nichts über Ihre Angebote, Handbücher oder Verträge. RAG (Retrieval Augmented Generation) durchsucht bei jeder Frage Ihre Wissensbasis, holt die passenden Textstellen und gibt sie dem Modell als Kontext mit. So antwortet der Assistent mit Ihren Inhalten statt mit Allgemeinwissen, und er kann die Quelle benennen. Die Qualität dieses Schritts entscheidet, ob der GPT im Alltag taugt oder nur nett aussieht.
Der vierte Baustein ist die Anbindung an Ihre Identität. Über SSO (etwa via Entra ID) melden sich Mitarbeitende mit ihrem gewohnten Firmenkonto an, und Sie steuern über Gruppen, wer welchen Assistenten und welche Dokumente sieht. Damit wird aus einem Spielzeug ein Werkzeug, das der Betriebsrat und der Datenschutzbeauftragte mittragen.
Ein minimaler Start mit Open WebUI und einem lokalen Modell sieht als docker-compose so aus:
services:
open-webui:
image: ghcr.io/open-webui/open-webui:0.10.2
ports:
- "3000:8080" # Chat-Oberfläche im Firmennetz
environment:
- OLLAMA_BASE_URL=http://ollama:11434
- ENABLE_OAUTH_SSO=true # Anmeldung über Entra ID
volumes:
- openwebui-data:/app/backend/data
ollama:
image: ollama/ollama:latest
volumes:
- ollama-models:/root/.ollama # Modell bleibt in Ihrer Umgebung
volumes:
openwebui-data:
ollama-models:Kosten: Miete vs. Eigenbetrieb
Rechnen wir es durch. Die folgende Modellrechnung geht von 200 aktiven Nutzern aus, gerundet und ohne Anspruch auf Ihren konkreten Fall. Die Mietseite nimmt Copilot mit 30 US-Dollar pro Kopf als konservative Untergrenze.
Im ersten Jahr liegen beide Varianten nah beieinander, weil das Self-Hosting den Aufbau vorfinanziert. Ab Jahr zwei kippt die Rechnung, und der Effekt verstärkt sich mit jedem weiteren Nutzer: Der gemietete GPT kostet den 201. Kopf voll, der eigene GPT kostet ihn fast nichts. Genau deshalb liegt der Break-Even in unseren Projekten meist im Bereich von 60 bis 100 aktiven Nutzern. Darunter zahlen Sie fürs Selbstbauen drauf, darüber sparen Sie strukturell.
Wichtig ist die Ehrlichkeit bei den weichen Posten: Ein eigener GPT braucht jemanden, der ihn betreibt. Wer diese Kapazität nicht hat, muss sie einkaufen, und dann verschiebt sich der Break-Even nach oben. Ein DE-gehosteter Stack, wie wir ihn im Deutschland-Hosted-AI-Stack beschreiben, reduziert diesen Betriebsaufwand deutlich, weil er auf verwaltete Bausteine setzt.
Datensouveränität und DSGVO
Der eigentliche Hebel ist nicht der Preis, sondern die Kontrolle. Bei einem selbst gehosteten CustomGPT verlassen weder die Fragen noch die Dokumente Ihre Umgebung. Sie bestimmen, in welchem Rechenzentrum das Modell läuft, wie lange Verläufe gespeichert werden und wer Zugriff hat. Ein Auftragsverarbeitungsvertrag mit einem US-Anbieter erübrigt sich, weil es keinen Anbieter gibt, der Ihre Daten verarbeitet.
Das ist kein theoretischer Vorteil. Für Kanzleien, Steuerberater, Kliniken oder Zulieferer mit strengen NDAs ist die Datenhaltung im Haus oft die Bedingung, unter der KI überhaupt erlaubt wird. Und mit dem EU AI Act, dessen Pflichten seit 2026 greifen, wird die Nachweisbarkeit von Datenflüssen zur Prüffrage, nicht zur Kür. Wer die Kette selbst kontrolliert, kann sie auch dokumentieren.
Welche Hosting-Variante rechtlich und technisch wie abschneidet, haben wir im Architektur-Vergleich der Hosting-Varianten im Detail gegenübergestellt, von ChatGPT über Azure OpenAI bis Self-Hosted.
Wann sich Mieten trotzdem lohnt
Self-Hosting ist kein Selbstzweck, und wir raten offen davon ab, wenn die Voraussetzungen fehlen. Drei Fälle sprechen klar fürs Mieten.
Erstens die Größe. Unter 50 bis 60 aktiven Nutzern ist die Lizenzsumme kleiner als der Fixaufwand für Aufbau und Betrieb. Da ist ein Enterprise-Tarif schlicht günstiger und schneller.
Zweitens die IT-Kapazität. Ein eigener GPT braucht Menschen, die GPUs, Container und Modell-Updates verantworten. Wer dieses Team weder hat noch aufbauen will, kauft sich mit Self-Hosting ein Betriebsrisiko ein, das den Sparvorteil auffrisst.
Drittens das Ökosystem. Wer tief in Microsoft 365 steckt und den Assistenten direkt in Word, Teams und Outlook eingebettet braucht, bekommt mit Copilot eine Integration, die ein eigener GPT nur mit erheblichem Aufwand nachbaut. Als Microsoft Partner sagen wir das ohne Zögern: Manchmal ist die Miete die richtige Antwort. Die ehrliche Prüfung dieser drei Punkte ist der erste Schritt jedes Projekts.
Häufig gestellte Fragen
Was kostet ein selbst gehosteter CustomGPT im Betrieb?
Als Modellrechnung: Der Aufbau liegt einmalig bei rund 25.000 bis 45.000 Euro, der laufende Betrieb inklusive Infrastruktur bei etwa 33.000 bis 55.000 Euro pro Jahr, unabhängig von der Nutzerzahl. Ab 60 bis 100 aktiven Nutzern unterbieten Sie damit die Pro-Kopf-Miete.
Welches Open-Weight-Modell sollten wir nehmen?
Für den deutschen Büroalltag funktioniert Qwen3.5 sehr gut, ebenso Mistral für europäische Datenresidenz. Der Vorteil des Eigenbetriebs ist, dass Sie das Modell jederzeit tauschen können, ohne die Oberfläche oder Ihre Wissensbasis anzufassen.
Ist ein eigener GPT DSGVO-konform?
Er kann es sein, wenn Hosting, Zugriffsrechte und Löschkonzept sauber aufgesetzt sind. Der strukturelle Vorteil: Die Daten verlassen Ihre Umgebung nicht, ein Auftragsverarbeitungsvertrag mit einem Drittanbieter entfällt. Die Konformität entsteht aber durch die Umsetzung, nicht automatisch.
Wie lange dauert die Einführung?
Ein belastbarer Pilot mit echter RAG-Qualität, SSO und DSGVO-Nachweis steht bei uns typischerweise in sechs Wochen. Ein reiner Test-Chat ohne Ihre Dokumente läuft in wenigen Tagen, taugt aber nicht für den Produktivbetrieb.
Brauchen wir eigene Hardware oder reicht die Cloud?
Beides geht. Sie können auf einer GPU im eigenen Rechenzentrum betreiben oder auf einer dedizierten Cloud-Instanz in einer deutschen Region. Entscheidend für die Souveränität ist nicht das Blech, sondern dass Modell und Daten unter Ihrer Kontrolle bleiben.
Nächster Schritt
Verwandte Themen
Die Wahl der Chat-Oberfläche entscheidet über Bedienkomfort und Rechteverwaltung. Den direkten Vergleich der beiden führenden Werkzeuge finden Sie in LibreChat vs. Open WebUI.
