Open WebUI vs. Onyx (Danswer): Welcher KI-Chat passt zu Ihrem Unternehmen?

Pexon Consulting | 12 Min. Lesezeit | 13.04.2026

TL;DR

Open WebUI ist die beste Wahl für Teams, die lokale LLMs per Ollama als ChatGPT-Ersatz brauchen — schnell installiert, 50.000+ GitHub-Stars, vertraute Oberfläche. Onyx (ehemals Danswer) gewinnt klar, wenn Ihr Unternehmenswissen aus Confluence, SharePoint oder Slack durchsuchbar werden soll — 40+ Konnektoren mit automatischer Synchronisation. Pexon Consulting deployt beide Plattformen auf Azure und berät bei der Architekturentscheidung basierend auf 30+ Private-AI-Projekten.

Zwei Tools, zwei komplett verschiedene Probleme

Wer „KI-Chat für Unternehmen“ googelt, landet schnell bei Open WebUI und Onyx. Beide sind Open Source, beide laufen on-premise, beide verbinden sich mit jedem LLM. Trotzdem lösen sie grundverschiedene Probleme — und genau das wird in den meisten Vergleichen verschwiegen.

Open WebUI ersetzt ChatGPT. Es gibt Ihren Mitarbeitern eine vertraute Chat-Oberfläche, die mit lokalen Modellen über Ollama oder mit Cloud-APIs wie Azure OpenAI spricht. Das war’s im Kern. Gut gemacht, fokussiert, über 50.000 GitHub-Stars.

Onyx ersetzt die Unternehmenssuche. Es verbindet sich mit Ihren bestehenden Systemen — Confluence, SharePoint, Jira, Slack, Google Drive — und macht das gesamte Firmenwissen per natürlicher Sprache durchsuchbar. RAG ist hier kein Feature, sondern der Kern des Produkts.

Die Frage ist also nicht „welches Tool ist besser“, sondern: Brauchen Sie einen ChatGPT-Ersatz oder eine Wissensdatenbank mit Chat-Interface?

Technischer Vergleich im Detail

Installation und erster Start

Beide Tools starten mit einem einzigen Docker-Befehl. Bei Open WebUI sieht das so aus:

# Open WebUI mit Ollama-Anbindung starten
docker run -d -p 3000:8080 
  --add-host=host.docker.internal:host-gateway 
  -v open-webui:/app/backend/data 
  --name open-webui 
  --restart always 
  ghcr.io/open-webui/open-webui:main

Onyx braucht etwas mehr — Postgres und Vespa als Vektordatenbank laufen als separate Container:

# Onyx Community Edition starten
git clone https://github.com/onyx-dot-app/onyx.git
cd onyx/deployment/docker_compose
docker compose -f docker-compose.dev.yml up -d

In der Praxis dauert ein Open WebUI Setup 15 Minuten bis zum ersten Chat. Onyx braucht eher 45 Minuten, weil nach der Installation die Konnektoren konfiguriert und die ersten Dokumente indexiert werden müssen. Dafür haben Sie danach ein System, das Ihr Firmenwissen kennt — nicht nur ein leeres Chatfenster.

RAG-Fähigkeiten: Hier trennen sich die Welten

Open WebUI hat RAG als Zusatzfeature. Sie laden PDFs oder Textdateien manuell hoch, die werden vektorisiert und stehen im Chat als Kontext zur Verfügung. Für kleine Teams mit einer Handvoll Dokumenten reicht das.

Für ein Unternehmen mit 300+ Mitarbeitern reicht es nicht. Kein IT-Leiter wird seine Mitarbeiter bitten, Dokumente manuell in ein Chat-Tool hochzuladen. Die Akzeptanz stirbt am zweiten Tag.

Onyx löst das durch automatische Synchronisation. Einmal konfiguriert, zieht Onyx neue Dokumente aus Confluence, SharePoint, Slack und 37 weiteren Quellen automatisch nach. Das Besondere: Die Zugriffsrechte werden mitübernommen. Wenn ein Mitarbeiter in SharePoint keinen Zugriff auf einen Ordner hat, sieht er die Inhalte auch im Chat nicht. Das klingt wie ein Detail — für Compliance-Teams in regulierten Branchen ist es eine Grundvoraussetzung.

SSO und Zugriffskontrolle

Beide Tools unterstützen OIDC und SAML für Single Sign-On. Open WebUI bietet seit der Enterprise-Version auch LDAP, SCIM-Provisioning und Multi-Faktor-Authentifizierung. Onyx hat SSO über Google OAuth, OIDC oder SAML, dazu gruppenbasierte Zugriffskontrolle und SCIM.

Der Unterschied liegt im Detail: Onyx synchronisiert die Gruppen aus Ihrem Identity Provider und wendet sie automatisch auf die Dokumenten-Konnektoren an. Bei Open WebUI konfigurieren Sie RBAC manuell pro Modell und Workspace. Für 50 User kein Problem. Für 500 User ein Vollzeitjob.

Die Lizenz-Frage: Darüber spricht keiner gerne

Open WebUI hat im April 2025 seine Lizenz von BSD-3 auf eine eigene „Open WebUI License“ umgestellt. Die ist nicht OSI-zertifiziert. Konkret: Ab 50 Nutzern dürfen Sie das Open WebUI Branding nicht entfernen, es sei denn, Sie kaufen eine Enterprise-Lizenz. Für ein Startup kein Problem. Für ein Unternehmen, das sein internes KI-Tool unter eigener Marke betreiben will, ein Dealbreaker.

Onyx fährt ein Dual-Licensing-Modell: Die Community Edition steht unter MIT-Lizenz — also echt Open Source, keine Einschränkungen. Die Enterprise Edition mit erweiterten Analytics und Support-SLAs ist kostenpflichtig.

Unsere klare Empfehlung: Prüfen Sie die Lizenzbedingungen bevor Sie in die Evaluierung investieren, nicht danach. Wir haben Kunden erlebt, die ein halbes Jahr mit Open WebUI evaluiert haben und dann beim Rollout festgestellt haben, dass die Branding-Klausel ihre Corporate-CI-Anforderungen verletzt.

Was es wirklich kostet

Die Softwarekosten sind bei beiden Tools der kleinste Posten. Die echten Kosten stecken in Infrastruktur, Integration und Betrieb.

Für ein Team mit 100 Usern sieht die Rechnung ungefähr so aus: Die Infrastruktur für Open WebUI auf Azure — eine VM mit GPU für Ollama, Container App für das Frontend, Managed PostgreSQL — landet bei 800-1.500 EUR/Monat, je nach Modellgröße. Onyx braucht zusätzlich Vespa als Vektordatenbank, was die Infrastrukturkosten auf 1.200-2.000 EUR/Monat hebt.

Wer keine eigene GPU betreiben will, nutzt Azure OpenAI als Backend. Bei 100 aktiven Usern mit durchschnittlich 20 Anfragen pro Tag rechnen wir mit 400-800 EUR/Monat für API-Kosten — deutlich günstiger als GPT-4-Lizenzen für jeden Mitarbeiter (2.000 EUR/Monat bei 20 EUR/User).

Der größte Kostenblock ist die Integration. Open WebUI ist in einem Tag produktiv — aber ohne RAG-Anbindung an Ihre Systeme. Onyx braucht 2-3 Wochen für die Konnektor-Konfiguration, Rechte-Mapping und Indexierung. Wir kalkulieren für ein Onyx-Projekt mit 5-8 Konnektoren typischerweise 15-25 Projekttage, für Open WebUI mit Azure-OpenAI-Anbindung 5-10 Projekttage.

Unsere Entscheidungsmatrix

Nach 30+ Private-AI-Projekten haben wir drei Szenarien identifiziert, die die Entscheidung eindeutig machen:

Open WebUI wählen, wenn Ihre Entwickler einen ChatGPT-Ersatz brauchen, der auf internen GPUs läuft. Typischer Use Case: Ein Maschinenbauer mit 40 Entwicklern, die Code-Reviews, Dokumentation und Brainstorming mit einem lokalen Llama-3-Modell machen wollen. Keine sensiblen Firmendaten im Chat, kein RAG nötig. Budget: unter 50.000 EUR.

Onyx wählen, wenn Ihre Mitarbeiter heute 2+ Stunden am Tag damit verbringen, Informationen in Confluence, SharePoint und Slack zu suchen. Typischer Use Case: Eine Versicherung mit 800 Mitarbeitern, deren Sachbearbeiter Policen-Bedingungen, interne Richtlinien und Schadenfall-Dokumentation per Chat abfragen sollen — mit korrekten Zugriffsrechten. Budget: 80.000-200.000 EUR.

Beide kombinieren, wenn Sie einen ChatGPT-Ersatz für die Entwicklung und eine Wissensplattform für das Gesamtunternehmen brauchen. Das ist häufiger als man denkt. Open WebUI für das Engineering-Team, Onyx für alle anderen. Wir deployen beide auf der gleichen Azure-Infrastruktur mit gemeinsamem SSO.

DSGVO und Compliance: Was Sie wissen müssen

78% der Unternehmen weltweit betreiben bereits mindestens einen KI-Chatbot intern. In Deutschland liegt die Hürde höher — die DSGVO und ab August 2026 die KI-Verordnung verlangen dokumentierte Datenschutzfolgeabschätzungen für KI-Systeme, die personenbezogene Daten verarbeiten.

Beide Tools laufen on-premise, das ist die Basis. Aber „on-premise“ allein reicht nicht für Compliance.

Bei Open WebUI ist die Datenhaltung simpel: Alles liegt in einer SQLite- oder PostgreSQL-Datenbank auf Ihrem Server. Keine Telemetrie, keine externen Calls — vorausgesetzt, Sie nutzen lokale Modelle über Ollama. Sobald Sie Azure OpenAI anbinden, gelten Microsofts DPA-Bedingungen. In EU-Regionen (West Europe, Sweden Central) werden Prompts laut Microsoft nicht für Modelltraining verwendet.

Onyx hat ein zusätzliches Compliance-Feature, das für regulierte Branchen entscheidend ist: Das Permission-Mapping. Wenn ein Mitarbeiter in SharePoint keinen Zugriff auf HR-Dokumente hat, respektiert Onyx diese Einschränkung automatisch. Das spart Ihnen eine manuelle Rechte-Matrix, die bei 40+ Datenquellen schnell unbeherrschbar wird.

Für Banking und Versicherung empfehlen wir grundsätzlich: Datenschutzfolgeabschätzung vor dem Proof of Concept, nicht danach. Wir haben Projekte gesehen, die nach drei Monaten Entwicklung an der Compliance gescheitert sind — das hätte ein zweistündiges Assessment am Anfang verhindert.

Häufig gestellte Fragen

Was kostet Open WebUI für 100 Nutzer im Unternehmen?

Die Software selbst ist kostenlos. Die Infrastruktur auf Azure liegt bei 800-1.500 EUR/Monat (VM mit GPU + PostgreSQL + Container App). Dazu kommen optionale API-Kosten für Azure OpenAI von 400-800 EUR/Monat. Achtung: Ab 50 Usern greift die Branding-Klausel — wenn Sie das Open WebUI Logo entfernen wollen, brauchen Sie eine Enterprise-Lizenz.

Kann Onyx auch ohne Cloud-LLM rein lokal betrieben werden?

Ja. Onyx unterstützt Ollama als Backend, genau wie Open WebUI. In der Praxis empfehlen wir für Enterprise-RAG mit 40+ Konnektoren aber Azure OpenAI oder ein leistungsstarkes lokales Modell wie Llama 3.1 70B — kleinere Modelle liefern bei komplexen Retrieval-Aufgaben spürbar schlechtere Ergebnisse.

Open WebUI vs. Onyx vs. LibreChat — brauche ich noch einen dritten Vergleich?

LibreChat positioniert sich zwischen beiden: Mehr API-Integrationen als Open WebUI, aber kein RAG auf Onyx-Niveau. Für die meisten Unternehmensentscheidungen ist LibreChat ein Kompromiss, der weder das eine noch das andere Problem richtig löst. Wir haben einen separaten Vergleich dazu geschrieben.

Wie lange dauert ein Proof of Concept mit Onyx?

Mit vorkonfigurierten Konnektoren für Confluence und SharePoint rechnen wir mit 3-4 Wochen bis zum funktionsfähigen PoC — inklusive SSO-Anbindung, initiale Indexierung und Benutzer-Schulung. Open WebUI PoCs sind in einer Woche machbar, weil die RAG-Konfiguration entfällt.

Ist Open WebUI noch echtes Open Source?

Seit April 2025 nicht mehr im klassischen Sinne. Die Lizenz ist nicht OSI-zertifiziert und enthält Einschränkungen für Deployments mit mehr als 50 Nutzern. Die Community Edition von Onyx steht unter MIT-Lizenz — das ist uneingeschränkt Open Source.

Verwandte Themen