Constantin Budin, Principal Data & AI bei Pexon Consulting | 8 Min. Lesezeit | 04.08.2026
TL;DR
Ein einfacher FAQ-Bot startet bei rund 5.000 bis 15.000 Euro, ein RAG-Chatbot auf eigene Dokumente kostet 25.000 bis 45.000 Euro im Aufbau, ein Enterprise-RAG-System ab 50.000 Euro. Dazu kommen laufende Kosten für Modell-Token, Vektordatenbank und Betrieb. Der Preis hängt nicht am Chatbot, sondern an der Datenanbindung und den Governance-Anforderungen.
Die kurze Antwort: drei Chatbot-Stufen, drei Preisklassen
„Was kostet ein KI-Chatbot“ ist wie die Frage nach dem Preis eines Autos: Es kommt darauf an, ob Sie einen Kleinwagen oder einen Lkw meinen. Bei Chatbots gibt es drei Klassen, und sie unterscheiden sich nicht in der Oberfläche, sondern darin, woher der Bot sein Wissen zieht.
Der zitierfähige Merksatz: Ein FAQ-Bot beginnt bei etwa 5.000 bis 15.000 Euro, ein RAG-Chatbot auf eigene Dokumente bei 25.000 bis 45.000 Euro Aufbau, ein Enterprise-RAG-System ab 50.000 Euro, jeweils zuzüglich laufender Token-, Datenbank- und Betriebskosten.
Was den Preis wirklich treibt
Nicht der Chatbot kostet Geld, sondern das, was dahinter hängt. Drei Faktoren bestimmen, in welche Klasse Ihr Projekt fällt.
Erstens die Datenanbindung. Ein Bot, der nur auf einem gepflegten FAQ-Text arbeitet, ist billig. Ein Bot, der Ihre technische Dokumentation, Ihr PIM und Ihr Ticketsystem durchsucht, braucht Retrieval-Augmented-Generation (RAG), also Indexierung, Chunking und eine Vektordatenbank. Das ist der Sprung von Klasse eins auf Klasse zwei.
Zweitens die Zahl und Art der Quellen. Eine Dokumentenart ist ein überschaubares Projekt. Fünf verschiedene Systeme mit unterschiedlichen Formaten und Berechtigungen sind ein anderes. Warum Standard-RAG bei komplexen Dokumenten wie DIN-Normen an Grenzen stößt, haben wir separat beschrieben, siehe Grenzen von Standard-RAG bei technischen Dokumenten.
Drittens die Governance. Sobald der Bot Zugriff auf rechtebehaftete Daten hat, brauchen Sie Row-Level-Berechtigungen, Audit-Trail und DSGVO-konformes Hosting. Das ist der Sprung in Klasse drei.
Aufbaukosten gegen laufende Kosten
Der häufigste Denkfehler ist, nur den Aufbau zu rechnen. Ein RAG-Chatbot hat zwei Kostenblöcke, und der zweite läuft dauerhaft.
Der einmalige Aufbau umfasst Konzept, Datenanbindung, Retrieval-Pipeline, Chatoberfläche und Test. Bei einem RAG-Chatbot auf eine Dokumentenart liegt das erfahrungsgemäß bei 25.000 bis 45.000 Euro, je nach Datenqualität. Wie sich ein solches Projekt als Festpreis strukturieren lässt, zeigt unser Beitrag zu den Kosten von KI-Projekten.
Die laufenden Kosten bestehen aus drei Teilen: Modell-Token, Vektordatenbank und Betrieb. Die Token-Kosten sind bei RAG oft niedriger als befürchtet, weil pro Anfrage nur die relevanten Dokumentausschnitte ans Modell gehen, nicht das ganze Archiv. Bei Azure OpenAI kostet die Antwortgenerierung mit GPT-4o rund 2,50 US-Dollar pro Million Eingabe-Tokens und 10 US-Dollar pro Million Ausgabe-Tokens, das Erzeugen der Embeddings ist um ein Vielfaches günstiger. Für einen Bot mit einigen hundert aktiven Nutzern landen die reinen Token-Kosten meist im niedrigen vierstelligen Bereich pro Jahr.
Was viele bei den laufenden Kosten unterschätzen
Zwei Posten fehlen in fast jeder ersten Kalkulation.
Die Vektordatenbank. Ob Azure AI Search als verwalteter Dienst oder eine self-hosted Lösung, das Durchsuchen der Embeddings kostet laufend, entweder als Dienst-Gebühr oder als Betrieb. Bei großen Dokumentenmengen ist das ein spürbarer Posten, kein Rundungsfehler.
Der Betrieb. Ein Chatbot ist keine Software, die man einmal ausrollt und vergisst. Dokumente ändern sich, der Index muss aktualisiert werden, die Antwortqualität muss überwacht werden. Wer das nicht einplant, hat nach sechs Monaten einen Bot, der veraltete Informationen ausgibt. Das ist teurer als jede Token-Rechnung, weil es Vertrauen kostet.
Unsere klare Empfehlung: Rechnen Sie von Anfang an mit einem Betriebsbudget, nicht nur mit einem Aufbaubudget. Ein RAG-Chatbot ohne Pflege ist wie eine Wissensdatenbank ohne Redaktion, er verfällt.
Wann ein einfacher Bot reicht, und wann RAG nötig ist
Die ehrliche Einordnung: Nicht jeder braucht RAG. Wenn Ihre Fragen begrenzt und Ihre Antworten stabil sind, etwa bei einem Website-Bot für Öffnungszeiten, Kontakt und Standardprozesse, ist ein einfacher, prompt-basierter Bot die richtige und günstigste Wahl. RAG wäre hier über Ziel.
RAG lohnt sich, sobald der Bot auf Wissen zugreifen muss, das sich ändert, umfangreich ist oder in Dokumenten steckt: interne Handbücher, Produktkataloge, Support-Historie. Dann ist der Aufpreis gerechtfertigt, weil ein FAQ-Bot diese Fragen schlicht nicht beantworten kann. Wie ein RAG-Chatbot etwa in einer PowerApps-Umgebung entsteht, zeigt unser Beitrag zu PowerApps mit KI und RAG erweitern.
Häufig gestellte Fragen
Was kostet ein KI-Chatbot für ein Unternehmen?
Das hängt von der Klasse ab. Ein einfacher FAQ-Bot ohne Dokumentenzugriff kostet 5.000 bis 15.000 Euro im Aufbau. Ein RAG-Chatbot auf eigene Dokumente 25.000 bis 45.000 Euro. Ein Enterprise-RAG-System mit mehreren Quellen und Governance ab 50.000 Euro. Dazu kommen laufende Token-, Datenbank- und Betriebskosten.
Was kostet ein RAG-System im laufenden Betrieb?
Die drei Posten sind Modell-Token, Vektordatenbank und Betrieb. Die Token-Kosten liegen bei einigen hundert aktiven Nutzern meist im niedrigen vierstelligen Bereich pro Jahr, weil RAG nur relevante Ausschnitte ans Modell schickt. Datenbank und Betrieb kommen hinzu und werden am häufigsten unterschätzt.
Warum ist ein RAG-Chatbot teurer als ein FAQ-Bot?
Weil er mehr kann. Ein FAQ-Bot antwortet aus einem festen Text. Ein RAG-Chatbot durchsucht Ihre echten Dokumente, was Indexierung, Chunking, eine Vektordatenbank und eine Retrieval-Pipeline erfordert. Dieser Unterbau ist der Preisunterschied, und er ist der Grund, warum RAG Fragen beantwortet, an denen ein FAQ-Bot scheitert.
Kann ich mit einem POC starten, statt gleich das volle System zu bauen?
Ja, und das empfehlen wir bei unklarer Datenlage. Ein Festpreis-POC prüft auf Ihren echten Daten, ob die Antwortqualität ausreicht, bevor Sie in den Vollausbau investieren. Die im POC gebaute Pipeline ist kein Wegwerfprototyp, sondern der Kern der späteren Lösung.
Was ist günstiger: Azure OpenAI oder ein self-hosted Modell?
Bei moderatem Volumen ist der verwaltete Azure-Dienst meist günstiger und schneller, weil kein eigener Betrieb nötig ist. Ein self-hosted Modell lohnt sich erst bei hohem, dauerhaftem Volumen oder wenn Datensouveränität es erzwingt. Die Rechnung dreht sich mit der Nutzungsintensität.
Nächster Schritt
Die belastbare Zahl für Ihren Chatbot ergibt sich aus drei Angaben: welche Datenquellen, welches Anfragevolumen, welche Governance-Anforderungen. Die klären wir in einem kurzen Gespräch.
Verwandte Themen
→Enterprise-RAG-System: Architektur und Aufbau
