Copilot vs. Custom LLM: TCO über 3 Jahre 2026

Pexon Consulting | 9 Min. Lesezeit | 16.07.2026

TL;DR

Bei bis zu rund 380 aktiven Nutzern gewinnt Microsoft 365 Copilot: keine Fixkosten, sofort startklar. Darüber, bei hohem Token-Durchsatz oder harter Souveränitätspflicht, kippt die Rechnung Richtung eigenes LLM. Wir bei Pexon (80 MA, Microsoft Partner) rechnen den Break-even ehrlich pro Fall, statt pauschal Self-Hosting zu empfehlen.

Das Problem: Pauschale Kostenaussagen führen in die Irre

„Self-Hosting ist billiger als Copilot“ – diesen Satz hören wir in fast jedem Erstgespräch. Er ist genauso oft falsch wie richtig. Das Problem: Wer Copilot mit einem Open-Weight-Modell vergleicht, vergleicht eine fertige Lizenz mit einem Rohstoff. Copilot ist ein Produkt, in das Microsoft die gesamte Office-Integration, Retrieval, Sicherheit und Wartung eingepreist hat. Ein selbst betriebenes Llama oder Qwen ist erst mal ein Modell auf einer GPU – alles andere baut und betreibt ihr selbst.

Die Kostenfrage lässt sich deshalb nicht mit einem Satz beantworten. Sie hängt an drei Stellschrauben: der Zahl der aktiven Nutzer, dem tatsächlichen Token-Durchsatz und der Frage, ob eure Daten das Rechenzentrum verlassen dürfen. Wer nur die Modell-Lizenz gegen die GPU-Miete stellt, ignoriert den teuersten Posten – das Team, das den Stack am Laufen hält. Genau da entsteht der Denkfehler, der aus einer vermeintlich günstigen Eigenlösung ein Sechsstellig-pro-Jahr-Projekt macht.

Unsere Position: Für die Mehrheit der Unternehmen mit 300 bis 3.000 Mitarbeitern ist Copilot der ehrlich günstigere Start. Der Kipppunkt kommt später, als die meisten Self-Hosting-Fans behaupten – aber er kommt.

Die drei Kostenmodelle im Überblick

Es gibt nicht „Copilot gegen Eigenbau“, sondern drei Wege. Jeder hat ein eigenes Kostenprofil.

Microsoft 365 Copilot kostet als Enterprise-Add-on aktuell 30 USD (USA) bzw. 26 €/Nutzer/Monat bei Jahresverpflichtung (Stand September 2026, zzgl. MwSt.), aufgesetzt auf einen qualifizierenden M365-Plan. Für kleinere Umgebungen gibt es Copilot in Business-Tiers ab rund 21 USD/Nutzer/Monat. Das Modell ist reine OpEx: keine Anschaffung, kein Betrieb, keine GPU. Ihr zahlt pro Kopf, egal wie viel oder wenig jemand nutzt. Die Details zur Lizenzlogik haben wir im Copilot-Kostenartikel aufgeschlüsselt.

Custom / Open-Weight im Eigenbetrieb heißt: Ein offenes Modell läuft auf eurer eigenen oder gemieteten GPU-Hardware, im eigenen Rechenzentrum oder in einer dedizierten Cloud-Instanz. 2026 sind die realistischen Kandidaten Qwen 3 (32B braucht rund 19-20 GB VRAM und läuft auf einer RTX 5090, das 72B-Modell rund 40-45 GB), Llama 4 Scout (109B mit 17B aktiven Parametern, rund 55-60 GB VRAM bei Q4) oder Mistral Large 3 unter Apache-2.0-Lizenz. Die Modellgewichte sind kostenlos. Alles andere – Hardware, Strom, Hochverfügbarkeit, das Betriebsteam – zahlt ihr.

Managed LLM (Bedrock, Azure AI Foundry, Azure OpenAI) ist der Mittelweg: Ihr nutzt Modelle über eine API und zahlt pro Token, ohne eigene GPU. Keine Fixkosten, keine Wartung, aber pro verarbeitetem Token teurer als der Eigenbetrieb bei hoher Auslastung. Wer mehrere Modelle sauber routen und Kosten pro Anwendungsfall steuern will, tut das über ein Multi-LLM-Gateway mit Modell-Routing, statt jede Abteilung eigene Schlüssel verteilen zu lassen.

3-Jahres-TCO gerechnet

Jetzt die Zahlen. Wir rechnen vier Nutzer-Szenarien über 36 Monate. Wichtig: Das sind Modellrechnungen mit offengelegten Annahmen, keine Angebotspreise. Eure Realität weicht ab, aber die Größenordnung stimmt.

Annahmen Copilot: 26 €/Nutzer/Monat, alle Nutzer lizenziert. Annahmen Eigenbetrieb: HA-Setup mit zwei GPU-Knoten (rund 60.000 € CapEx, verteilt über 3 Jahre), Colocation und Strom rund 18.000 €/Jahr, Software, Gateway und Monitoring rund 6.000 €/Jahr, plus 0,75 FTE Platform-/MLOps-Betrieb zu rund 75.000 €/Jahr. Das ergibt eine weitgehend nutzerunabhängige Fixlast von rund 119.000 €/Jahr, solange die GPUs den Durchsatz tragen.

Was die Tabelle zeigt: Bei 100 Nutzern ist der Eigenbetrieb rund viermal so teuer wie Copilot – die Fixkosten verteilen sich auf zu wenige Köpfe. Bei 300 Nutzern liegen Copilot und Eigenbetrieb schon nah beieinander. Ab 500 dreht sich das Bild, und bei 1.000 Nutzern kostet der Eigenbetrieb rund die Hälfte von Copilot. Der Grund ist simpel: Copilot skaliert linear mit jedem Kopf, der Eigenbetrieb bleibt bis zur nächsten GPU-Ausbaustufe flach.

Die Managed-Spalte ist bewusst als „mittleres Volumen“ gerechnet (moderate Token pro Nutzer). Bei sehr intensiver Nutzung – lange Kontexte, viele Agenten-Loops – steigt sie überproportional und kann den Eigenbetrieb überholen. Genau das ist der Punkt, an dem sich eigene GPUs lohnen.

Wo der Break-Even liegt

Rein rechnerisch ist der Punkt schnell bestimmt. Copilot kostet 312 €/Nutzer/Jahr. Der Eigenbetrieb mit rund 119.000 € Fixlast rechnet sich gegen Copilot ab etwa 119.000 / 312, also rund 380 aktiven Nutzern. In unseren Projekten liegt die ehrliche Schwelle bei 380 bis 450 Nutzern, weil selten wirklich alle lizenzierten Köpfe aktiv sind und weil ihr Puffer für GPU-Ausbau einplanen solltet.

Aber – und das ist der Teil, den die reine Rechnung verschweigt – der Break-even gilt nur, wenn der Use-Case vergleichbar ist. Copilot gibt euch die tiefe Office-Integration: Zusammenfassungen in Teams, Entwürfe in Outlook, Analysen in Excel, alles mit euren Berechtigungen. Ein selbst betriebenes LLM gibt euch ein Sprachmodell hinter einer API. Wollt ihr damit den gleichen Funktionsumfang, baut ihr Retrieval, Konnektoren und Oberflächen selbst – das verschiebt den echten Break-even nach oben.

Drei Fälle, in denen der Eigenbetrieb trotzdem früher gewinnt:

Erstens die Souveränität. Wenn Daten das eigene Rechenzentrum aus regulatorischen Gründen nicht verlassen dürfen, ist Copilot schlicht raus – dann rechnet ihr Eigenbetrieb gegen Managed, nicht gegen Copilot. Zweitens hoher, spezialisierter Durchsatz: Ein Custom-Modell, das nur eine Aufgabe macht (Klassifikation, Extraktion, Support-Antworten), lastet die GPU voll aus und wird pro Token unschlagbar günstig. Drittens die Nutzung jenseits von Office: Wer LLM-Leistung in Produkte, Backends oder Kundenportale einbaut, zahlt bei Copilot pro Kopf für etwas, das gar nicht am Schreibtisch stattfindet.

Was die Rechnung oft vergisst

Die Hardware ist der sichtbare, aber nicht der größte Posten. In jedem Self-Hosting-Business-Case, den wir prüfen, sind es dieselben unterschätzten Kosten:

Der teuerste Irrtum ist das Team. Ein LLM produktiv, sicher und aktuell zu halten, ist keine Nebenaufgabe für den vorhandenen IT-Betrieb. Modelle veralten in Monaten, nicht Jahren – wer im Januar Qwen 3 aufsetzt, evaluiert im Sommer die nächste Generation. Diese laufende Reevaluierung, das Monitoring auf Qualitätsdrift und das Kostencontrolling pro Anwendungsfall sind kontinuierliche Arbeit. Rechnet dafür ehrlich 0,5 bis 1 Vollzeitstelle, und die dominiert die TCO stärker als jede GPU.

Der zweite blinde Fleck ist die Auslastung. GPUs kosten voll, egal ob sie zu 40 oder zu 90 Prozent laufen. Viele Eigenbetrieb-Rechnungen unterstellen Volllast, die im Alltag nie eintritt. Realistisch geplante Auslastung verschiebt den Break-even spürbar nach oben.

Häufig gestellte Fragen

Was kostet Microsoft 365 Copilot pro Nutzer im Jahr 2026?

Als Enterprise-Add-on 26 €/Nutzer/Monat bei Jahresverpflichtung (30 USD in den USA), also rund 312 €/Nutzer/Jahr, aufgesetzt auf einen qualifizierenden M365-Plan. Kleinere Copilot-Business-Tiers starten bei rund 21 USD/Nutzer/Monat. Es fallen keine Infrastruktur- oder Betriebskosten an.

Was kostet ein selbst betriebenes Open-Weight-LLM wirklich?

In unseren Projekten liegt die Fixlast bei rund 120.000-150.000 €/Jahr für ein HA-Setup mit GPU-Hardware, Strom, Software und einem Teilzeit-Betriebsteam. Die Modellgewichte selbst sind kostenlos, der Betrieb ist es nicht.

Copilot oder Custom LLM – was ist günstiger?

Bis rund 380 aktive Nutzer ist Copilot günstiger, weil es keine Fixkosten hat. Darüber, oder bei hohem spezialisiertem Durchsatz und Souveränitätspflicht, wird der Eigenbetrieb günstiger. Der genaue Kipppunkt hängt an eurem Use-Case, nicht an einer Faustregel.

Ab welcher Nutzerzahl lohnt sich Self-Hosting?

Rein rechnerisch ab rund 380 Nutzern, ehrlich kalkuliert eher ab 400 bis 500, weil selten alle lizenzierten Köpfe aktiv sind und ihr GPU-Puffer einplanen solltet. Unter dieser Schwelle zahlt ihr für ungenutzte Fixkosten.

Was ist der Unterschied zwischen Managed LLM und Eigenbetrieb bei den Kosten?

Managed (Bedrock, Azure AI) hat keine Fixkosten, ihr zahlt pro Token – ideal bei schwankendem oder mittlerem Volumen. Eigenbetrieb hat hohe Fixkosten, aber niedrige Grenzkosten pro Token – er gewinnt erst bei hoher, konstanter Auslastung.

Nächster Schritt

Verwandte Themen