Constantin Budin, Principal Data & AI bei Pexon Consulting | 8 Min. Lesezeit | 04.08.2026
TL;DR
Azure OpenAI mit GPT-4o kostet im Standard rund 2,50 US-Dollar pro Million Eingabe- und 10 US-Dollar pro Million Ausgabe-Tokens. EU-Datenresidenz kostet etwa 10 Prozent Aufpreis, Batch-Verarbeitung spart 50 Prozent, bei hohem konstantem Volumen lohnt sich reservierte Kapazität (PTU). Die größten versteckten Posten sind Embeddings, Vektorsuche und der EU-Aufpreis.
Die kurze Antwort: Token-Preise und vier Betriebsmodi
Azure OpenAI rechnet nach Tokens, nicht nach Nutzern. Ein Token ist grob ein dreiviertel Wort. Der Preis hängt vom Modell und vom Betriebsmodus ab. Für das gängige GPT-4o sieht die Basis so aus:
Der zitierfähige Merksatz: GPT-4o auf Azure kostet rund 2,50 US-Dollar pro Million Eingabe- und 10 US-Dollar pro Million Ausgabe-Tokens im Standard; EU-Datenresidenz schlägt etwa 10 Prozent auf, Batch spart 50 Prozent, und für hohes konstantes Volumen gibt es reservierte Kapazität über PTU.
Die vier Betriebsmodi, und wann welcher passt
Der größte Kostenhebel ist nicht das Modell, sondern der Betriebsmodus. Vier Optionen stehen zur Wahl.
Global Standard (Pay-as-you-go). Der Standard: Sie zahlen exakt den Verbrauch, ohne Mindestabnahme. Richtig für den Start und für schwankende Last.
Data Zone Standard. Dasselbe, aber mit garantierter Verarbeitung innerhalb der EU, gegen rund 10 Prozent Aufpreis. Für viele deutsche Unternehmen ist das kein Luxus, sondern Voraussetzung, und der Aufpreis ist der Preis der Datensouveränität. Warum EU Data Zones dafür der saubere Weg sind, vertieft unser Beitrag zu Azure OpenAI in EU Data Zones.
Batch. Für asynchrone Massenverarbeitung, etwa nächtliche Dokumentenanalyse, mit 50 Prozent Rabatt und einem Zeitfenster von bis zu 24 Stunden. Wer keine Echtzeit braucht, halbiert hier die Kosten.
PTU (Provisioned Throughput Units). Reservierte Kapazität zum Festpreis statt nach Verbrauch. Lohnt sich erst bei hohem, gleichmäßigem Volumen, dann aber deutlich, und liefert zusätzlich planbare Latenz. Bei niedriger oder schwankender Last ist PTU dagegen Geldverschwendung.
Eine Beispielrechnung
Nehmen wir 300 aktive Nutzer, die Azure OpenAI moderat für Textarbeit einsetzen. Pro Anfrage fallen grob einige tausend Eingabe- und einige hundert Ausgabe-Tokens an. Über einen Monat summiert sich das je nach Intensität auf einen niedrigen bis mittleren dreistelligen Euro-Betrag pro Modus-Tausend-Anfragen, und für die gesamte Nutzergruppe landen Sie bei gemischter Nutzung meist im niedrigen vierstelligen Bereich pro Monat.
Das klingt überschaubar, und im Standard ist es das auch. Teuer wird es an zwei Stellen: wenn Sie unkontrolliert das Premium-Modell für jede Trivialanfrage nutzen, und wenn Sie die Nebenkosten übersehen.
Die versteckten Kosten, die kaum jemand einplant
Die Token-Rechnung ist nur der sichtbare Teil. Drei Posten fehlen fast immer in der ersten Kalkulation.
Erstens Embeddings. Jedes RAG-System muss Dokumente in Vektoren umwandeln, und das kostet eigene Tokens, jedes Mal, wenn Sie den Index neu aufbauen. Bei großen Dokumentenmengen ist das kein Rundungsfehler.
Zweitens die Vektorsuche. Azure AI Search als verwalteter Dienst wird separat abgerechnet, unabhängig von den Modell-Tokens. Das ist bei RAG-Anwendungen oft der stabilste laufende Posten.
Drittens der EU-Aufpreis. Wer aus Compliance-Gründen Data Zone Standard fahren muss, zahlt die erwähnten 10 Prozent auf alles. Das ist einzukalkulieren, nicht zu übersehen, gerade weil es sich über das Jahr summiert.
Wie Sie die Kosten aktiv steuern
Azure OpenAI wird nicht durch Sparen billig, sondern durch Steuerung. Der wirksamste Hebel ist ein LLM-Gateway davor. Es routet einfache Anfragen automatisch auf günstige Modelle wie GPT-5-nano und schickt nur die wirklich anspruchsvollen an GPT-4o. Das senkt die Rechnung oft deutlich, ohne dass Nutzer einen Unterschied merken.
Dazu kommt Kostentransparenz: Ein Gateway trackt den Verbrauch pro Nutzer, Abteilung und Use-Case und erlaubt Budget-Limits. Ohne diese Ebene ist die Azure-Rechnung eine Blackbox, die am Monatsende überrascht. Wie diese Steuerungsschicht aussieht, beschreibt unser Beitrag zum LLM-Gateway als zentraler Plattform-Schicht. Für die grundsätzliche Einordnung in Ihre KI-Strategie ist die KI-Beratung der Startpunkt.
Häufig gestellte Fragen
Was kostet GPT-4o auf Azure OpenAI?
Im Modus Global Standard rund 2,50 US-Dollar pro Million Eingabe-Tokens und 10 US-Dollar pro Million Ausgabe-Tokens. Mit EU-Datenresidenz (Data Zone Standard) kommen etwa 10 Prozent hinzu, im Batch-Modus sparen Sie 50 Prozent. Sparmodelle wie GPT-5-nano liegen deutlich darunter, bei 0,05 US-Dollar Input und 0,40 US-Dollar Output.
Was ist der Unterschied zwischen Pay-as-you-go und PTU?
Bei Pay-as-you-go zahlen Sie exakt den Verbrauch, ideal bei schwankender Last. PTU (Provisioned Throughput Units) reserviert feste Kapazität zum Festpreis und lohnt sich bei hohem, gleichmäßigem Volumen, weil der Preis pro Token dann sinkt und die Latenz planbar wird. Bei niedriger Last ist PTU zu teuer.
Kostet EU-Datenresidenz bei Azure OpenAI extra?
Ja. Der Modus Data Zone Standard, der die Verarbeitung innerhalb der EU garantiert, liegt rund 10 Prozent über dem globalen Standardpreis. Für viele deutsche Unternehmen ist dieser Aufpreis wegen DSGVO und interner Vorgaben nicht optional, sondern Voraussetzung.
Welche versteckten Kosten hat Azure OpenAI?
Vor allem drei: die Embeddings für RAG-Systeme, die verwaltete Vektorsuche (Azure AI Search) und der EU-Aufpreis für Data Zone. Diese Posten stehen nicht in der reinen Token-Tabelle, machen aber bei produktiven Anwendungen einen erheblichen Teil der Gesamtkosten aus.
Wie senke ich die Azure-OpenAI-Kosten am wirksamsten?
Durch ein LLM-Gateway mit Kosten-Routing: einfache Anfragen laufen auf günstige Modelle, teure nur auf GPT-4o. Dazu Budget-Limits und Verbrauchstransparenz pro Abteilung. Für asynchrone Massenverarbeitung nutzen Sie den Batch-Modus mit 50 Prozent Rabatt. Diese drei Hebel wirken stärker als jede Modellauswahl allein.
Nächster Schritt
Die belastbare Kostenschätzung für Azure OpenAI ergibt sich aus Ihrem Volumen, dem nötigen Betriebsmodus und den Nebenkosten für RAG. Die rechnen wir mit Ihnen durch, statt Ihnen eine Pauschale zu nennen.
Verwandte Themen
→Copilot vs. eigene KI-Plattform: wann Copilot nicht mehr reicht
