Pexon Consulting | 9 Min. Lesezeit | 16.08.2026
TL;DR
Azure AI Foundry Kosten setzen sich aus Token-Preis pro Modell und Deployment-Typ zusammen: Standard zahlt pro Token (gpt-4o 2,50 USD Input je Mio), Provisioned Throughput (PTU) reserviert Kapazität ab rund 2.448 USD im Monat. Pexon Consulting, 80 Mitarbeiter, Microsoft Partner, rechnet den Break-even vor dem Deployment. Faustregel: unter 150 Mio Token pro Monat Standard, darüber PTU.
Woraus sich Azure AI Foundry Kosten zusammensetzen
Die kurze Antwort: drei Blöcke. Modell-Token-Preis, Deployment-Typ und die Betriebskosten drumherum (Search, Speicher, Monitoring). Wer nur auf den Token-Preis schaut, unterschätzt die Rechnung um 30 bis 50 Prozent. Wer nur die PTU-Kapazität bucht, ohne die Auslastung zu kennen, zahlt für Leerlauf.
Wichtig fürs Vokabular: Microsoft hat die Plattform 2026 in Microsoft Foundry umbenannt. Der Begriff Azure AI Foundry bleibt im deutschen Sprachgebrauch, gemeint ist dasselbe Produkt. Der Modellkatalog, die Preisstruktur und die Deployment-Typen sind identisch geblieben.
Der Preis pro Anfrage hängt an zwei Zahlen: Input-Token (dein Prompt plus Kontext) und Output-Token (die Antwort). Output ist bei fast allen Modellen drei bis vier Mal so teuer wie Input. Das ist der erste Hebel, den die meisten Teams übersehen.
Modell-Preise: gpt-4o, gpt-4.1 und die Reasoning-Modelle im Vergleich
Die Modellwahl ist der größte einzelne Kostenhebel, größer als der Deployment-Typ. Zwischen gpt-4.1-nano und gpt-4o liegt beim Output-Preis ein Faktor von 25. Für 80 Prozent der Unternehmens-Use-Cases (Klassifikation, Extraktion, Zusammenfassung) reicht ein kleines Modell. Wir raten davon ab, gpt-4o als Default zu setzen, nur weil es das bekannteste Modell ist.
Alle Preise sind Global-Standard-Werte, Stand Azure OpenAI Pricing (verifiziert 16.08.2026), in USD pro einer Million Token.
Ein Rechenbeispiel aus der Praxis. Ein interner RAG-Chatbot mit 40.000 Anfragen im Monat, je 1.500 Input- und 500 Output-Token. Auf gpt-4o kostet das rund 350 USD im Monat. Dasselbe Volumen auf gpt-4.1-mini kostet rund 56 USD. Gleiche Antwortqualität für die meisten Fragen, ein Sechstel der Rechnung. Genau solche Umschichtungen bringen bei unseren Kunden die ersten 40 Prozent Einsparung, bevor überhaupt ein Deployment-Typ diskutiert wird.
Standard vs PTU vs Provisioned: der Deployment-Typ entscheidet den Rest
PTU vs Standard ist keine Glaubensfrage, sondern eine Auslastungsrechnung. Standard (Pay-as-you-go) berechnet jeden Token einzeln, ohne Grundgebühr, ideal für schwankende oder kleine Last. Provisioned Throughput Units (PTU) reservieren feste Kapazität zu einem Stundensatz, unabhängig von der tatsächlichen Nutzung. Eine PTU liefert rund 6.000 Token pro Minute Durchsatz.
Der Break-even für gpt-4o liegt bei etwa 150 bis 200 Millionen Token pro Monat. Darunter zahlst du mit Standard weniger. Darüber wird PTU günstiger, aber nur wenn die Last konstant ist. Eine PTU-Reservierung, die nachts und am Wochenende leerläuft, ist teurer als Standard, obwohl der Stundensatz gleich bleibt.
Seit 2026 gibt es PTU in drei Varianten, und das ist für deutsche Unternehmen der wichtigste Punkt. Global Provisioned ist am günstigsten, Daten können aber in andere Regionen fließen. Data Zone Provisioned hält die Verarbeitung in der EU (Sweden Central oder West Europe), relevant für DSGVO. Regional Provisioned bindet an eine feste Region, kostet mehr und braucht ein höheres PTU-Minimum. Für regulierte Branchen (Banking, Versicherung, Energie) ist Data Zone in fast allen Fällen die richtige Wahl. Der Preisaufschlag gegenüber Global ist kleiner als das Compliance-Risiko.
Die versteckten Kosten neben dem Token-Preis
Der Token-Preis ist die halbe Wahrheit. In fast jedem Projekt kommen Blöcke dazu, die im Angebot vergessen werden. Azure AI Search für die Vektor-Datenbank eines RAG-Systems liegt je nach Tier bei mehreren hundert Euro im Monat. Speicher, Bandbreite und Logging summieren sich. Und der teuerste Posten ist oft kein Azure-Rechnungsposten, sondern die Zeit, die ein Team ohne Monitoring braucht, um eine entgleiste Rechnung zu finden.
Ein konkretes Muster, das wir häufig sehen: Ein Prototyp läuft mit gpt-4o und vollem Kontextfenster. Niemand kürzt den System-Prompt, niemand cached wiederkehrende Anfragen. Nach drei Monaten steht eine Rechnung, die das Zehnfache der Schätzung beträgt. Nicht wegen Azure, sondern wegen fehlender Kostenkontrolle im Betrieb.
So senken Sie Azure AI Foundry Kosten um 40 bis 70 Prozent
Die kurze Antwort: Modell verkleinern, Prompt kürzen, cachen, Deployment-Typ an die Last anpassen. In dieser Reihenfolge, weil der Modellwechsel ohne Aufwand den größten Effekt bringt. Unsere klare Empfehlung: erst die Software-Hebel ziehen, dann über PTU-Reservierungen nachdenken. Wer zuerst Kapazität reserviert und dann optimiert, reserviert zu viel.
Die fünf Hebel, nach Wirkung sortiert:
- Modell-Routing. Kleine Modelle für Standardfragen, große nur für komplexe. Ein Gateway entscheidet pro Anfrage. Das ist der 40-Prozent-Hebel.
- Prompt-Caching. Azure OpenAI cached wiederkehrende Input-Präfixe automatisch und rabattiert sie. Bei RAG mit festem System-Prompt spart das oft 20 bis 30 Prozent auf Input.
- Batch-API. Nicht-Echtzeit-Jobs (nächtliche Auswertungen, Massen-Extraktion) laufen über die Batch-API mit rund 50 Prozent Rabatt.
- Reservierung. Konstante Last als 1-Jahres-Reservierung spart bis zu 70 Prozent gegenüber der PTU-Stundenabrechnung.
- Monitoring mit Budget-Alerts. Nicht sparen, sondern verhindern, dass eine Rechnung entgleist. Kostentransparenz pro Team und Use-Case ist die Voraussetzung für alles andere.
Ein Beispiel für Punkt 5: Ein Budget-Alert in der Azure-Kostenverwaltung, der bei 80 Prozent des Monatsbudgets warnt. Als CLI-Befehl mit der Azure CLI:
# Budget mit Alert bei 80 Prozent je AI-Foundry-Ressourcengruppe
az consumption budget create
--budget-name "foundry-monatsbudget"
--amount 5000
--category cost
--time-grain monthly
--resource-group rg-ai-foundry-prod
--notifications '{"warnung80": {"enabled": true, "operator": "GreaterThan", "threshold": 80, "contactEmails": ["it-budget@ihre-firma.de"]}}'Der Wert dieses Blocks ist nicht die Ersparnis, sondern die Frühwarnung. Wir sehen bei unseren Kunden, dass ein einziger Budget-Alert genug ist, um genau das Zehnfach-Szenario aus dem Abschnitt oben zu verhindern.
Was Build 2026 an den Kosten geändert hat
Auf der Build 2026 (2. bis 3. Juni) hat Microsoft den Foundry Agent Service ausgebaut. Für die Kostenseite relevant: Claude ist seit Juni 2026 in Foundry generell verfügbar, die Hosted Agents haben Mitte 2026 die General Availability erreicht. Das erweitert den Modellkatalog, ändert aber die Grundrechnung nicht. Agenten mit mehreren Tool-Aufrufen und langem Gedächtnis verbrauchen deutlich mehr Token pro Aufgabe als ein einzelner Chat-Aufruf. Wer 2026 auf Agenten setzt, sollte das Kosten-Monitoring vor dem ersten Produktiv-Deployment aufsetzen, nicht danach.
Häufig gestellte Fragen
Was kostet Azure AI Foundry im Monat?
Es gibt keine Grundgebühr für die Plattform. Sie zahlen pro Token je nach Modell (gpt-4.1-nano ab 0,10 USD je Mio Input, gpt-4o 2,50 USD) oder für reservierte PTU-Kapazität ab rund 2.448 USD im Monat. Ein interner RAG-Chatbot mit mittlerer Last liegt auf einem kleinen Modell oft unter 200 USD im Monat, plus Azure AI Search und Speicher.
Was ist der Unterschied zwischen PTU und Standard, und wann lohnt sich was?
Standard rechnet pro Token ohne Grundgebühr und passt zu variabler oder kleiner Last. PTU reserviert feste Kapazität zu einem Stundensatz und lohnt sich ab konstant hoher Last. Der Break-even für gpt-4o liegt bei etwa 150 bis 200 Millionen Token im Monat. Entscheidend ist die Auslastung: PTU mit viel Leerlauf ist teurer als Standard.
Wie halte ich die Kosten DSGVO-konform in der EU?
Nutzen Sie Data Zone Provisioned oder Data Zone Standard mit der Region Sweden Central oder West Europe. Damit bleibt die Verarbeitung in der EU. Global-Deployments sind günstiger, können Daten aber in andere Regionen routen. Für Banking, Versicherung und Energie ist Data Zone in fast allen Fällen der richtige Kompromiss aus Preis und Compliance.
Wie viel kann ich realistisch sparen?
In unseren Projekten liegen die ersten 40 Prozent im Modell-Routing (kleines Modell für Standardfragen), weitere 20 bis 30 Prozent in Prompt-Caching und Batch-API. Konstante Last über eine 1-Jahres-Reservierung spart bis zu 70 Prozent gegenüber der PTU-Stundenabrechnung. In Summe sind 40 bis 70 Prozent gegenüber einem naiven gpt-4o-Only-Setup üblich.
Rechnet sich ein zentrales LLM-Gateway für die Kostenkontrolle?
Ab dem zweiten oder dritten Use-Case ja. Ein Gateway routet Anfragen auf das passende Modell, setzt Budgets pro Team und macht die Token-Kosten pro Use-Case sichtbar. Ohne diese Schicht fehlt die Grundlage, um überhaupt zu wissen, wo das Geld hingeht. Genau das ist die Voraussetzung für jede Sparmaßnahme. Gateway Guardrails: Policy vor dem Token
Nächster Schritt
Sie wollen wissen, ob PTU oder Standard für Ihre Last günstiger ist und wo die 40 Prozent Einsparung liegen? Wir rechnen den Break-even mit Ihren echten Token-Zahlen durch und priorisieren die Hebel.
Verwandte Themen
→Warum eine Claude-Code-Rechnung plötzlich 2.500 Euro betragen kann
→LiteLLM gegen OpenRouter für zentrales Modell-Routing
Die offiziellen Tagespreise stehen in der Azure OpenAI Pricing-Übersicht.
