Phillip Pham | 14 Min. Lesezeit | 18.08.2026
TL;DR
Azure AI Foundry ist Microsofts Plattform zum Entwickeln, Testen und Betreiben von KI-Anwendungen, vom ersten Prototyp bis zum produktiven Agenten. Diese Tutorial-Serie zeigt auf Deutsch Schritt für Schritt, wie Sie ein Projekt anlegen, Ihre erste KI-App bauen, Azure-OpenAI-Modelle einbinden und die Kosten steuern. Pexon Consulting setzt die Plattform als Microsoft-Partner seit 2024 produktiv ein.
Die Serie im Überblick
Statt eines einzelnen Quickstarts führt Sie diese Serie in fünf Lektionen von null bis zum produktiven Agenten. Jede Lektion ist ein eigener Abschnitt, und für die Vertiefung verlinken wir die passenden Fachartikel.
Danach zeigen wir, wie aus der Tutorial-App ein Produktivsystem wird. Eine ausführliche Einordnung der Plattform selbst finden Sie im Azure AI Foundry Leitfaden.
Was ist Azure AI Foundry?
Azure AI Foundry, seit Januar 2026 Microsoft Foundry, ist die KI-Entwicklungsplattform von Microsoft und der Nachfolger des Azure AI Studio. Sie bündelt die Werkzeuge, die für den Bau von KI-Anwendungen nötig sind: Modellkatalog, Prompt-Flows, einen Playground zum Testen, Evaluierung, Überwachung und die Anbindung an Azure OpenAI, Azure AI Search und Content Safety. Entwickler und Fachabteilungen arbeiten in Projekten zusammen, in denen Modelle ausgewählt, Prompts getestet und Agenten mit Tools und Wissensquellen verdrahtet werden.
Anders als ein reiner API-Dienst legt Foundry den kompletten Entwicklungs-Workflow darüber: Versionierung, Evaluation und Deployment gehören zur Plattform. Wenn Sie vorher mit Azure OpenAI Studio oder Azure Machine Learning Studio gearbeitet haben, ersetzt Foundry beide unter einem Dach, plus Modelle von Meta, Mistral, Cohere, Anthropic und Hunderten weiteren im Katalog.
Für Unternehmen im DACH-Raum sind zwei Punkte zentral: Die Plattform läuft in europäischen Azure-Regionen, unter anderem Frankfurt, und Microsoft bietet Data-Residency-Optionen für die EU. Damit lassen sich DSGVO-Anforderungen an Datenhaltung und Zugriffskontrolle adressieren. Wie sich Foundry gegen Copilot Studio abgrenzt, klären wir im Vergleich Azure AI Foundry vs. Copilot; eine kompakte Einordnung des ganzen Microsoft-KI-Stacks gibt der Azure-AI-Kurzüberblick.
Lektion 1: Ihr erstes Projekt in Azure AI Foundry anlegen
Erst die Voraussetzungen. Für dieses Azure-AI-Foundry-Tutorial auf Deutsch brauchen Sie eine Azure-Subscription (der Free Tier reicht für den Einstieg), die Azure CLI und Python:
# 1. Azure CLI installiert und eingeloggt
az login
# 2. Python 3.10+ mit pip
python --version # mindestens 3.10
# 3. Azure AI Projects SDK installieren
pip install azure-ai-projects azure-identity python-dotenvStellen Sie sicher, dass Ihre Subscription für den Azure OpenAI Service freigeschaltet ist. Microsoft genehmigt den Zugang nicht automatisch, Sie beantragen ihn einmal. In unseren Projekten dauert das ein bis drei Werktage.
Danach öffnen Sie ai.azure.com und legen ein Projekt an, oder per CLI:
# Foundry-Hub anlegen
az ml workspace create
--name "mein-ki-hub"
--resource-group "rg-ki-projekte"
--kind "hub"
--location "germanywestcentral" # Frankfurt, wichtig für DSGVO
# Projekt innerhalb des Hubs
az ml workspace create
--name "chatbot-prototyp"
--resource-group "rg-ki-projekte"
--kind "project"
--hub-id "/subscriptions/{sub-id}/resourceGroups/rg-ki-projekte/providers/Microsoft.MachineLearningServices/workspaces/mein-ki-hub"Zwei Empfehlungen aus der Praxis: Wählen Sie germanywestcentral (Frankfurt), nicht westeurope (Amsterdam), nur weil ein englisches Tutorial das vorschlägt. Für DSGVO-pflichtige Unternehmen ist die Region keine Kür, sondern Pflicht. Und benennen Sie die Ressourcengruppe sauber (rg-ki-projekte statt test123), sonst suchen Sie nach dem dritten Projekt nach Ihren Deployments.
Lektion 2: Ihre erste KI-App in 60 Minuten
Jetzt deployen Sie ein Modell und rufen es aus Code auf. Für den Einstieg empfehlen wir GPT-4o-mini: günstig, schnell und für die meisten Enterprise-Fälle ausreichend. Im Portal: Models + Endpoints → Model Catalog → gpt-4o-mini → Deploy. Oder per CLI:
az ml online-deployment create
--name "gpt4o-mini-prod"
--endpoint-name "ki-endpoint"
--model "azureml://registries/azure-openai/models/gpt-4o-mini/versions/2024-07-18"
--instance-type "Standard_DS3_v2"
--resource-group "rg-ki-projekte"
--workspace-name "chatbot-prototyp"Starten Sie bewusst nicht direkt mit GPT-4o. Nicht wegen der Qualität, sondern wegen der Kosten: GPT-4o-mini kostet rund 0,15 USD pro 1 Mio. Input-Tokens, das größere Modell ein Vielfaches. Upgraden können Sie später mit einer Zeile Config.
Dann eine .env und ein kurzes Python-Skript:
# app.py, erste Azure AI Foundry App
import os
from dotenv import load_dotenv
from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
load_dotenv()
client = AIProjectClient(
endpoint=os.environ["AZURE_AI_PROJECT_ENDPOINT"],
credential=DefaultAzureCredential(),
)
openai_client = client.inference.get_chat_completions_client()
response = openai_client.complete(
model=os.environ["AZURE_AI_MODEL_DEPLOYMENT_NAME"],
messages=[
{"role": "system", "content": "Du bist ein Assistent für deutsche Unternehmen. Antworte präzise und auf Deutsch."},
{"role": "user", "content": "Fasse die drei wichtigsten Risiken eines Cloud-Migrationsvertrags zusammen."}
],
temperature=0.3,
max_tokens=500,
)
print(response.choices[0].message.content)Das war es: eine lauffähige KI-App über Azure AI Foundry, in Frankfurt gehostet, über Entra ID authentifiziert. Kein API-Key im Code, DefaultAzureCredential nutzt Ihr az login oder im Betrieb eine Managed Identity.
Lektion 3: Azure-OpenAI-Modelle in Ihre App einbinden
Hier stolpern viele über die Begriffe. Der Azure OpenAI Service stellt die Modelle (GPT-4o, GPT-4.1, Embeddings) als API bereit. Azure AI Foundry ist die Plattform darüber und nutzt Azure OpenAI als eine Modellquelle unter mehreren. Praktisch heißt das: Sie deployen ein GPT-Modell als Azure-OpenAI-Deployment und sprechen es entweder direkt oder über das Foundry-Projekt an.
Seit dem Umbau zu Microsoft Foundry gibt es dafür den Model Router: eine Schicht, die eine Anfrage automatisch an das passende Modell leitet, ob GPT für Standardfälle, ein günstigeres Modell für einfache Aufgaben oder ein Anthropic-Modell für lange Kontexte. Sie müssen den Modellnamen nicht mehr hart in jede Anfrage schreiben.
Für Unternehmen ist die entscheidende Frage bei Azure OpenAI nicht die Technik, sondern die Datenhaltung: Wo laufen die Prompts, was wird geloggt, was gilt vertraglich? Die belastbare Antwort steht in unseren Azure-OpenAI-Datenschutz-FAQ. Kurz: EU-Region wählen, Auftragsverarbeitungsvertrag mit Microsoft, und prüfen, dass Prompts nicht ins Modelltraining fließen.
Lektion 4: KI-Agenten mit Azure AI Foundry bauen
Ein Agent ist mehr als ein Chatbot. Ein Chatbot beantwortet, was im Modell steht. Ein Agent bekommt Werkzeuge und Wissensquellen: Er darf eine Datenbank abfragen, eine API aufrufen, ein Dokument durchsuchen und mehrere Schritte hintereinander ausführen, um eine Aufgabe zu lösen. Genau das hat Microsoft mit der Umbenennung zu Foundry in den Vordergrund gestellt.
Drei Bausteine sind dafür neu relevant:
- Foundry Agent Service: Agenten werden als Objekt angelegt, mit Instruktionen, Modell und einer Liste von Tools.
- Workflows: Für Fälle, in denen mehrere Agenten zusammenarbeiten (etwa ein Rechercheur plus ein Prüfer), gibt es einen visuellen Workflow-Builder.
- Foundry IQ und MCP-Tools: Wissensquellen und externe Werkzeuge werden über eine einheitliche Schicht angebunden, Tools zunehmend über das Model Context Protocol (MCP).
Ein minimaler Agent im SDK sieht so aus:
# agent.py, ein einfacher Agent mit Wissensquelle
agents = client.agents
agent = agents.create_agent(
model=os.environ["AZURE_AI_MODEL_DEPLOYMENT_NAME"],
name="ticket-triage",
instructions=(
"Du klassifizierst eingehende Support-Tickets nach Dringlichkeit "
"und Fachbereich. Antworte kurz und strukturiert."
),
tools=[], # hier kommen Datei-Suche, MCP-Tools oder eigene Funktionen dazu
)
thread = agents.create_thread()
agents.create_message(thread.id, role="user",
content="Server nicht erreichbar seit 20 Minuten, Produktion steht.")
run = agents.create_and_process_run(thread.id, agent.id)Wie so ein Agent produktiv aussieht, zeigen wir am Beispiel der KI-gestützten Ticketbearbeitung mit Azure AI Foundry. Unsere klare Empfehlung: Bauen Sie den ersten Agenten mit genau einer Aufgabe und einer Wissensquelle. Multi-Agent-Workflows sind mächtig, aber sie sind auch der schnellste Weg, ein Projekt unwartbar zu machen.
Lektion 5: Was Azure AI Foundry kostet und wie Sie es steuern
Die Plattform selbst kostet nichts, Sie zahlen die genutzten Azure-Ressourcen: Modell-Aufrufe, Rechenzeit, Speicher. Für ein typisches Pilotprojekt mit GPT-4o-mini und 50 Nutzern sieht die Rechnung so aus:
Der zweite Hebel ist das Abrechnungsmodell. Standard ist Pay-as-you-go: Sie zahlen pro Token. Für Workloads mit konstant hoher Last gibt es Provisioned Throughput Units (PTU), also gebuchte Kapazität zu einem festen Preis. Ab welchem Volumen sich das lohnt, rechnen wir in Azure AI PTU erklärt durch. Die vollständige Kostenlogik samt Enterprise-Szenarien steht in Azure AI Foundry Kosten.
Unsere Faustregel: Prototyp und moderate Nutzung immer Pay-as-you-go. PTU erst, wenn die Last vorhersehbar und dauerhaft ist. Wer PTU zu früh bucht, bezahlt Leerlauf.
Wie bringe ich die KI-App aus dem Tutorial in den Produktivbetrieb?
Zwischen „läuft auf meinem Laptop“ und „läuft sicher für 500 Mitarbeiter“ liegen ein paar Entscheidungen. Vier davon sind Pflicht:
- Content Safety aktivieren. Foundry hat integrierte Inhaltsfilter. Für regulierte Branchen setzen wir sie streng, Details in Azure AI Content Safety.
- Retrieval sauber aufsetzen. Sobald der Agent auf eigene Dokumente zugreift, brauchen Sie eine Vektorsuche, siehe Azure AI Search.
- Alles als Code. Der häufigste Fehler in Kundenprojekten: alles im Portal zusammenklicken, drei Monate später weiß niemand, wie die Umgebung entstand. Nutzen Sie das Portal zum Erkunden, aber deployen Sie produktiv über Bicep oder Terraform.
- Als Gesamtarchitektur denken. Wie Foundry, Search und AKS in einer produktiven Ingestion-Pipeline zusammenspielen, zeigt die Produktivarchitektur mit Foundry, Search und AKS.
# Bicep: Foundry-Projekt reproduzierbar deployen
az deployment group create
--resource-group "rg-ki-projekte"
--template-file "foundry-hub.bicep"
--parameters location="germanywestcentral"Häufig gestellte Fragen
Was ist der Unterschied zwischen Azure AI Foundry und Azure OpenAI?
Azure OpenAI stellt die Modelle als API bereit. Azure AI Foundry ist die Plattform darüber: Sie bündelt Modellkatalog, Prompt-Flows, Evaluation und Agenten-Tools. Foundry nutzt Azure OpenAI als eine Modellquelle unter mehreren, seit 2026 auch Modelle von Anthropic.
Kostet Azure AI Foundry etwas?
Die Plattform selbst ist Teil von Azure, bezahlt wird für genutzte Ressourcen wie Modell-Aufrufe, Rechenzeit und Speicher. Ein Pilot mit GPT-4o-mini und 50 Nutzern liegt bei 330 bis 750 EUR pro Monat. Für konstante Last gibt es Provisioned Throughput Units (PTU). Details im Artikel Azure AI Foundry Kosten.
Wie lange dauert es, die erste KI-App zu bauen?
Mit diesem Tutorial ist eine lauffähige App in etwa 60 Minuten möglich, sofern ein Azure-Account existiert. Der Aufwand für den Produktivbetrieb ist deutlich höher und hängt von Sicherheits- und Skalierungsanforderungen ab, in unseren Projekten rechnen wir mit zwei bis vier Wochen.
Kann ich Azure AI Foundry DSGVO-konform nutzen?
Ja. Die Plattform läuft in europäischen Azure-Regionen wie germanywestcentral (Frankfurt), und Microsoft bietet Data-Residency-Optionen. Wichtig sind Zugriffskonzepte, Logging und die Vertragslage, mehr in den Azure-OpenAI-Datenschutz-FAQ.
Was kann ich mit Azure AI Foundry bauen?
Interne KI-Assistenten, Ticket-Klassifizierung, Dokumentensuche und Agenten mit Tools und Wissensquellen. Ein Praxisbeispiel ist die KI-gestützte Ticketbearbeitung aus Lektion 4.
Nächster Schritt
Wenn Sie Azure AI Foundry nicht als Playground, sondern als Produktionsplattform einsetzen wollen: Wir haben die Plattform bei Kunden in Banking, Versicherung und Fertigung aufgesetzt, inklusive DSGVO-Konfiguration, Evaluation-Frameworks und CI/CD. Sprechen Sie mit uns, bevor Sie die Tutorial-App in Produktion heben.
Verwandte Themen
→Azure Consulting: Cloud-Strategie und Migration
