Was ist Azure AI Foundry?

Modelle
Kurz beantwortet

Azure AI Foundry ist Microsofts Plattform für den Aufbau KI-gestützter Anwendungen: Sie bündelt Foundation Models wie GPT, Claude und Llama, Werkzeuge für Agents und RAG sowie Monitoring in einer Umgebung. Entwickler wählen Modelle aus, verbinden Unternehmensdaten und stellen Anwendungen bereit - ohne jede Integration einzeln zu bauen.

Kurz vorwegAzure AI Foundry ist eine Plattform, kein Modell - die Auswahl zwischen GPT, Claude und Llama ist Konfiguration, keine Migration. Zum KI-Beratungsgespräch

Azure AI Foundry: Definition

Azure AI Foundry ist die Weiterentwicklung von Azure AI Studio und die zentrale Plattform von Microsoft für KI-Anwendungen im Unternehmen. Sie fasst zusammen, was vorher über mehrere Dienste verteilt war: den Zugriff auf Foundation Models, die Aufbereitung eigener Daten für RAG, die Erstellung von Agents und die Überwachung im Betrieb. Ein Team arbeitet in einer Oberfläche statt in mehreren getrennten Tools.

Die Plattform greift auf Modelle von OpenAI, Meta, Mistral und anderen Anbietern zu, dazu auf Microsofts eigene Modelle. Unternehmensdaten bleiben in der Azure-Umgebung und werden über Indizes für Retrieval erschlossen. Agents lassen sich mit Werkzeugen und Abläufen ausstatten, Sicherheit und Zugriffsrechte werden über die vorhandene Azure-Verwaltung gesteuert.

Für Unternehmen ist Azure AI Foundry interessant, wenn Microsoft bereits die Cloud-Plattform ist oder wenn mehrere Modelle ohne separate Verträge genutzt werden sollen. Die Datenverarbeitung läuft in Azure-Regionen und unterliegt den Microsoft-Vertragsbedingungen - welche Region für welche Datenklasse zulässig ist, muss jedes Unternehmen selbst prüfen. Azure AI Foundry ersetzt keine bestehende Datenstrategie, es setzt auf ihr auf.

Zweck
Zentrale Azure-Plattform zum Bauen und Betreiben von KI-Anwendungen
Kernidee
Modelle, Daten, Agents und Monitoring in einer Umgebung - statt vieler Einzeldienste
Modellzugang
Foundation Models von OpenAI, Meta, Mistral und Microsoft über eine gemeinsame API
Daten
Unternehmensdaten bleiben in Azure, Retrieval über Indizes für RAG
Einordnung
Nachfolger von Azure AI Studio, keine eigenständige Modell-API

Wie funktioniert Azure AI Foundry?

Der Weg von der Idee zur ersten KI-Anwendung läuft in wenigen Schritten:

  1. Modell wählenAus dem Modellkatalog wird das Foundation Model für den Anwendungsfall bestimmt - etwa GPT für Text, ein Llama-Modell für offene Gewichte oder ein Mistral-Modell für schlankere Inferenz.
  2. Daten anbindenUnternehmensdaten werden in Azure aufbereitet und über Indizes für Retrieval erschlossen. Die Daten verlassen die Azure-Umgebung nicht.
  3. Anwendung bauenEntwickler kombinieren Modelle, Datenquellen und Agents zu einer Anwendung - mit Werkzeugen, Abläufen und definierten Zugriffsrechten.
  4. Betreiben und überwachenDie Plattform liefert Metriken zu Aufrufen, Antwortqualität und Kostenentwicklung. Abweichungen werden sichtbar, bevor Nutzer sie bemerken.

Azure AI Foundry oder Azure OpenAI Service?

Beide Dienste stammen von Microsoft, lösen aber unterschiedliche Aufgaben:

KriteriumAzure AI FoundryAzure OpenAI Service
UmfangPlattform: Modelle, Daten, Agents, Monitoringreine Modell-API für OpenAI-Modelle
ModelleGPT, Claude, Llama, Mistral und Microsoft-Modellenur OpenAI-Modelle (GPT, o1, Embeddings)
ZielgruppeTeams, die komplette KI-Anwendungen bauenEntwickler, die eine Modell-API einbinden
DatenIndizes und RAG-Bausteine enthaltenDatenanbindung muss separat gebaut werden

Wann lohnt sich Azure AI Foundry?

Azure AI Foundry passt, wenn
  • Azure bereits die Cloud-Plattform des Unternehmens ist
  • mehrere Modelle ohne Vertragsbindung an einen Anbieter genutzt werden sollen
  • KI-Anwendungen über Prototypen hinaus produktiv betrieben werden sollen
  • Datenverarbeitung und Zugriffsrechte in der Azure-Verwaltung bleiben sollen
Weniger geeignet, wenn
  • die Datenklasse eine Verarbeitung in Azure-Regionen ausschließt
  • nur eine einzelne Modell-API ohne Plattform gebraucht wird
  • die Architektur bewusst cloud-agnostisch bleiben soll
  • das Team keine Azure-Erfahrung mitbringt und kein Partner sie aufbaut
In der Praxis

In der Praxis entscheidet nicht die Modellauswahl, sondern die Datenanbindung über Azure AI Foundry. Indizes und Agents sind die Bausteine, die eine KI-Anwendung wirklich produktiv machen - das bloße Aufrufen eines Modells ist der kleinste Teil der Arbeit. Wer Azure AI Foundry einführt, sollte vorher klären, welche Daten in welcher Azure-Region verarbeitet werden dürfen und wie Zugriffsrechte die Nutzung der Modelle begrenzen.

Häufiger Irrtum

„Azure AI Foundry ist ein weiteres KI-Modell von Microsoft.“ Nein: Azure AI Foundry ist eine Plattform, über die Microsoft mehrere Foundation Models bereitstellt - unter anderem GPT von OpenAI, Claude von Anthropic, Llama von Meta und Mistral. Unternehmen bauen darauf Anwendungen mit Datenanbindung und Agents, ohne die Modelle selbst zu betreiben.

Häufige Fragen zu Azure AI Foundry

Ist Azure AI Foundry dasselbe wie Azure OpenAI Service?

Nein. Azure OpenAI Service ist eine Modell-API für OpenAI-Modelle, Azure AI Foundry ist die Plattform darum herum: Sie bündelt Modellzugang, Datenanbindung, Agents und Monitoring. Wer nur eine Modell-API einbindet, kommt mit dem Azure OpenAI Service aus - wer Anwendungen baut, nutzt Foundry.

Welche Modelle laufen über Azure AI Foundry?

Die Plattform bietet Zugang zu GPT-Modellen von OpenAI, Claude von Anthropic, Llama von Meta, Mistral und Microsofts eigenen Modellen. Welche Modelle verfügbar sind, hängt von der Azure-Region ab. Der Wechsel zwischen Modellen ist per Konfiguration möglich.

Ist Azure AI Foundry für europäische Unternehmen geeignet?

Das hängt von der Datenklasse ab. Die Verarbeitung läuft in Azure-Regionen und unterliegt den Microsoft-Vertragsbedingungen zur Auftragsverarbeitung. Für personenbezogene Daten müssen Unternehmen prüfen, welche Region zulässig ist - und ob die Verarbeitung außerhalb der eigenen Kontrolle akzeptabel ist.

Wenn es konkret wird

Ob Azure AI Foundry, ein offenes Gateway oder eine private Plattform - wir zeigen Ihnen, welche KI-Architektur zu Ihren Daten und Regeln passt.

Zum KI-Beratungsgespräch
Phillip PhamPexon ConsultingStand 19.08.2026