Constantin, Pexon Consulting | 9 Min. Lesezeit | 25.07.2026
TL;DR
Portkey AI Gateway ist mehr als ein Router: Es bündelt Zugriff auf 250+ Modelle mit Observability, Guardrails und Governance zu einer Control-Plane für KI in Unternehmen. Seit März 2026 quelloffen, seit April Teil von Palo Alto Networks. Pexon baut die Gateway- und Governance-Schicht produktiv, als 6-Wochen-Pilot.
Warum ein Gateway allein nicht reicht
Die erste Frage bei KI im Unternehmen ist Zugang: Wie erreiche ich viele Modelle über einen Weg? Aggregatoren lösen das. Die zweite Frage kommt sechs Monate später und ist die teurere: Wer hat was wann an welches Modell geschickt, was hat es gekostet, und wie verhindere ich, dass sensible Daten oder schädliche Prompts durchrutschen? Genau hier hört ein reiner Router auf und eine Control-Plane fängt an.
Portkey positioniert sich als genau diese Control-Plane. Es ist ein produktionsreifes KI-Infrastruktur-Werkzeug, das den Zugriff auf über 250 Modell-Anbieter mit vier Dingen verbindet, die Unternehmen wirklich brauchen: Observability, Guardrails, Governance und Prompt-Management. Der Unterschied zu einem reinen Aggregator wie OpenRouter ist nicht der Zugang, sondern die Kontrolle drumherum. Den reinen Zugangs-Fall behandeln wir separat (siehe Verwandte Themen).
Die vier Bausteine der Control-Plane
Portkey bündelt vier Funktionen, die sonst einzeln zusammengesucht werden müssten.
Observability: Über 40 Metriken zu Kosten, Qualität und Latenz, dazu detaillierte Logs jeder Anfrage. Sie sehen endlich, was Ihre KI kostet und wo sie klemmt, statt zu raten.
Guardrails: Filter für Anfragen und Antworten, Jailbreak-Erkennung, PII-Redaction und richtlinienbasierte Durchsetzung. Sensible Daten und manipulierte Prompts werden abgefangen, bevor sie das Modell erreichen.
Governance: Policy-as-Code, regionale Datenresidenz, RBAC und SSO. Das ist die Schicht, die einen Rollout überhaupt erst freigabefähig macht.
Prompt-Management: Versionierte Prompts als verwaltetes Asset statt als hartcodierter String im Repo.
Der technische Zugang bleibt dabei einfach, weil die Schnittstelle OpenAI-kompatibel ist:
# Aufruf geht durch das Portkey-Gateway, Modell frei einsetzbar
from openai import OpenAI
client = OpenAI(
base_url="https://api.portkey.ai/v1", # oder self-hosted Endpoint
api_key="PORTKEY_API_KEY",
)
antwort = client.chat.completions.create(
model="anthropic/claude-opus-4-8",
messages=[{"role": "user", "content": "Fasse das Protokoll zusammen."}],
# Guardrails und Logging greifen im Gateway, nicht im Anwendungscode
)
Die Guardrails, das Logging und die Kostenkontrolle laufen im Gateway, nicht in Ihrer Anwendung. Das ist der Kern des Control-Plane-Gedankens: Kontrolle zentral, nicht in jedem Service neu gebaut. Wie Guardrails im Detail gegen Angriffe wirken, vertiefen wir im Beitrag zu KI-Governance.
Open Source und der Palo-Alto-Effekt
Zwei Ereignisse aus 2026 verändern die Einordnung. Im März 2026 hat Portkey sein Gateway vollständig quelloffen gemacht, inklusive der vorher zahlungspflichtigen Funktionen für Governance, Observability, Authentifizierung und Kostenkontrolle. Das heißt: Sie können Portkey selbst hosten, im eigenen VPC, ohne alle Kernfunktionen mieten zu müssen.
Im April 2026 wurde Portkey von Palo Alto Networks übernommen. Für Unternehmen ist das ein zweischneidiges Signal. Positiv: Ein Security-Konzern im Rücken bedeutet Enterprise-Reife, Compliance-Fokus und langfristige Wartung. Zu bedenken: Die Roadmap eines übernommenen Produkts richtet sich künftig nach dem Käufer. Unsere klare Empfehlung: Wenn Sie Portkey ernsthaft evaluieren, planen Sie die self-hosted Variante von Anfang an mit ein. Sie ist Ihre Absicherung gegen Roadmap- und Preisänderungen und der einzige Weg zu echter Datenkontrolle.
Der Souveränitäts-Check
Auch bei Portkey gilt die Frage, die bei jedem Gateway zuerst kommt: Wo laufen die Daten? In der gehosteten Variante läuft Ihr Datenstrom über Portkeys Infrastruktur, jetzt unter dem Dach von Palo Alto Networks. Für unkritische Daten ist das mit den Guardrails und der Datenresidenz-Option gut handhabbar.
Für streng regulierte Daten, also §203, KRITIS oder BaFin, ist die self-hosted Variante im eigenen VPC die einzig saubere Antwort. Der Vorteil von Portkey gegenüber vielen Alternativen ist, dass diese Option seit dem Open-Sourcing real existiert und die volle Funktionalität mitbringt. Die Kostenlogik der Modellwahl dahinter behandeln wir separat (siehe Verwandte Themen).
Häufig gestellte Fragen
Was ist Portkey AI Gateway?
Portkey AI Gateway ist eine KI-Control-Plane, die den Zugriff auf über 250 Modell-Anbieter mit Observability, Guardrails, Governance und Prompt-Management verbindet. Es ist mehr als ein Router: Es liefert die Kontroll- und Steuerschicht, die Unternehmen für den produktiven KI-Betrieb brauchen.
Was unterscheidet Portkey von OpenRouter?
OpenRouter ist primär ein Aggregator für Modell-Zugang. Portkey legt darüber eine Control-Plane mit Observability, Guardrails und Governance. Wer nur breiten Modell-Zugang will, ist mit einem Aggregator gut bedient. Wer Kontrolle, Nachvollziehbarkeit und Leitplanken braucht, greift zur Control-Plane.
Ist Portkey Open Source?
Ja. Seit März 2026 ist das Gateway vollständig quelloffen, inklusive Governance, Observability, Authentifizierung und Kostenkontrolle. Sie können es selbst hosten, auch im eigenen VPC. Zusätzlich gibt es eine gehostete Variante des Anbieters.
Ist Portkey nach der Palo-Alto-Übernahme noch die richtige Wahl?
Die Übernahme durch Palo Alto Networks im April 2026 bringt Enterprise-Reife und Sicherheitsfokus. Das Risiko liegt in der künftigen Roadmap. Wer die self-hosted Open-Source-Variante nutzt, ist gegen Preis- und Kursänderungen weitgehend abgesichert.
Ist Portkey DSGVO-konform nutzbar?
In der gehosteten Variante hängt es an Datenresidenz und Vertragsgestaltung, für viele Fälle ausreichend. Für streng regulierte Daten ist die self-hosted Variante im eigenen VPC der sichere Weg, weil der Datenstrom dann keinen externen Anbieter passiert.
Nächster Schritt
Sie wollen KI-Modelle im Unternehmen nicht nur nutzen, sondern kontrollieren, mit Einblick, Leitplanken und Governance? Wir klären in einem kurzen Gespräch, ob eine Control-Plane wie Portkey zu Ihrem Setup passt und ob gehostet oder self-hosted der richtige Weg ist.
Verwandte Themen
→OpenRouter für Unternehmen: Wann es passt
→LLM Model Routing: KI-Kosten senken ohne Qualitätsverlust



