          Phoenix · souveräne LLM-Observability nach OpenTelemetry        

Phoenix self-hosted, LLM-Tracing im eigenen Netz

Kurz gesagt

Phoenix von Arize ist eine LLM-Observability-Plattform auf OpenTelemetry- und OpenInference-Standard: Tracing von Agenten-Ketten, Evaluation, Experimente und Prompt-Playground. Self-hosted bleiben Traces und Embeddings im eigenen Netz. Sie betreiben Phoenix in Ihrer Umgebung, Pexon übernimmt Aufbau, Integration und Betrieb. Für Teams mit vendor-neutralem, souveränem Observability-Anspruch. Laut Gartner scheitern über 40 Prozent der Agentic-AI-Projekte bis Ende 2027, oft weil niemand sieht, was der Agent tut. Phoenix macht es sichtbar.

OpenTelemetry / OpenInference

Tracing, Eval & Experimente

On-Prem, air-gapped möglich

Microsoft Solutions Partner (Digital & App Innovation, Infrastructure Azure, Data & AI Azure), ISO/IEC 27001, Google Cloud Partner, AWS Partner

Jetzt Kontakt aufnehmen
Zum AI Engineering Stack

Warum LLM-Apps als Blackbox teuer wird

Eine LLM-App oder ein Agent ohne Observability ist eine Blackbox: Warum eine Antwort falsch war, welcher Tool-Call oder Retrieval-Schritt kippte, bleibt unsichtbar. Und Cloud-Observability schickt die Traces an einen fremden Anbieter. Laut Bitkom 2026 überdenken 64 Prozent der Unternehmen ihre Cloud-Strategie.

Kein Einblick in die Agenten-Kette

Ohne Tracing sieht niemand, an welchem Schritt ein Agent falsch abgebogen ist. Die Fehlersuche in verschachtelten Tool-Calls wird zum Blindflug.

RAG-Drift bleibt unentdeckt

Die Retrieval-Qualität einer RAG-App degradiert schleichend. Ohne Observability schlägt niemand Alarm, bis die Antworten spürbar schlechter werden.

Traces gehören nicht in fremde Cloud

Traces und Embeddings enthalten Prompts, Kundendaten und interne Dokumente. In einer US-Observability-Cloud greift der CLOUD Act.

Ihre Vorteile in Zahlen

Warum souveräne, standard-basierte LLM-Observability mit Phoenix jetzt zählt, in belegten Zahlen.

33 % der Unternehmenssoftware wird agentisch bis 2028

Agentische KI wird zum Standard (Gartner). Verschachtelte Agenten brauchen nachvollziehbares Tracing. (Gartner, 2025)

10.700 GitHub-Sterne für Phoenix

Ein etabliertes Observability-Tool (GitHub) von Arize, auf dem offenen OpenInference-Standard. (GitHub, 2026)

0 € Lizenzgebühr für den Eigenbetrieb

Phoenix ist für den Eigenbetrieb kostenlos nutzbar (Elastic License 2.0). Die einzige Grenze: kein Weiterverkauf als gehosteter Service. (Arize, 2026)

85 % halten Deutschland für zu US-Cloud-abhängig

Souveränität ist Chefsache (Bitkom 2026). Traces mit sensiblen Daten gehören ins eigene Netz. (Bitkom, 2026)

Ab wann sich Phoenix self-hosted lohnt

Phoenix self-hosted lohnt sich, sobald LLM-Apps produktiv laufen, ihre Agenten-Ketten nachvollziehbar sein müssen oder Compliance verlangt, dass Traces und Embeddings das eigene Netz nicht verlassen.

100 %

Traces im eigenen Netz

Traces in fremder Cloud

offener Standard: OpenInference

Anwendungsbeispiele

Use Case 01

Tracing nach OpenInference

Phoenix zeichnet Agenten- und Tool-Call-Ketten nach dem offenen OpenInference-Standard auf, vendor-neutral und ohne Lock-in.

Nachvollziehbare Agenten-Läufe.

Use Case 02

Evaluation der Antwortqualität

Mit LLM-as-a-Judge und versionierten Datasets wird die Qualität von Prompts und Modellen messbar und vergleichbar.

Qualität statt Bauchgefühl.

Use Case 03

Experimente für RAG und Prompts

Prompt-, Modell- und Retrieval-Änderungen werden als Experimente getrackt und nebeneinander verglichen.

Datenbasierte Iteration.

Use Case 04

RAG-Retrieval sichtbar machen

Aus dem ML-Monitoring-Erbe von Arize lässt sich die Embedding- und Retrieval-Qualität analysieren, um Drift früh zu erkennen.

Frühwarnung bei RAG-Drift.

Integration in Ihre Umgebung

Phoenix muss zu Ihrem Stack und Ihrer Lizenz-Situation passen. Zwei Ebenen entscheiden.

Standard und Features

OpenInference · Offener, vendor-neutraler Tracing-Standard auf OpenTelemetry-Basis.

Eval und Experimente · LLM-as-a-Judge, Datasets und Experiment-Vergleich in einem Tool.

Prompt-Playground · Prompts optimieren, Modelle vergleichen, getracte Calls replayen.

Betrieb und Lizenz

Sie sind Betreiber · Phoenix läuft in Ihrer Umgebung, Sie sind Lizenznehmer, wir bauen und betreiben es dort.

Elastic License 2.0 · Eigenbetrieb kostenlos, kein Weiterverkauf als gehosteter Service.

Production-Stack · Docker oder Kubernetes mit PostgreSQL, air-gapped möglich.

Wie Phoenix self-hosted funktioniert

1

Assessment

LLM-Apps, Trace-Volumen, Compliance- und Lizenz-Anforderungen.

2

Deployment

Phoenix via Docker oder Kubernetes mit PostgreSQL in Ihrer Umgebung aufsetzen.

3

Instrumentierung

Bestehende Apps und Agenten nach OpenInference-Standard instrumentieren.

4

Eval und Experimente

Datasets, LLM-as-a-Judge und Experiment-Vergleich einrichten.

5

Drift und Qualität

Retrieval- und Embedding-Qualität analysieren, Alerts auf Regression.

6

Betrieb und Governance

Auth, RBAC, Retention und Betrieb, optional als Managed-Service in Ihrem Setup.

Erfahren Sie mehr über Pexons AI-Observability-Plattform

Warum Pexon statt Inhouse-Entwicklung

Inhouse allein

–Production-Härtung mit PostgreSQL, Auth und Retention bindet Betriebs-Zeit.

–Die OpenInference-Instrumentierung sauber aufzusetzen braucht Erfahrung.

–Ohne Observability bleibt jede Agenten-Fehlersuche ein Blindflug.

US-Observability-Cloud

–Traces und Embeddings laufen über eine US-Cloud, der CLOUD Act greift.

–Für Berufsgeheimnis und IP-Schutz oft nicht tragbar.

–Laufende Kosten und Vendor-Lock-in statt offenem Standard.

Mit Pexon

✓Phoenix-Aufbau, Instrumentierung, Eval und Betrieb aus einer Hand.

✓Souverän in Ihrer Umgebung, Sie sind Lizenznehmer, Traces bleiben im Netz.

✓Ehrlich: die Elastic License 2.0 ist keine klassische OSS-Lizenz, für Ihren Eigenbetrieb ohne Kostenfolge.

In 4 Phasen zur produktiven Lösung

Woche 1-2

Assessment

LLM-Apps, Trace-Volumen, Compliance- und Lizenz-Scope.

Woche 3-4

Deployment

Phoenix mit PostgreSQL aufsetzen, Apps instrumentieren.

Woche 5

Eval und Drift

Eval-Pipelines, Experimente und Drift-Analyse.

ab Woche 6

Betrieb

Auth, Retention, Skalierung, optional als Managed-Service in Ihrer Umgebung.

Pilot mit klarem Scope

Wir starten mit einem Piloten: Phoenix self-hosted in Ihrer Umgebung, eine LLM-App instrumentiert, mit Tracing und Eval.

Ihre Investition

Individuell nach Scoping

Pilot mit einer App

Enthält:

Enthalten · Assessment, Deployment mit PostgreSQL, OpenInference-Instrumentierung einer App und Eval-Setup.

Was Sie beisteuern · Infrastruktur oder EU-Cloud-Budget, Zugang zu einer LLM-App und je einen Ansprechpartner aus IT und Fachbereich.

Preistreiber · Trace-Volumen und Stack-Verfügbarkeit, Zahl der zu instrumentierenden Apps, Governance-Tiefe. Phoenix ist im Eigenbetrieb kostenlos. Eine belastbare Zahl nennen wir nach dem Scoping.

Jetzt Kontakt aufnehmen

100 % unverbindlich, ohne Verpflichtung

Häufige Fragen

Was ist Phoenix?

Phoenix von Arize ist eine LLM-Observability-Plattform auf OpenTelemetry- und OpenInference-Standard. Sie bündelt Tracing von Agenten-Ketten, Evaluation mit LLM-as-a-Judge, versionierte Datasets, Experimente und einen Prompt-Playground. Phoenix ist vendor-neutral instrumentiert und komplett self-hostbar.

Ist Phoenix Open Source?

Ehrlich: Arize nennt Phoenix quelloffen, aber es steht unter der Elastic License 2.0, die nicht OSI-approved ist. Für Ihren internen Eigenbetrieb ist das praktisch irrelevant, der Quellcode ist offen und kostenlos nutzbar. Die einzige echte Grenze betrifft den Weiterverkauf als gehosteter Service.

Was kostet eine Phoenix-Implementierung?

Für den Eigenbetrieb fällt keine Lizenzgebühr an, die Elastic License 2.0 erlaubt kostenlose Nutzung und Anpassung. Die Kosten liegen bei der Infrastruktur und dem Betrieb. Das kommerzielle Managed-Produkt Arize AX ist davon getrennt. Eine belastbare Zahl nennen wir nach dem Scoping.

Kann Pexon Phoenix für uns hosten?

Pexon setzt Phoenix in Ihrer Umgebung auf und betreibt es dort, Sie sind Lizenznehmer und Betreiber. Ein von Pexon gehostetes Multi-Tenant-Phoenix für mehrere Kunden ist durch die Elastic License 2.0 ausgeschlossen. Genau das ist aber auch der Souveränitäts-Vorteil: Ihre Traces bleiben in Ihrer Infrastruktur.

Wo sind die ehrlichen Grenzen von Phoenix?

Managed-Backup, Hochverfügbarkeit und Support kommen nicht out-of-the-box, dafür braucht es Arize AX oder einen Dienstleister. Der PostgreSQL-Stack will bei hohem Trace-Volumen getunt werden, und die Elastic License 2.0 ist keine klassische Open-Source-Lizenz. Genau den Betrieb übernehmen wir.

Läuft Phoenix air-gapped und on-premise?

Ja. Phoenix läuft via Docker oder Kubernetes mit PostgreSQL komplett self-hosted, Traces und Embeddings verlassen Ihre Infrastruktur nicht. So lässt sich die LLM-App mit Datenhaltung im eigenen Netz betreiben, ohne dass Daten in eine US-Cloud fließen.

Phoenix self-hosted unverbindlich besprechen

In 30 Minuten klären wir Ihre LLM-Apps, den OpenInference-Standard und wie Phoenix souverän in Ihrer Umgebung läuft. Ohne Verpflichtung.

Jetzt Kontakt aufnehmen

Nachricht senden

Kein passender Termin? Schreiben Sie uns, wir melden uns innerhalb von 24 Stunden.

Antwort innerhalb von 24 Stunden

Unverbindliches Erstgespräch

Persönlicher Ansprechpartner

Phillip Pham

CEO @ Pexon Consulting

Aktualisiert am 26. Juli 2026

Sie suchen einen Partner für Ihr Projekt?

Wir analysieren Ihren individuellen Bedarf, geben erste Empfehlungen zu Umsetzungsstrategien und bieten Ihnen transparente Einblicke in unsere Methoden, Technologien und Referenzen.

Vertrieb kontaktieren

400+Projekte seit 2020

100+Kunden im DACH-Raum

ISO27001 zertifiziert

3Hyperscaler Partner