RAG & Agentic AI auf Databricks: Agent Bricks 2026 im Check

Pexon Consulting | 10 Min. Lesezeit | 16.07.2026

TL;DR

RAG auf Databricks bedeutet 2026: Vector Search für die Retrieval-Schicht, Foundation Model APIs für die Modelle, Agent Bricks für fertige Agenten. Pexon Consulting (80 Mitarbeiter, Microsoft-Partner, Deutschland) baut solche Systeme auf Azure Databricks als 6-Wochen-Pilot produktionsreif, inklusive Unity-Catalog-Governance und DSGVO-konformem Betrieb in EU-Regionen.

Das Problem: Der Prototyp läuft, die Produktion nicht

Die meisten RAG-Projekte scheitern nicht am Modell. Sie scheitern an allem drumherum. Retrieval, das im Notebook 90 Prozent trifft und in Produktion 60. Zugriffsrechte, die niemand sauber abbildet. Ein Vektor-Index, der zur Delta-Tabelle nach zwei Tagen nicht mehr passt.

Die Zahlen dazu sind unangenehm deutlich. Rund 70 Prozent der Enterprise-RAG-Deployments erreichen die Produktion nie, und der Grund ist fast immer architektonisch, nicht das LLM. Gleichzeitig sagt Gartner voraus, dass über 40 Prozent aller Agentic-AI-Projekte bis Ende 2027 wieder eingestampft werden, meist wegen unklarem Geschäftswert und ausufernder Kosten.

Databricks setzt genau an diesem Bruch an: Die Daten liegen ohnehin im Lakehouse. Warum sie erst exportieren, um dann in einer separaten Vektor-Datenbank ein zweites Governance-Modell zu pflegen? Ob das für Sie aufgeht, hängt an drei Fragen, die wir uns unten der Reihe nach ansehen.

Was Agent Bricks 2026 wirklich ist

Agent Bricks ist Databricks‘ Antwort auf die Frage, wie man Agenten baut, ohne bei null anzufangen. Auf dem Data + AI Summit im Juni 2026 hat Databricks die Plattform von Beta auf allgemeine Verfügbarkeit gehoben und dabei eine Zahl genannt, die Aufmerksamkeit verdient: über 100.000 gebaute Agenten und mehr als eine Billiarde verarbeitete Tokens pro Jahr. Kunden wie AstraZeneca, Fox Corporation und Block laufen bereits darauf.

Wichtig für die Bewertung ist, was davon produktiv nutzbar ist und was noch Beta trägt:

Unsere klare Einordnung: Der GA-Kern trägt für Standard-Use-Cases. Wer aber sein Sicherheitsmodell auf die Unity AI Gateway oder Python-Policies stützen will, plant mit Beta-Risiko. Das ist kein Grund zu warten, aber ein Grund, die kritischen Pfade nicht auf Beta-Features zu legen.

So bauen Sie RAG auf Databricks

Der Kern ist Databricks AI Search, bis Anfang 2026 noch Vector Search genannt. Der Dienst indexiert eine Delta-Tabelle direkt und hält den Index über Delta Sync automatisch aktuell. Kein Export, kein zweiter Speicher, kein Drift zwischen Quelle und Index. Ein Standard-Endpoint deckt bis zu 2 Millionen Vektoren der Dimension 768 ab, ein Storage-optimierter bis zu 64 Millionen. Neu ist die hybride Suche, die Keyword- und Vektor-Treffer kombiniert, das allein hebt die Retrieval-Qualität in unseren Projekten spürbar.

Ein durchsuchbarer Index entsteht in wenigen Zeilen:

from databricks.vector_search.client import VectorSearchClient

vsc = VectorSearchClient()

# Delta-Tabelle als synchronisierten Index registrieren
vsc.create_delta_sync_index(
    endpoint_name="rag_endpoint",
    index_name="main.rag.dokumente_index",
    source_table_name="main.rag.dokumente",
    pipeline_type="TRIGGERED",          # oder CONTINUOUS für Live-Sync
    primary_key="id",
    embedding_source_column="inhalt",   # Text wird automatisch eingebettet
    embedding_model_endpoint_name="databricks-gte-large-en"
)

Die Modelle kommen über die Foundation Model APIs, governt und OpenAI-kompatibel. Databricks hostet offene Modelle (Meta Llama, GPT OSS, Google Gemma) und bindet proprietäre über externe Endpoints an, darunter claude-sonnet-4-6, Claude Haiku 4.5 und Gemini. Der Charme: Sie tauschen das Modell per Konfiguration, ohne den Stack neu zu bauen. Unstrukturierte Dokumente parsen Sie inzwischen ohne separaten OCR-Dienst direkt in SQL, seit Document Intelligence im Juni 2026 GA gegangen ist:

-- Unstrukturierte PDFs direkt im Lakehouse verarbeiten
SELECT
  ai_parse_document(content) AS geparst,
  ai_query(
    'databricks-claude-sonnet-4-6',
    'Fasse den Vertrag in drei Sätzen zusammen: ' || text
  ) AS zusammenfassung
FROM main.rag.rohdokumente;

Getraced und evaluiert wird das Ganze über MLflow 3, das jeden Inferenz-Schritt aufzeichnet. Das ist kein Beiwerk: Ohne Tracing debuggen Sie eine RAG-Pipeline im Blindflug. Das Open-Source-MLflow (rund 20.000 GitHub-Sterne, Stand Juli 2026) ist derselbe Kern, den Sie auch außerhalb von Databricks kennen, die Lernkurve bleibt also flach.

Agent Bricks oder selbst bauen mit LangGraph?

Die kurze Antwort: Kommt darauf an, wie viel Kontrolle über die Agenten-Logik Sie brauchen. Agent Bricks nimmt Ihnen die Standard-Bausteine ab, aber es gibt Ihnen weniger Freiheit als ein selbst gebauter Graph.

Unsere Empfehlung nach mehreren Implementierungen: Sitzen Ihre Daten schon auf Databricks und geht es um klassisches RAG oder ein überschaubares Agenten-Team, ist Agent Bricks 2026 der schnellere und günstigere Weg. Sobald die Agenten-Logik komplex wird, verzweigte Workflows, eigene Kontroll-Schleifen, harte Reproduzierbarkeit, bauen Sie besser selbst mit einem Framework wie LangGraph und behalten die Portabilität. Warum naives RAG dafür 2026 nicht mehr reicht, ordnen wir weiter unten in den verwandten Themen ein.

Und die ehrlichste Position zuerst: Wenn Ihr Unternehmen nicht ohnehin schon auf Databricks sitzt, ist der Lakehouse-Weg allein für RAG selten die Reise wert. Der Vorteil entsteht aus den bereits governten Daten. Ohne die zahlen Sie Plattform-Komplexität, ohne den eigentlichen Hebel zu bekommen. Für einen frischen Start ohne Lakehouse-Bindung ist ein schlanker Stack über unser Enterprise-RAG-Angebot meist die klügere Wahl.

Was RAG auf Databricks kostet

Databricks rechnet in DBUs (Databricks Units) pro Compute-Stunde ab, der Preis pro DBU hängt von Workload und Tier (Standard, Premium, Enterprise) ab. Vector-Search-Storage wird separat berechnet, grob eine DSU pro Gigabyte und Monat. Sobald ein Agent produktiv läuft, wird die Inferenz zum wiederkehrenden Kostentreiber, nicht der Index.

In unseren Projekten sehen wir für einen produktiven RAG-Piloten drei Kostenblöcke, die man vorab durchrechnen sollte:

• Retrieval: Vector-Search-Endpoint plus Storage. Bei niedrigen Millionen Vektoren ein planbarer, kleiner Posten.
• Inferenz: dominiert die Rechnung. Ein günstiges Modell wie Claude Haiku 4.5 für Standard-Anfragen, ein starkes nur für die harten Fälle. Databricks berichtet für sein eigenes optimiertes Modell vergleichbare Qualität zu Opus und Sonnet bei deutlich niedrigeren Kosten pro Anfrage, ein Modell-Routing lohnt sich also fast immer.
• Betrieb: Monitoring, Governance, Wartung. Wird gern vergessen und frisst sonst still die Marge.

Ein Wort zur Kostenkontrolle: Ohne Guardrails auf DBU-Ebene und ein sauberes Modell-Routing kippt die Rechnung schnell. Das ist der teurere Weg, wenn niemand die Inferenz-Kosten im Blick hält. Wer das von Anfang an mitplant, hält die Piloten-Kosten im niedrigen fünfstelligen Bereich pro Jahr.

Worauf Sie bei der Auswahl achten sollten

Bevor Sie sich festlegen, klären Sie fünf Punkte:

1. Liegen die relevanten Daten schon in Delta-Tabellen, oder wäre Databricks nur für RAG neu einzuführen?
2. Brauchen Sie eine bestimmte EU-Region für DSGVO? Agent Bricks ist inzwischen in mehreren Azure-Regionen wie westeurope verfügbar.
3. Reicht der GA-Funktionsumfang, oder hängt Ihr Use-Case an Beta-Features wie der Unity AI Gateway?
4. Wie komplex ist die Agenten-Logik wirklich? Je einfacher, desto eher Agent Bricks.
5. Wie sieht Ihr Modell-Routing aus? Ohne Kosten-Strategie wird die Inferenz teuer.

Wer diese fünf Fragen ehrlich beantwortet, weiß danach, ob der Lakehouse-Weg passt. Und falls Sie ohnehin zwischen Plattformen abwägen, hilft unser Vergleich Databricks gegen Microsoft Fabric bei der Grundsatzentscheidung.

Häufig gestellte Fragen

Was kostet RAG auf Databricks im Monat?

Es gibt keinen Fixpreis, weil Databricks nutzungsbasiert über DBUs abrechnet. Der Vector-Search-Storage liegt bei grob einer DSU pro Gigabyte und Monat, der große Posten ist die Inferenz. Ein produktiver Pilot bleibt mit sauberem Modell-Routing meist im niedrigen fünfstelligen Bereich pro Jahr. Ohne Kosten-Guardrails kann die Rechnung deutlich höher ausfallen.

Agent Bricks oder LangGraph, was ist besser?

Für Standard-RAG und überschaubare Agenten auf bereits vorhandenen Databricks-Daten ist Agent Bricks schneller in Produktion und günstiger im Betrieb. Für komplexe, verzweigte Agenten-Logik mit hohem Kontrollbedarf gibt Ihnen ein Eigenbau mit LangGraph mehr Freiheit und weniger Lock-in. Die Entscheidung hängt an Kontrollbedarf und bestehendem Stack.

Ist Agent Bricks 2026 produktionsreif?

Der Kern ja. Document Intelligence, Agent Memory, Supervisor Agent und die Sandbox sind seit dem Data + AI Summit im Juni 2026 allgemein verfügbar. Einige Governance-Bausteine wie die Unity AI Gateway und Python-basierte Contextual Policies tragen noch Beta-Status. Legen Sie kritische Pfade nicht auf Beta-Features.

Wie DSGVO-konform ist RAG auf Databricks?

Der technische Rahmen stimmt: Unity Catalog governt Zugriff auf jeder Ebene, und Agent Bricks läuft in EU-Azure-Regionen wie westeurope. DSGVO-Konformität entsteht aber nicht automatisch, sie hängt an Datenklassifizierung, Löschkonzept, SSO-Anbindung und Betriebsmodell. Genau diese Schicht ist der Unterschied zwischen POC und Produktivbetrieb.

Brauche ich ein eigenes Modell oder reichen die Foundation Model APIs?

Für die meisten Fälle reichen die Foundation Model APIs. Sie bekommen offene Modelle wie Llama und Gemma sowie proprietäre wie Claude Sonnet 4.6 governt und OpenAI-kompatibel, und Sie tauschen das Modell per Konfiguration. Ein eigenes, feingetuntes Modell lohnt erst, wenn Qualität oder Kosten bei sehr hohem Volumen anders nicht zu halten sind.

Nächster Schritt

Wenn Sie gerade evaluieren, ob RAG oder ein Agenten-System auf Ihrem Lakehouse Sinn ergibt, klären wir das in einem kurzen Architektur-Call, ehrlich und ohne Plattform-Bias.

Verwandte Themen