Docling 2026: Dokument-Parsing als Fundament für RAG

Robin, Pexon Consulting | 6 Min. Lesezeit | 25.07.2026

TL;DR

Docling von IBM Research parst PDFs, Scans und Office-Dateien struktur-treu nach Markdown oder JSON, die Basis für jede saubere RAG-Pipeline. Wir zeigen, warum schlechtes Parsing Ihr RAG-Projekt killt, wo Docling glänzt und wo Enterprise-Anforderungen wie DSGVO und Betrieb anfangen. Zu erleben als 6-Wochen-Pilot.

Warum schlechtes Dokument-Parsing jedes RAG-Projekt sabotiert

Die meisten gescheiterten RAG-Projekte, die wir auf den Tisch bekommen, scheitern nicht am Sprachmodell. Sie scheitern eine Ebene tiefer: beim Einlesen der Dokumente. Wer ein PDF mit einer simplen Text-Extraktion durchjagt, bekommt eine Tabelle als zusammenhanglose Zahlenkolonne zurück, verliert die Überschriften-Hierarchie und übersieht jeden Scan. Das Modell bekommt Müll, also liefert es Müll, nur eloquent verpackt.

Unsere klare Position: Ohne sauberes Parsing gibt es kein gutes RAG. Punkt. Sie können das teuerste Embedding-Modell und das größte Kontextfenster kaufen, wenn Ihre Chunks aus zerrissenen Tabellen bestehen, produzieren Sie teure Halluzinationen. Das ist die eine Zange dieses Angriffs: Parsing ist kein Vorstufen-Detail, sondern der Hebel für die Antwortqualität.

Die zweite Zange kommt später, wenn so ein Prototyp in Produktion soll. Dann geht es nicht mehr um Parsing-Qualität, sondern um Rechte, DSGVO und Betrieb. Beide Zangen muss man kennen, bevor man startet.

Was Docling ist und wie es funktioniert

Docling ist ein quelloffenes Toolkit von IBM Research zur Dokument-Konvertierung, veröffentlicht unter der freizügigen MIT-Lizenz. Seit dem ersten Release im August 2025 hat das Projekt über 37.000 GitHub-Sterne gesammelt und mehr als 100 Releases hinter sich, ein Tempo, das für ein aktiv gepflegtes Werkzeug spricht.

Technisch parst Docling PDFs, Bilder, Scans, DOCX und PPTX und behält dabei die Struktur: Überschriften, Tabellen, Listen und Bilder. Zwei KI-Modelle tragen die Arbeit. DocLayNet übernimmt die Layout-Analyse, erkennt also, was Überschrift, was Fließtext und was Tabelle ist. TableFormer rekonstruiert die Struktur von Tabellen, auch wenn sie ohne saubere Gitterlinien gesetzt sind. Beide laufen laut Projekt auf einem Standard-Laptop, ohne dedizierte GPU-Farm.

Das Ergebnis landet im internen DoclingDocument-Format und lässt sich von dort nach Markdown, JSON, HTML oder DocTags exportieren. Für RAG ist Markdown der Süßpunkt: strukturiert genug für sauberes Chunking, schlank genug fürs Embedding. Über CLI und Python-API bindet man Docling in bestehende Pipelines ein, und es gibt fertige Anbindungen an LangChain, LlamaIndex und spaCy.

Docling in der Praxis: von der Rechnung zum Chunk

In der Praxis ist der Einstieg unspektakulär, und das ist ein Kompliment. Ein Beispiel aus dem Dokument-Intensiv-Alltag, der KI-gestützten Verarbeitung von Eingangsrechnungen: Sie haben tausende Rechnungs-PDFs, teils gescannt, mit Positionstabellen, die jede Text-Extraktion zerlegt. Genau hier zahlt TableFormer ein.

# Installation vorher: pip install docling
# Docling wandelt ein PDF struktur-treu um, inklusive Tabellen und Überschriften
from docling.document_converter import DocumentConverter

konverter = DocumentConverter()
# Quelle kann eine URL, ein lokaler Pfad, ein Scan oder eine DOCX-Datei sein
ergebnis = konverter.convert("rechnung_2026.pdf")

# Export ins DoclingDocument-Format, dann als Markdown für die RAG-Pipeline
markdown = ergebnis.document.export_to_markdown()
print(markdown)  # Überschriften, Listen und Tabellen bleiben erhalten

Aus dieser einen Funktion kommt Markdown zurück, in dem die Positionstabelle noch eine Tabelle ist. Dieser Text geht sauber ins Chunking, und Ihre RAG-Antwort auf „Wie hoch war die Nettosumme in Rechnung X“ zieht die richtige Zahl aus der richtigen Zelle, statt zwei benachbarte Beträge zu verwechseln. Wer stattdessen eine spezialisierte RAG-Engine wie RAGFlow einsetzt, findet Docling-ähnliches Parsing oft schon integriert, tauscht dafür aber Flexibilität gegen ein festeres Gerüst.

Der Enterprise-Sprung: wo Docling aufhört und Betrieb anfängt

Docling ist ein exzellenter Baustein, aber es ist ein Baustein, keine Plattform. Das Toolkit parst Dokumente, es kümmert sich nicht um Zugriffsrechte, Mandantentrennung, Audit-Logs oder darum, dass ein Personalfragebogen nicht im selben Index landet wie eine öffentliche Produktbroschüre. Diese Grenze verwischen viele POCs, und genau dort platzen Produktivsetzungen.

Wir raten dazu, Parsing und Governance von Tag eins getrennt zu denken. Docling liefert Ihnen struktur-treue Chunks, aber der Rechte-Layer, die DSGVO-Dokumentation und der Betriebsprozess sind eigene Arbeitspakete. Wer das als „machen wir später“ abtut, baut technische Schulden ein, die beim Rollout auf einmal kritisch werden, weil dann der Datenschutzbeauftragte den Stecker zieht.

Für regulierte Branchen kommt dazu die Frage, wo die Dokumente verarbeitet werden. Docling läuft lokal, das ist ein starkes Argument, weil sensible Verträge Ihr Netz nicht verlassen müssen. Diese On-Premise-Fähigkeit ist der Grund, warum wir Docling für souveräne Setups überhaupt empfehlen. Alles Weitere zu Aufbau und Betrieb solcher Pipelines bündeln wir in unserer Document-Intelligence-Beratung.

Docling im Vergleich: wann es die richtige Wahl ist

Docling ist nicht die einzige Option, und wir tun niemandem einen Gefallen, wenn wir es als Universallösung verkaufen. Cloud-Parsing-Dienste sind schneller startklar, verlangen aber, dass Ihre Dokumente einen fremden Server sehen. Reine OCR-Werkzeuge sind billiger, verlieren aber die Struktur, die RAG braucht.

Der teurere Weg ist fast immer, das Parsing selbst zu bauen, mit handgeschriebenen Regeln pro Dokumenttyp. Das skaliert nicht: Jedes neue Layout ist ein neues Ticket, und die Wartung frisst mehr Budget als das eigentliche RAG. Docling nimmt Ihnen diese Sisyphusarbeit mit DocLayNet und TableFormer ab und bleibt trotzdem quelloffen und lokal betreibbar. Für die meisten Enterprise-RAG-Vorhaben mit gemischten, sensiblen Dokumenten ist das die vernünftigste Basis, solange Sie den Governance-Teil nicht vergessen.

Häufig gestellte Fragen

Was ist Docling genau?

Docling ist ein quelloffenes Toolkit von IBM Research unter MIT-Lizenz, das Dokumente wie PDFs, Scans und Office-Dateien struktur-treu konvertiert. Es erkennt Layout und Tabellen mit den KI-Modellen DocLayNet und TableFormer und exportiert nach Markdown, JSON, HTML oder DocTags. Ziel ist ein sauberer Input für RAG-Pipelines.

Was kostet der Einsatz von Docling?

Docling selbst ist kostenlos und quelloffen unter MIT-Lizenz, es fallen keine Lizenzgebühren an. Kosten entstehen an anderer Stelle: Infrastruktur für den Betrieb, Integration in Ihre Pipeline und der Governance-Aufbau für den Produktivbetrieb. Genau diesen Aufwand bündeln wir in einem 6-Wochen-Pilot mit festem Rahmen.

Braucht Docling eine GPU oder teure Hardware?

Laut Projekt laufen die Modelle DocLayNet und TableFormer auf einem Standard-Laptop, eine dedizierte GPU ist für den Einstieg nicht zwingend. Für große Durchsätze mit tausenden Dokumenten pro Tag empfiehlt sich stärkere Hardware, das ist dann aber eine Skalierungs- und keine Machbarkeitsfrage.

Behält Docling Tabellen und Überschriften wirklich bei?

Ja, das ist der Kernvorteil gegenüber simpler Text-Extraktion. TableFormer rekonstruiert die Zellstruktur von Tabellen, auch ohne saubere Gitterlinien, und die Layout-Analyse erhält die Überschriften-Hierarchie. Im exportierten Markdown bleibt eine Tabelle eine Tabelle, was für korrekte RAG-Antworten auf Zahlenfragen entscheidend ist.

Lässt sich Docling in bestehende RAG-Frameworks einbinden?

Ja, Docling bietet eine CLI und eine Python-API und hat fertige Integrationen für LangChain, LlamaIndex und spaCy. Sie können es also als Parsing-Schritt vor Ihr bestehendes Chunking und Embedding setzen, ohne die restliche Pipeline umzubauen.

Nächster Schritt

Wenn Sie ein RAG-Vorhaben mit sensiblen, struktur-reichen Dokumenten haben und wissen wollen, ob Docling die richtige Basis ist, sprechen wir das in einem kurzen Gespräch durch.

Verwandte Themen