          Docling · souveränes Dokument-Parsing für RAG        

Docling self-hosted, Dokumente bleiben im Netz

Kurz gesagt

Docling ist ein quelloffenes Dokument-Parsing-Toolkit von IBM Research (MIT-Lizenz), das PDFs, Scans, Tabellen und Office-Dateien layout-erkennend in sauberes Markdown oder JSON verwandelt, die Grundlage für jede RAG-Pipeline. Self-hosted läuft das Parsing komplett on-prem, kein Dokument geht in die Cloud. Für Kanzleien, Banken und IP-sensible Unternehmen der souveräne erste Baustein. Laut IDC sind rund 80 Prozent der Unternehmensdaten unstrukturiert, also Dokumente, Scans und Tabellen. Genau die macht Docling maschinenlesbar.

Open Source (MIT)

TableFormer + OCR

On-Prem, air-gapped möglich

Microsoft Solutions Partner (Digital & App Innovation, Infrastructure Azure, Data & AI Azure), ISO/IEC 27001, Google Cloud Partner, AWS Partner

Jetzt Kontakt aufnehmen
Zu Private AI

Warum Cloud-Parsing-APIs teuer wird

Dienste wie AWS Textract, Azure AI Document Intelligence oder Google Document AI parsen Ihre Dokumente in ihrer Cloud, das Rohdokument verlässt also das Haus, bevor überhaupt ein Index existiert. Laut Bitkom 2026 überdenken 64 Prozent der Unternehmen deshalb ihre Cloud-Strategie.

Rohdokumente verlassen das Haus

Verträge, Akten und Konstruktionsdaten zum Parsen in eine Cloud-API zu schicken, ist bei Berufsgeheimnis und IP-Schutz heikel. Der CLOUD Act greift auch bei einem EU-Rechenzentrum.

Naives Parsing zerstört Struktur

Einfache OCR zerhackt mehrspaltige PDFs, Tabellen und Formeln. Was schlecht geparst ins RAG-System geht, kommt als schlechte Antwort wieder heraus.

Abhängigkeit von US-Anbietern

91 Prozent würden laut Bitkom 2026 einen deutschen Anbieter bevorzugen, faktisch nutzen aber 71 Prozent US-Dienste.

Ihre Vorteile in Zahlen

Warum souveränes Dokument-Parsing mit Docling jetzt zählt, in belegten Zahlen.

80 % der Unternehmensdaten sind unstrukturiert

Der Großteil des Firmenwissens steckt in Dokumenten und Scans (IDC). Genau die erschließt Docling maschinenlesbar. (IDC, 2025)

85 % halten Deutschland für zu US-Cloud-abhängig

Souveränität ist Chefsache (Bitkom 2026). Lokales Parsing hält Rohdokumente im eigenen Netz. (Bitkom, 2026)

0 € Lizenzkosten (MIT)

Docling ist quelloffen und lizenzkostenfrei. Die Investition liegt in Betrieb und Integration, nicht in Lizenzen. (IBM)

258M Parameter im lokalen Docling-Modell

Granite-Docling-258M (Apache 2.0) ist klein genug, um on-prem auf einer GPU zu laufen. Kein Dokument geht in die Cloud. (IBM, 2026)

Ab wann sich Docling self-hosted lohnt

Docling self-hosted lohnt sich, sobald sensible Dokumente wie Verträge oder Akten für KI aufbereitet werden sollen, Tabellen und Scans strukturiert erhalten bleiben müssen oder Compliance verlangt, dass Rohdokumente das Netz nicht verlassen.

80 %

des Wissens steckt in Dokumenten

Rohdokumente in eine Cloud-API

100 %

Parsing im eigenen Netz

Anwendungsbeispiele

Use Case 01

Verträge und Akten aufbereiten

Docling parst Verträge, Akten und Bilanzen layout-erkennend zu sauberem Markdown, der Basis für Suche und RAG, ohne dass ein Dokument die Cloud sieht.

0 Rohdokumente an eine Cloud-API.

Use Case 02

Gescannte Dokumente und Tabellen

TableFormer und OCR erhalten die Struktur von Scans, mehrspaltigen PDFs und komplexen Tabellen, statt sie zu zerhacken.

Tabellen bleiben als Tabellen erhalten.

Use Case 03

Ingestion für eine RAG-Pipeline

Docling liefert den geparsten, gechunkten Output direkt an Embedding und Vektor-Index, etwa pgvector, als erster Schritt der Pipeline.

Sauberer Input für bessere Antworten.

Use Case 04

Massen-Dokumentenkonvertierung

Große Bestände aus PDF, Office und Bildern werden lokal nach Markdown oder JSON konvertiert, für Archiv, Migration oder KI-Training.

Einheitliches, strukturiertes Format.

Integration in Ihre Umgebung

Docling muss zu Ihren Dokumenten und Ihrer Pipeline passen. Zwei Ebenen entscheiden.

Parsing und Modelle

TableFormer · Table-Structure-Recognition für komplexe, mehrzeilige Tabellen aus PDF und Scan.

Granite-Docling · Lokales Vision-Language-Modell (258M, Apache 2.0) für Single-Shot-Konvertierung, on-prem.

Formate · PDF, DOCX, PPTX, XLSX, HTML, EPUB und Bilder, Export nach Markdown, JSON oder DocTags.

Pipeline und Betrieb

Integrationen · Fertige Anbindung an LangChain, LlamaIndex, Haystack und CrewAI.

Vektor-Index · Docling-Output geht an Embedding und Vektor-DB wie pgvector, das ergänzen wir.

Air-gapped · Parsing und Modelle laufen komplett offline, kein Cloud-Call nötig.

Wie Docling self-hosted funktioniert

1

Assessment

Dokumententypen, Volumen, Datenschutz-Anforderungen und Zielarchitektur.

2

Modell-Auswahl

Granite-Docling oder OCR-Pipeline nach Dokumentqualität und Sprache.

3

Setup on-prem

Docling und Modelle auf GPU oder Server aufsetzen, on-prem oder EU-Cloud.

4

Parsing-Pipeline

Ingestion, Layout- und Tabellen-Parsing, Chunking je Dokumententyp konfigurieren.

5

Anbindung an RAG

Geparsten Output an Embedding und Vektor-Index anbinden, etwa pgvector.

6

Betrieb und Skalierung

Batch- und Streaming-Ingestion, Monitoring und Betrieb, auf Wunsch als Managed-Service.

Erfahren Sie mehr über die volle RAG-Pipeline

Warum Pexon statt Inhouse-Entwicklung

Inhouse allein

–TableFormer, OCR-Modelle und GPU-Betrieb sauber zu verzahnen bindet MLOps-Zeit.

–Die Anbindung an Embedding, Vektor-DB und Betrieb muss selbst gebaut werden.

–Ohne Erfahrung dauert der Weg zur robusten Ingestion Monate.

Cloud-Parsing-API

–Rohdokumente laufen über US-Cloud, der CLOUD Act greift trotz EU-Rechenzentrum.

–Für Berufsgeheimnis und IP-Schutz oft nicht tragbar.

–Pro-Seiten-Preise skalieren bei großen Beständen teuer.

Mit Pexon

✓Docling, Modelle, GPU und Pipeline-Anbindung aus einer Hand.

✓Souveränes Parsing on-prem oder EU-Cloud, Rohdokumente bleiben im Netz.

✓Ehrlich: Docling ist nur die Parsing-Schicht, wir bauen die Pipeline drumherum.

In 4 Phasen zur produktiven Lösung

Woche 1-2

Assessment

Dokumententypen, Volumen, Compliance-Scope und Modell-Auswahl.

Woche 3-4

Aufbau

Docling on-prem, Parsing-Pipeline, Tabellen- und Layout-Konfiguration.

Woche 5

Anbindung

Embedding, Vektor-Index und Qualitätsmessung am Kundenkorpus.

ab Woche 6

Betrieb

Skalierung, Monitoring, Wissenstransfer, optional Managed-Service.

Pilot mit klarem Scope

Wir starten mit einem Piloten: ein Dokumentenkorpus, lokal geparst mit Docling und an Ihren Index angebunden, produktiv.

Ihre Investition

Individuell nach Scoping

Pilot mit einem Korpus

Enthält:

Enthalten · Assessment, Modell-Setup, Docling-Parsing-Pipeline und Anbindung an den Index für einen Korpus.

Was Sie beisteuern · GPU-Kapazität oder EU-Cloud-Budget, den Dokumentenbestand und je einen Ansprechpartner aus IT und Fachbereich.

Preistreiber · Dokumentvolumen und Komplexität der Typen, Zielqualität, GPU-Infrastruktur. Docling selbst ist kostenlos. Eine belastbare Zahl nennen wir nach dem Scoping.

Jetzt Kontakt aufnehmen

100 % unverbindlich, ohne Verpflichtung

Häufige Fragen

Was ist Docling?

Docling ist ein quelloffenes Dokument-Parsing-Toolkit von IBM Research unter MIT-Lizenz. Es wandelt PDFs, Scans, Office-Dateien und Bilder layout-erkennend in Markdown oder JSON um, inklusive Tabellen und Formeln. Docling ist eine Library, kein fertiges Endprodukt, sondern der erste Baustein einer RAG-Pipeline.

Docling oder RAGFlow?

Beides, aber auf verschiedenen Ebenen. RAGFlow ist eine fertige RAG-Full-App inklusive Retrieval und Chat, schnell live, aber mit festem Stack. Docling ist nur der Parser und lässt sich in jede eigene Pipeline einbetten, sogar vor RAGFlow. Für maximale Flexibilität Docling, für ein schnelles Komplettsystem RAGFlow.

Was kostet eine Docling-Implementierung?

Docling selbst ist Open Source und kostenlos, es gibt keine Lizenz- oder Seat-Gebühr. Die Kosten liegen bei der GPU-Infrastruktur, dem Dokumentvolumen und der Komplexität der Dokumententypen sowie der Anbindung an Ihre Pipeline. Eine belastbare Zahl nennen wir nach dem Scoping.

Welche Formate und Modelle unterstützt Docling?

Docling parst PDF, DOCX, PPTX, XLSX, HTML, EPUB und Bilder, Tabellen über TableFormer und Scans per OCR. Als lokales Modell dient Granite-Docling-258M (Apache 2.0), das komplett on-premise auf einer GPU läuft.

Wo sind die ehrlichen Grenzen von Docling?

Docling ist nur die Parsing-Schicht, kein Retrieval, keine Vektordatenbank, kein Chat und keine Zugriffssteuerung. Sehr komplexe oder handschriftliche Scans bleiben OCR-typisch fehleranfällig. Docling ersetzt keine RAG-Pipeline, es ist deren erster Baustein, den Rest bauen wir.

Läuft Docling air-gapped und offline?

Ja. Parsing und die lokalen Modelle laufen komplett offline, kein Dokument und kein Cloud-Call verlässt Ihre Infrastruktur. Der Betrieb umfasst GPU, Modell-Deployment und die Pipeline, das übernehmen wir.

Docling self-hosted unverbindlich besprechen

In 30 Minuten klären wir Ihre Dokumententypen, das Volumen und wie Docling sich in Ihre Pipeline einfügt. Ohne Verpflichtung.

Jetzt Kontakt aufnehmen

Nachricht senden

Kein passender Termin? Schreiben Sie uns, wir melden uns innerhalb von 24 Stunden.

Antwort innerhalb von 24 Stunden

Unverbindliches Erstgespräch

Persönlicher Ansprechpartner

Phillip Pham

CEO @ Pexon Consulting

Aktualisiert am 25. Juli 2026

Sie suchen einen Partner für Ihr Projekt?

Wir analysieren Ihren individuellen Bedarf, geben erste Empfehlungen zu Umsetzungsstrategien und bieten Ihnen transparente Einblicke in unsere Methoden, Technologien und Referenzen.

Vertrieb kontaktieren

400+Projekte seit 2020

100+Kunden im DACH-Raum

ISO27001 zertifiziert

3Hyperscaler Partner