Zum Inhalt springen

RAG & Vektordatenbanken

Docling
im Test.

Docling (über 64.000 GitHub-Sterne, MIT-Lizenz) ist ein Dokumentenkonverter für KI-Pipelines, der über 35 Dateiformate in strukturiertes Markdown, JSON oder DocLang umwandelt. Layout, Tabellen und seit 2026 auch Diagramme erkennen eigens trainierte KI-Modelle. Version 2 brachte Audio-Transkription und einen MCP-Server für Agenten-Anwendungen, im Sommer 2026 kamen OpenDocument-Dateien, XBRL-Geschäftsberichte und Videodateien dazu.

5,0 von 5

Stand 3. August 2026

Preismodell Kostenlos, Komplett kostenlos (MIT-Lizenz)
Betriebsort auf eigener Hardware
DSGVO ohne weitere Auflagen einsetzbar
Quelloffen ja, MIT

PDFs, Word-Dateien und Präsentationen sind für Sprachmodelle schwer zu verarbeiten, weil Tabellen, mehrspaltige Seiten und Fußnoten die Textstruktur durchbrechen. Beim Aufbau eines RAG-Systems, also einer KI-Suche über die eigenen Dokumente, fällt das sofort auf, denn aus einer zerrissenen Tabelle wird in der Vektordatenbank ein unbrauchbarer Textblock. Docling übernimmt diesen ersten Schritt. Es wandelt die Dateien in strukturiertes Markdown oder JSON um, das eine Vektordatenbank ohne Nacharbeit aufnimmt.

Wichtigste Funktionen

  • Über 35 Eingabeformate: PDF, DOCX, PPTX, XLSX, HTML, CSV, LaTeX, AsciiDoc, Bilder und Audiodateien waren schon länger dabei. 2026 kamen OpenDocument (.odt, .ods, .odp), die alten Binärformate von Word, Excel und PowerPoint, E-Books im EPUB-Format, E-Mails (.eml, .msg), XBRL für Geschäftsberichte und Videodateien dazu, aus denen Docling eine Abschrift der Tonspur samt Standbildern zieht.
  • Layout- und Tabellenerkennung durch eigene KI-Modelle: Das Layoutmodell Heron analysiert Überschriften, Spalten, Bilder und Fußnoten und hält die Lesereihenfolge auch bei verschachtelten Seiten ein. Die größere Variante heron-101 erreicht auf dem DocLayNet-Datensatz 78 % mAP (ein Genauigkeitsmaß der Layout-Erkennung) und liegt damit rund 24 % über dem früheren Docling-Layoutmodell (arXiv 2509.11720). TableFormer erkennt Tabellenstrukturen samt verbundener Zellen und kommt auf 93,6 % TEDS-Genauigkeit. Seit Juni 2026 leitet Docling die Überschriftenebenen außerdem aus den PDF-Lesezeichen ab und hält damit die Gliederung eines langen Handbuchs fest.
  • Diagramme samt Zahlenwerten: Balken-, Kreis- und Liniendiagramme wandelt Docling in Tabellen oder Code um und beschreibt sie zusätzlich in Worten. Seit Juli 2026 zieht es Diagramme aus Excel-, PowerPoint- und Word-Dateien direkt mit den zugrunde liegenden Zahlen heraus. Eine Auswertung bleibt damit auch dann durchsuchbar, wenn ihre Zahlen nur im Diagramm stehen.
  • Granite-Docling-Vision-Modell: Mit Granite-Docling-258M steht ein kompaktes Vision-Language-Modell unter Apache 2.0 bereit, das Seitenbild und Text gemeinsam auswertet und Layout, Tabellen und Formeln in einem Durchgang erkennt. Es hilft bei gescannten oder ungewöhnlich gesetzten Seiten, an denen reine Textextraktion scheitert. Für die Texterkennung selbst hat Docling im Juni 2026 NVIDIAs Nemotron-OCR angebunden und wählt das passende Verfahren auf Wunsch selbst aus.
  • DocLang als offenes Austauschformat: Im Juni 2026 hat die LF AI & Data Foundation zusammen mit IBM, NVIDIA und Red Hat eine Arbeitsgruppe für DocLang gestartet, ein offenes Dokumentformat für KI-Anwendungen, das Bedeutung und Seitengeometrie zugleich festhält. Docling liest und schreibt DocLang bereits, dazu das gepackte Archivformat .dclx mit den Seitenbildern. Damit hängt das Zwischenformat der eigenen Dokumente nicht an einem einzelnen Hersteller.
  • MCP-Server, API-Server und Ausgabeformate: Docling bringt einen Server für das Model Context Protocol (MCP) mit, über den Agenten-Anwendungen es als Werkzeug ansprechen. Über Docling Serve betreibst du es als REST-Dienst. Fertige Anbindungen gibt es für LangChain, LlamaIndex, CrewAI und Haystack. Exportiert wird nach Markdown, HTML, JSON, DocLang, DocTags, WebVTT oder direkt als zerlegte Textblöcke im JSONL-Format, wie eine RAG-Pipeline sie erwartet.

Preise und Tarife

Docling ist vollständig kostenlos und steht unter der MIT-Lizenz, die auch die kommerzielle Nutzung ohne Einschränkungen erlaubt. Installiert wird es mit pip install docling. Für einen kleineren Installationsumfang gibt es seit April 2026 docling-slim, dessen Kern nur 8 Pflicht-Abhängigkeiten mitbringt; PDF-Verarbeitung, Office-Formate, Texterkennung und Modelle kommen als einzeln wählbare Erweiterungen dazu. Für den Serverbetrieb gibt es Docling Serve als Docker-Container mit REST-Schnittstelle.

Bezahlen musst du also nur die Hardware, auf der Docling läuft. Für einzelne Dokumente genügt vorhandene Hardware, für große Bestände braucht es einen Server mit Grafikkarte, und wer die optionalen Bild- oder Sprachmodelle über eine externe Schnittstelle anbindet, zahlt dort pro Anfrage. Server- und GPU-Anbieter nennen ihre Preise netto, die Umsatzsteuer kommt darauf.

Für wen ist Docling geeignet?

  • Unternehmen, die ein RAG-System aufbauen: Docling übernimmt die Vorverarbeitung, also den ersten Schritt der Pipeline. Es wandelt Firmenhandbücher, Verträge oder technische Dokumentation in Markdown oder JSON um, bevor die Inhalte in die Vektordatenbank wandern. Mehr dazu im Artikel RAG-System aufsetzen: Die beste Konfiguration mit wenig Aufwand.
  • Behörden und Verwaltungen mit OpenDocument-Beständen: Seit Juni 2026 liest Docling auch .odt-, .ods- und .odp-Dateien. Wo LibreOffice oder OpenOffice im Einsatz ist, entfällt für die Aufbereitung des Altbestands der Umweg über die Microsoft-Formate. Nach dem einmaligen Herunterladen der Modelle arbeitet Docling ohne Internetverbindung. In abgeschotteten Verwaltungsnetzen ist das die Voraussetzung für einen Einsatz.
  • IT-Abteilungen mit großen Dokumentenbeständen: Für die maschinelle Aufbereitung ganzer Bestände steuerst du Docling wahlweise über die Python-Schnittstelle oder die Kommandozeile. Stapelverarbeitung und eine Fehlerklassifizierung sind eingebaut. Fehlgeschlagene Dateien bearbeitest du danach gezielt nach.

DSGVO und Datenschutz

Docling ist eine Programmbibliothek, die du in eure eigene Anwendung einbaust und die auf eurer eigenen Hardware rechnet. Es gibt keinen Anbieter, der eure Dokumente entgegennimmt, und damit auch keinen Auftragsverarbeitungsvertrag, den du abschließen müsstest.

Die Modelldateien lädt Docling beim ersten Lauf von Hugging Face, einem US-Dienst, und holt dort allein die Modelle ab. Der API-Server kann seit Juli 2026 zusätzlich Google Cloud Storage, Azure Blob Storage und Google Drive als Quelle oder Ziel ansprechen, und Bildbeschreibung wie Texterkennung kannst du an externe Schnittstellen auslagern. Im Standard ist davon nichts aktiv. Wer es einschaltet, gibt die Verarbeitung bewusst an einen Dritten ab und braucht dann die üblichen Verträge mit diesem Anbieter.

Der Code steht unter MIT-Lizenz, für die Modelle gelten jeweils eigene Lizenzen, bei Granite-Docling-258M etwa Apache 2.0. Getragen wird das Projekt seit Mai 2025 von der LF AI & Data Foundation der Linux Foundation, gestartet hat es das Team AI for Knowledge bei IBM Research in Zürich. Für Kanzleien, Kliniken und Verwaltungen, die Dokumente mit Personenbezug aufbereiten, ist Docling damit eine passende Wahl, solange die genannten externen Anbindungen ausgeschaltet bleiben.

Alternativen zu Docling

  • LlamaParse: LlamaParse erledigt dieselbe Aufgabe als Cloud-Dienst und kommt bei stark verschachtelten PDFs weiter, weil eine Kette aus Texterkennung, Bildanalyse und Sprachmodell dahintersteht. Dafür geht jedes Dokument an einen US-Anbieter, und oberhalb des Freikontingents von 10.000 Credits pro Monat wird es kostenpflichtig.
  • RAGFlow: RAGFlow bringt über die Aufbereitung hinaus gleich die ganze RAG-Pipeline mit Suche und Antwortgenerierung mit und hat über 86.000 GitHub-Sterne. Der Funktionsumfang ist größer, der Betriebsaufwand aber deutlich höher als bei einer Programmbibliothek.
  • Paperless-ngx: Paperless-ngx ist ein Dokumentenmanagementsystem mit Texterkennung, Archivierung und Weboberfläche. Es eignet sich für das Ablegen und Wiederfinden von Dokumenten. Als Vorstufe einer KI-Pipeline bleibt Docling die passendere Wahl.

Wofür Docling taugt

  • Über 35 Eingabeformate, von PDF und DOCX über OpenDocument und E-Mail bis zu Audio und Video
  • Eigene KI-Modelle für Layout, Tabellen und Diagramme (TableFormer 93,6 % TEDS-Genauigkeit)
  • Läuft ohne Anbieter dazwischen, eine Cloud-Version von Docling gibt es nicht
  • Getragen von der LF AI & Data Foundation, entwickelt bei IBM Research in Zürich

Wo es hakt

  • Python 3.10 oder neuer nötig, Bedienung nur über Kommandozeile oder Programmierschnittstelle
  • Für gescannte Dokumente muss zusätzlich eine Texterkennung eingerichtet werden
  • Ohne Grafikkarte wird die Verarbeitung großer Bestände langsam

Wofür es eingesetzt wird

Dokumente für RAG-Systeme aufbereiten · PDF-zu-Markdown-Konvertierung · Tabellen und Diagramme aus PDFs extrahieren · Dokumente für KI-Pipelines vorverarbeiten