Markdown-Dateien: Wissensmanagement für KI

Ein Produktionsbetrieb digitalisiert seine Wartungsanleitungen, richtet eine KI darauf ein und stellt nach 3 Wochen fest, dass sie nichts findet. Die 200-seitigen Handbücher liegen als PDF vor, jede Seite ein Bildscan. Für die KI steht darin kein einziges Wort, nur Pixel.

Derselbe Fall begegnet uns in Kanzleien und Praxen, dort mit Mandantenakten statt mit Wartungsplänen. Die Technik ist so weit, die Dokumente sind es nicht. Klar gegliedertes Markdown liefert in RAG-Systemen bis zu 35 % bessere Suchergebnisse als unstrukturierter Text oder rohes HTML und braucht dabei 20 bis 30 % weniger Tokens.

Was ist Markdown?

Markdown liegt zwischen dem Notizzettel und dem Layout-Dokument.

• Eine reine Textdatei (.txt) öffnet jedes Programm, aber sie kennt keine Gliederung. Eine KI sieht dort nicht, was Überschrift ist und was Fließtext.
• Ein Word-Dokument oder ein PDF enthält neben dem Text viele Angaben zum Aussehen, also Schriftarten, Ränder und Farben. Für die Verarbeitung ist das Ballast.
• Eine Markdown-Datei (.md) ist reiner Text, den ein paar Sonderzeichen gliedern.

In einer Markdown-Datei stehen Überschriften, Absätze und Aufzählungen, sonst nichts. Weil sie reiner Text ist, öffnet sie sich auch in 20 Jahren noch, unabhängig davon, welche Programme es dann gibt.

Dieselbe Warnung in 3 Formaten

Ein Auszug aus einer Wartungsanweisung, dreimal aufgeschrieben. Als reiner Text steht dort:

Sicherheitsventil Prüfung. Ventil 4 nur öffnen wenn Druck unter 5 bar sonst Gefahr.

Der KI fehlt hier der Zusammenhang. Ist das eine Anweisung, eine Notiz, eine Warnung?

Als HTML sieht dieselbe Zeile so aus:

<div class="alert"><span style="font-weight:bold">Warnung:</span> Ventil 4 nur öffnen...</div>

Jetzt ist die Auszeichnung da, dazu aber das ganze Gerüst darum. Die KI muss den Inhalt erst vom Code trennen, und bei einigen tausend Dokumenten summiert sich dieser Aufwand zu schlechteren Suchergebnissen.

In Markdown bleibt davon übrig:

**Warnung:** Ventil 4 nur öffnen, wenn Druck < 5 bar!

Die 2 Sternchen sagen, dass dieses Wort wichtig ist. Mensch und Maschine lesen dieselbe Zeile.

Die Zeichen, die Markdown kennt

Programmieren muss dafür niemand.

Für den Anfang genügt ein Texteditor. Wer die formatierte Ansicht daneben sehen will, nimmt Obsidian oder Typora, beide kostenlos. Obsidian hat inzwischen Erweiterungen wie Smart Connections, die den gesamten Notizbestand über ein RAG-System durchsuchbar machen.

Was ein RAG-System aus einer Markdown-Datei herausholt

Wer über KI im Unternehmen nachdenkt, landet meistens bei einem RAG-System, ausgeschrieben Retrieval Augmented Generation. Die KI durchsucht dabei erst die eigenen Firmenunterlagen und formuliert ihre Antwort danach aus dem, was sie gefunden hat.

Ein PDF ist für ein solches System oft ein einziger Textblock. Markdown zwingt den Verfasser zur Gliederung, und an den Ebenen der Überschriften erkennt das System, welche Absätze zusammengehören. Es zerlegt den Text dann an inhaltlichen Grenzen statt mitten im Satz.

Öffnen lässt sich eine Markdown-Datei mit jedem Texteditor. Es fällt keine Lizenz an, und kein Anbieter kann das Format ändern oder einstellen.

Weil es reiner Text ist, zeigt eine Versionsverwaltung jede Änderung Zeile für Zeile. Wer wann den Grenzwert in einer Anleitung von 5 auf 4 bar gesetzt hat, steht damit fest. Bei einer Word-Datei ist derselbe Vergleich kaum möglich.

Die Dateien sind außerdem klein. Ohne Layout-Angaben kostet jede Anfrage weniger Tokens, was bei einigen hundert Anfragen am Tag die Rechenkosten senkt, im eigenen Unternehmen genauso wie in der Cloud.

Word und PDF umwandeln, ohne abzutippen

Tausende Dokumente liegen als .docx oder .pdf vor, und niemand tippt sie ab. Dafür gibt es inzwischen Werkzeuge.

Docling von IBM ist unter den offenen Werkzeugen das gründlichste. Es wandelt PDF, Word, PowerPoint und Excel um, erkennt Tabellen, versteht Seitenlayouts und liefert Markdown ohne Layout-Reste. Seit Anfang 2026 bringt es mit Granite-Docling ein eigenes Modell für die Bilderkennung mit, das die Struktur eines Dokuments nach Angaben von IBM besser trifft als die reine Regelverarbeitung davor.

MarkItDown von Microsoft ist die leichtere Alternative für Office-Dateien. Es wandelt Word, PowerPoint, Excel und CSV um und arbeitet dabei komplett im Arbeitsspeicher, ohne Zwischendateien.

Viele Wikis und Notiz-Programme bringen den Weg schon mit. Confluence, Notion und Obsidian haben eine Funktion “Export als Markdown”. Sieh in deiner vorhandenen Software nach, bevor du eine eigene Umwandlungsstrecke aufbaust.

Pandoc ist das älteste dieser Werkzeuge und kostenlos. Es wandelt Word nach Markdown um und behält dabei meistens Überschriften, Listen und Fettdruck. Bilder muss man getrennt behandeln.

In unseren Projekten hat sich diese Reihenfolge bewährt.

1. Nimm die 20 bis 50 Dokumente, die am häufigsten gebraucht werden, etwa die aktuellen Sicherheitsrichtlinien oder die Sammlung häufiger Fragen. Das gesamte Archiv auf einmal führt zu nichts.
2. Lass Docling oder MarkItDown umwandeln und sieh dir das Ergebnis danach selbst an.
3. Grenzwerte, Maße und Druckangaben verrutschen bei der Umwandlung am ehesten. Genau die gehören einzeln nachgesehen.
4. Halt fest, welche Dokumente durch sind und wer sie künftig pflegt.

Ein Laufzettel im Kopf der Datei spart der KI die halbe Suche

Am Anfang einer Markdown-Datei stehen ein paar Zeilen, die auf der fertigen Seite niemand sieht, das sogenannte Frontmatter.

---
typ: wartungsanleitung
modell: X-200
abteilung: service
status: freigegeben
---

Fragt jemand nach den Wartungsinfos für die X-200, filtert die KI darüber vor und lässt die Anleitungen aller anderen Maschinen liegen.

Wie lang ein Abschnitt sein sollte, hängt daran, wie das System den Text zerlegt. KI-Modelle verarbeiten ihn in Blöcken. Nach Messungen vom Februar 2026 liefern Blöcke von 400 bis 512 Tokens mit 10 bis 20 % Überlappung die besten Trefferquoten, nämlich 85 bis 90 % der passenden Stellen. Viele Zwischenüberschriften helfen dabei, denn dann liegt der Schnitt auf einer Grenze, die auch inhaltlich eine ist.

Fettdruck bleibt den Begriffen vorbehalten, auf die es ankommt. Ist alles hervorgehoben, gewichtet die KI nichts mehr.

Braucht es die Umwandlung überhaupt noch?

KI-Modelle werden besser, also könnten sie PDF-Dateien und Bilder inzwischen doch direkt lesen. Ein Stück weit tun sie das schon. Modelle wie Gemini Embedding von Google legen Text, Bilder und PDF-Seiten in denselben Suchraum, und Verfahren wie ColPali behandeln eine PDF-Seite als Bildschirmfoto, ohne Texterkennung und ohne Zerlegen in Abschnitte.

Für die meisten Anwendungen im Unternehmen bleibt Markdown trotzdem die bessere Wahl. Bei einer Tabelle mit Drehmomenten oder Grenzwerten liefert korrekt ausgelesener Text zuverlässigere Zahlen als die Erkennung im Bild. Die Suche über Text läuft außerdem deutlich schneller, und das zählt, wenn ein Servicetechniker an der Anlage steht und wartet. Wer alles im eigenen Unternehmen rechnen will, kommt mit Text auf kleinerer Hardware aus, denn die bildverarbeitenden Modelle brauchen ein Vielfaches an Rechenleistung.

Bei einem Foto vom Whiteboard oder bei einer Präsentation reicht der direkte Weg über das Bild. Bei einem Fachdokument mit exakten Zahlen ist die Umwandlung nach Markdown der verlässlichere Weg.

Wo Markdown im Unternehmen sofort hilft

Besteht die Wissensbasis aus solchen Dateien, liest ein System wie AnythingLLM oder Dify sie direkt ein und macht sie durchsuchbar, ohne externen Dienstleister und ohne monatliche Lizenz für ein Dokumentenmanagementsystem. Wie ein solches RAG-System entsteht, steht im Artikel RAG-System mit wenig Aufwand.

Ab ein paar hundert Dateien wird daraus ein eigenes Vorhaben, denn jemand muss die Struktur festlegen und entscheiden, welche Altbestände die Umwandlung wert sind. Zur Ablagestruktur kommen Zugriffsrechte und die Pflege des Bestands.

Was passiert, wenn du nichts umstellst?

Jedes neue Dokument im falschen Format erhöht den Aufwand für das spätere KI-Projekt. Fällt die Entscheidung dafür erst in 2 Jahren, steht zuerst das Aufräumen des Archivs an, und das kostet dann Zeit und Geld, die bei einer frühen Umstellung gar nicht erst anfallen.

Wenn die Verarbeitung im Unternehmen bleiben soll, kann eine lokale KI die Markdown-Dateien auf einem eigenen Rechner auslesen. Dafür muss auch die Suche nach passenden Dokumenten lokal laufen.

Markdown trennt damit das Wissen von seiner Form. Was ein Dokument aussagt, steht im Text, und wie es aussieht, entscheidet das Programm, das es anzeigt. Bevor du in die nächste Software investierst, sieh dir an, ob deine Daten überhaupt in einer Form vorliegen, die eine Maschine lesen kann. Warum daran die meisten KI-Projekte hängen, steht im Artikel Warum die beste KI an deiner Ablage scheitert.

In unseren KI-Workshops arbeiten wir mit Teams an genau dieser Frage, also daran, welche der eigenen Dokumente eine Maschine heute schon lesen kann und welche nicht.

Eine Sache nimmt einem dabei kein Werkzeug ab. Wandelt man eine 200-seitige Anleitung um, stehen die Zeichnungen darin nur noch als Verweis auf eine Bilddatei, und ob der Verweis an der richtigen Stelle sitzt, sieht man erst beim Lesen. In unseren Projekten ist das der Teil, der am Ende doch von Hand läuft.