Warum die beste KI an deiner Ablage scheitert
Wenn die KI auf die Frage nach dem Preis für Artikel A eine Zahl von 2017 nennt, liegt das nicht am Modell. Es liegt an den 3 Fassungen derselben Preisliste, die in deinen Ordnern liegen, und keine davon sagt, welche gilt.
Gartner rechnet damit, dass 60 % aller KI-Projekte an fehlender Datenqualität scheitern. Nicht an der Technik, nicht am Budget, nicht am fehlenden Wissen im Team. Eine Untersuchung von Precisely und der Drexel University zeigt dazu eine auffällige Lücke: 88 % der befragten Führungskräfte halten ihre Daten für KI-tauglich, und 43 % nennen genau diese Daten als größtes Hindernis bei der Umsetzung.
Dieselbe Lücke sehen wir bei unseren Kunden. Der Wille ist da, die Werkzeuge laufen, und dann antwortet das System auf die Frage nach dem Preis für Artikel A mit einer Zahl aus dem Jahr 2017. Die Technik hat dabei fehlerfrei gearbeitet. Sie hat die Datei gefunden, die am besten zur Frage passte, und niemand hatte hinterlegt, dass diese Datei seit 9 Jahren nicht mehr gilt.
Eine KI sortiert das Chaos nicht
Der Glaube hält sich hartnäckig, ein Sprachmodell sei schlau genug, um aus einem gewachsenen Ordner das Richtige herauszufischen. Alles hineinwerfen, die KI sucht sich schon das Passende.
Liegen im selben Ordner “Final_V3.pdf” von gestern, “Final_V2_Korrektur.pdf” von vorletzter Woche und “Scan_0815.pdf” ohne erkennbaren Inhalt, dann steht das System vor derselben Frage wie ein Mensch, nämlich welche Datei die gültige ist. Es kann sie nicht beantworten, denn in den Dateien selbst steht die Antwort nicht. Also nimmt es die, die zur Frage am besten passt, und das ist im Zweifel die falsche.
Ein Sprachmodell verstärkt, was es vorfindet. Es macht Ordnung schneller nutzbar und Chaos schneller sichtbar.
Was die Zahlen sagen
Das “Data, BI and Analytics Trend Monitor 2026” von BARC führt die Pflege der Datenqualität wieder auf Platz 1 der wichtigsten Themen. 77 % der befragten Organisationen halten ihre eigene Datenqualität für durchschnittlich oder schlechter. Nach Gartner kostet schlechte Datenqualität ein Unternehmen im Schnitt 15 % seines Jahresumsatzes.
Für den Mittelstand steckt darin auch eine gute Ausgangslage. Ein Konzern mit Terabytes an Altbestand räumt Jahre, ein Unternehmen mit 40 Leuten bringt seine Ablage in wenigen Tagen in Form. Der Aufwand ist überschaubar, die Wirkung nicht.
“Das ist historisch gewachsen” ist der Satz, der in Erstgesprächen am häufigsten fällt, wenn wir uns die Laufwerke ansehen. Gemeint ist meistens, dass sich seit Jahren niemand getraut hat, etwas zu löschen, weil unklar war, ob noch jemand daran hängt. Für ein Sprachmodell ist genau das der Unterschied zwischen einer verlässlichen und einer beliebigen Antwort.
Für welche Dateien sich der Aufwand lohnt
| Eignung | Dateien |
|---|---|
| Sofort nutzbar | durchsuchbare PDFs, Word-Dateien und Textdateien mit Überschriften, Handbücher, Prozessbeschreibungen, Fragenlisten, aktuelle Preislisten |
| Nach Aufbereitung nutzbar | Scans nach Texterkennung, Excel-Tabellen als CSV, alte Word-Dateien nach dem Entfernen der Dubletten |
| Kaum nutzbar | handschriftliche Notizen als Foto, Dokumente ohne Datum, mehrere identische Fassungen ohne Kennzeichnung |
Als Faustregel gilt: Was ein Mensch nicht in 30 Sekunden als aktuell oder überholt einordnen kann, ordnet auch das System nicht ein.
Die 3 Schritte, die den Unterschied machen
Bevor Geld in Software fließt, gehen ein paar Tage in die Ablage.
Löschen und archivieren
Für ein Sprachmodell ist die Preisliste von 2019 genauso gültig wie die von 2026, solange beide im selben Ordner liegen. Alles, was seit Jahren niemand mehr geöffnet hat, kommt in einen Ordner “Archiv”, und dieser Ordner wird von der Suche ausgenommen. Dubletten fliegen raus, für jede Information bleibt eine verbindliche Datei übrig.
Wichtig ist, dass das Archiv wirklich aus der Suche fällt. Ein Ordner, den das System weiter mitliest, ist kein Archiv, sondern nur ein Ordner mit einem beruhigenden Namen. In den meisten Systemen wird dafür ein Pfad von der Aufnahme ausgenommen, und das gehört beim Einrichten festgelegt und nicht später.
Der Aufwand ist geringer, als er klingt. Ein halber Tag je Abteilung räumt in der Regel die gröbsten Altlasten weg. Am längsten dauert die Entscheidung, wer entscheiden darf, was weg kann. Diese Rolle braucht einen Namen, sonst bleibt am Ende alles liegen.
Dateien benennen, die etwas sagen
Doku_neu.docx hilft niemandem. Anleitung_X200_2025.docx schon, und zwar dem System wie den Kollegen. Das Jahr im Namen ist der wichtigste Teil, denn daran erkennt die Suche, welche von 2 ähnlichen Dateien die jüngere ist.
Das Änderungsdatum der Datei hilft dabei nicht weiter. Es springt auf das heutige Datum, sobald jemand das Dokument nur öffnet und wieder speichert, und beim Kopieren auf ein anderes Laufwerk sowieso. Was im Namen und im Dokument selbst steht, überlebt solche Vorgänge.
Text, den ein Rechner lesen kann
In vielen Firmen liegen Gigabytes an eingescannten Lieferscheinen, schief kopiert, handschriftlich ergänzt, als Bild gespeichert. Für die Suche existiert dieser Bestand nicht, weil dort kein Text steht, sondern ein Foto von Text.
Eine Texterkennung ändert das. Docling von IBM Research macht das kostenlos und quelloffen, für PDF ebenso wie für Word, PowerPoint und Excel. Wie die Dateien danach am besten abgelegt werden, steht in Markdown-Dateien: Wissensmanagement für KI.
Eine einzige verlässliche Quelle heißt: Für jede Information gibt es genau einen Ort, an dem die gültige Fassung steht. Statt “Preisliste_2026_final_v2_neu.xlsx” auf 3 Laufwerken existiert eine Datei, und alle anderen sind gelöscht. Jede Fassung, die daneben liegen bleibt, ist eine Antwort, die dein System eines Tages ausspielt.
Was sich beim Vorbereiten für RAG geändert hat
Wer eine RAG-Lösung für sein Firmenwissen aufbaut, zerlegt die Dokumente vorher in Textblöcke. Diese Zerlegung folgt heute der Gliederung des Dokuments, also Überschriften, Kapiteln und Themenblöcken, und nicht mehr einer festen Zeichenzahl. Für einfache Faktenfragen liegen die Blöcke bei 256 bis 512 Token, für Zusammenhänge über mehrere Absätze hinweg bei bis zu 1.024.
Wichtiger als die Blockgröße ist nach unserer Erfahrung das Embedding-Modell, also das Modell, das die Textblöcke in Zahlenreihen übersetzt und damit bestimmt, was bei einer Frage überhaupt gefunden wird. Für deutschsprachige Bestände zahlt sich ein Modell aus, das auf Deutsch trainiert wurde.
Eines hat sich nicht geändert. Für eine brauchbare KI im Unternehmen braucht niemand Millionen Datensätze. In unseren Projekten reichen 50 gepflegte PDFs, damit die Suche im Tagesgeschäft brauchbare Antworten liefert.
Wo du anfängst
Nicht jede Abteilung muss zuerst dran sein. Räume dort auf, wo das System als Erstes helfen soll.
Im Kundendienst sind das die Produktunterlagen, die Fragenlisten und die Formulare für Reklamationen. In Einkauf und Produktion die Lieferantenangaben, die technischen Beschreibungen und die Wartungshandbücher. Im Vertrieb die aktuellen Preislisten, die Produktbeschreibungen und die Angebotsvorlagen.
Ist dieser eine Bereich in Ordnung, läuft dort die KI an, und nach ein paar Wochen weißt du, ob sich der Aufwand für den nächsten Bereich lohnt.
Erst aufräumen, dann automatisieren
Aufräumen ist die unspektakulärste Arbeit in jedem KI-Projekt und die einzige, ohne die der Rest nicht funktioniert. Wer sie erledigt, wird nebenbei Altlasten los, die seit Jahren stören.
Bei der Datenaufbereitung helfen wir, und in der KI-Beratung fangen wir meistens genau hier an, mit einer Bestandsaufnahme der Ablage, bevor über Werkzeuge gesprochen wird. Wo dein Unternehmen dabei steht, zeigt das KI-Readiness-Assessment.