RAG & Vektordatenbanken
RAGFlow
im Test.
RAGFlow ist eine quelloffene RAG-Engine von InfiniFlow aus Shanghai. Vor dem Extrahieren analysiert sie den Aufbau einer Seite und erkennt dabei Layout, Tabellen, Abbildungen und Überschriften-Hierarchie. Damit kommt sie auch mit schlecht strukturierten PDFs, Scans und technischen Handbüchern zurecht und schneidet Dokumente in brauchbarere Abschnitte als eine reine Textextraktion.
Stand 4. August 2026
| Preismodell | Freemium, Selbst gehostet kostenlos unter Apache 2.0, RAGFlow Cloud mit Gratistarif und Bezahltarifen ab rund 25 Euro netto im Monat |
|---|---|
| Betriebsort | beides möglich |
| DSGVO | im Einzelfall zu prüfen |
| Quelloffen | ja, Apache-2.0 |
An gescannten Handbüchern, Verträgen mit Tabellen und zweispaltigen PDFs werden RAG-Werkzeuge ungenau, die eine Seite nur als Fließtext auslesen. Beim Extrahieren geht der Zusammenhang verloren. Ein Zahlenwert landet ohne seine Spaltenüberschrift im Index, ein Absatz reißt mitten im Satz ab, und das Sprachmodell antwortet später auf einer Grundlage, die so nie im Dokument stand. RAGFlow nimmt deshalb den Umweg über eine Bildanalyse der Seite.
Wichtigste Funktionen
- Bildanalyse vor der Textextraktion: Jede Seite läuft zuerst durch Modelle für Layouterkennung, Texterkennung und Tabellenstruktur, die im Docker-Abbild mitgeliefert werden. Erst danach entstehen die Textabschnitte. Bei Scans und mehrspaltigen Seiten ist der Unterschied zu einer reinen Textextraktion gut sichtbar.
- Sichtbare Textabschnitte: In der Oberfläche siehst du, in welche Abschnitte ein Dokument zerfallen ist, und besserst einzelne davon von Hand nach. Läuft die Aufteilung schief, merkst du das schon vor der ersten Frage.
- Kombinierte Suche: Volltextsuche nach exakten Begriffen und semantische Vektorsuche laufen zusammen und werden gemeinsam bewertet. Artikelnummern, Aktenzeichen und Fachvokabular findet die Volltextseite zuverlässig, frei umschriebene Fragen die Vektorseite.
- 35 angebundene Datenquellen: Neben dem Hochladen von Dateien holt RAGFlow Inhalte aus SharePoint, OneDrive, Outlook, Teams, Confluence, Jira, WebDAV und Seafile. Die Anbindung an Microsoft 365 und Salesforce kam mit Version 0.26 im Juni 2026 dazu und macht das Werkzeug für Unternehmen interessant, deren Wissen ohnehin in diesen Systemen liegt.
- Agenten und MCP: Über einen visuellen Editor verbindest du die Suche mit Arbeitsabläufen. Das Model Context Protocol, eine offene Schnittstelle für den Zugriff von KI-Agenten auf externe Werkzeuge, ist in beide Richtungen umgesetzt, RAGFlow arbeitet also als MCP-Server und bindet zugleich fremde MCP-Werkzeuge ein. Eine Browser-Komponente lässt einen Agenten selbstständig Webseiten ansteuern.
- Freie Modellwahl: Kein Anbieter ist vorbelegt. Bei der Einrichtung trägst du selbst ein, welcher Dienst antworten soll, von einem lokal betriebenen Modell über einen europäischen Anbieter bis zu OpenAI oder Anthropic. Ein Wechsel ändert nichts an der bereits aufgebauten Wissensbasis.
Preise und Tarife
Der Quellcode steht unter Apache 2.0 und ist kostenfrei, auch für kommerzielle Nutzung. Geld kostet der Betrieb. RAGFlow bringt neben der eigenen Anwendung eine Datenbank, einen Suchindex und einen Objektspeicher mit, und die mitgelieferte Docker-Konfiguration setzt für einen einzelnen Container ein Limit von rund 8 GB Arbeitsspeicher. Dazu kommt das gewählte Sprachmodell, entweder als Rechnung eines Anbieters oder als eigene Hardware.
Seit März 2026 betreibt InfiniFlow unter cloud.ragflow.io eine eigene Cloud, die die frühere Testinstanz demo.ragflow.io abgelöst hat. Der Gratistarif deckt 5 Anwendungen, einen Platz, 0,1 GB Speicher und 500 Guthabenpunkte im Monat ab, einen API-Schlüssel gibt es dort nicht. Starter kostet derzeit rund 25 Euro im Monat, ausgewiesen als 29 statt regulär 59 USD, und erhöht auf 50 Anwendungen, 5 Plätze, 5 GB und 5.000 Guthabenpunkte. Pro liegt bei rund 111 Euro, ausgewiesen als 129 statt 259 USD, mit 20 Plätzen, 50 GB und 20.000 Guthabenpunkten.
Das Projekt zählt über 86.000 Sterne auf GitHub, die aktuelle Fassung 0.26.4 stammt vom 07.07.2026 und der letzte Codestand vom 04.08.2026. Für den Betrieb in der eigenen Umgebung mit Unterstützung durch den Hersteller gibt es einen Unternehmenstarif ohne veröffentlichten Preis. Alle Tarifpreise weist InfiniFlow ohne Steuer aus, die Umsatzsteuer kommt also noch hinzu.
Für wen ist RAGFlow geeignet?
- Unternehmen mit gescannten Altbeständen: Wer Handbücher, Produktdokumentationen oder eingescannte Verträge durchsuchbar machen will, bekommt hier eine deutlich bessere Dokumentenanalyse als bei einfacheren RAG-Werkzeugen. Je unordentlicher die Vorlagen, desto größer der Abstand.
- IT-Abteilungen mit eigener Container-Umgebung: RAGFlow setzt Docker voraus und besteht aus mehreren Diensten, die zusammenarbeiten müssen. Eine Abteilung, die solche Aufbauten ohnehin betreibt, hat damit keine Mühe und behält die volle Kontrolle über die Datenhaltung.
- Teams, die den Modellanbieter selbst festlegen wollen: Weil nichts vorbelegt ist, stellst du RAGFlow ohne Umbau auf ein lokal betriebenes Modell oder einen europäischen Anbieter um. Gibt es im Unternehmen eine feste Vorgabe zum Modellbetrieb, kommst du hier ohne Sonderweg aus.
DSGVO und Datenschutz
Beim Betrieb auf eigenen Servern verhält sich RAGFlow ungewöhnlich ruhig nach außen, denn im Quelltext steckt keine Telemetrie, weder ein Analysedienst noch eine Abfrage neuer Versionen beim Hersteller. Die eingebaute Ablaufverfolgung schreibt an einen selbst betriebenen Jaeger-Dienst und ist in der mitgelieferten Konfiguration abgeschaltet. Ein Modellanbieter ist nicht voreingestellt, die Weboberfläche lädt keine fremden Schriften oder Skripte, und alle Schnittstellen verlangen eine Anmeldung. Die einzige Verbindung, die ohne Zutun entsteht, ist das Herunterladen der Bilderkennungsmodelle von Hugging Face, falls sie im Abbild fehlen.
Die mitgelieferte Docker-Konfiguration trübt dieses Bild. Sie startet den Verwaltungsdienst mit und legt dabei ein Administratorkonto admin@ragflow.io mit dem Passwort admin an, erreichbar auf Port 9381 an allen Netzwerkschnittstellen. Die Dokumentation nennt beide Angaben offen und rät, das Passwort nach der ersten Anmeldung zu ändern, und ab Werk kann sich jeder selbst registrieren, der die Adresse erreicht. Beides gehört vor dem ersten Produktivbetrieb geradegerückt, sonst steht eine Dokumentensammlung mit öffentlich bekanntem Passwort im Netz.
Hinter RAGFlow steht InfiniFlow, ein 2023 gegründetes Unternehmen aus Shanghai. Der Auftragsverarbeitungsvertrag der Hersteller-Cloud liegt ohne Anmeldung im Volltext vor, enthält die EU-Standardvertragsklauseln und schließt aus, dass Kundendaten in eigene Modelle des Herstellers einfließen. Einen Verarbeitungsort nennt er nicht, die dort zugesagte Liste der Unterauftragnehmer ist nirgends veröffentlicht, und die Datenschutzerklärung verweigert die Angabe von Firmenname und Sitz ausdrücklich. In den Nutzungsbedingungen stehen an der Stelle für Rechtswahl und Gerichtsstand bis heute die unausgefüllten Platzhalter der Vorlage.
Für die Bewertung auf dieser Seite steht RAGFlow deshalb ohne DSGVO-Abzeichen. Auf eigenen Servern und mit einem Modell aus Europa oder aus dem eigenen Rechenzentrum ist der Einsatz gut vertretbar, denn dann gibt es keinen Auftragsverarbeiter, dessen Standort und Vertragswerk zu prüfen wären. Bindest du ein Modell von OpenAI, Anthropic oder einem chinesischen Anbieter an, gelten für die Anfragen deren Bedingungen. Von der Hersteller-Cloud raten wir ab, solange weder Verarbeitungsort noch Gerichtsstand feststehen.
Alternativen zu RAGFlow
- AnythingLLM: Deutlich schneller aufgesetzt und mit einfacherer Oberfläche. Passt, solange die Dokumente ordentlich strukturiert sind, und fällt bei Scans und mehrspaltigen Seiten zurück.
- R2R: Entwicklerorientierter RAG-Baukasten mit REST-API und automatisch erzeugten Wissensgraphen. Bringt mehr Bausteine für eigene Anwendungen mit, hat aber keine vergleichbar ausgebaute Oberfläche für die Pflege der Wissensbasis.
- Dify: Plattform für KI-Anwendungen mit eingebauter RAG-Funktion und visuellem Editor für Arbeitsabläufe. Sie ist breiter angelegt, erreicht bei schwierigen PDFs aber nicht die Trennschärfe von RAGFlow.
Wofür RAGFlow taugt
- Tiefe Dokumentenanalyse für Tabellen, Spalten, Grafiken und Seitenlayouts
- Sichtbare Textabschnitte in der Oberfläche, manuelle Nachbearbeitung möglich
- Kombinierte Suche aus Volltext (BM25) und semantischer Vektorsuche
- 35 Anbindungen an Datenquellen wie SharePoint, Outlook, Confluence und WebDAV
- Weder Telemetrie noch Versionsabfrage beim Hersteller, der Modellanbieter ist frei wählbar
Wo es hakt
- Höherer Aufwand bei der Einrichtung als bei einfacheren Werkzeugen wie AnythingLLM
- Braucht viel Arbeitsspeicher, weil Volltext-Index und Bildanalyse nebeneinander laufen
- Die mitgelieferte Docker-Konfiguration legt ein Administratorkonto mit Standardpasswort an
- Hersteller sitzt in Shanghai, für die Hersteller-Cloud nennt kein Dokument einen Verarbeitungsort
Wofür es eingesetzt wird
Wissensdatenbank aus komplexen PDFs aufbauen · Technische Handbücher durchsuchbar machen · Interne Dokumentensuche mit KI · RAG-Chatbot für strukturierte Dokumente