ChromaDB
im Test.

Wer ein RAG-System aufbauen will, braucht eine Vektordatenbank, und ChromaDB ist dafür ein einfacher Einstieg. Die Datenbank wandelt Dokumente in numerische Vektoren um und findet danach inhaltlich ähnliche Textstellen, auch wenn die Suchanfrage andere Wörter benutzt als das gesuchte Dokument. Für interne Wissensdatenbanken, FAQ-Bots und Dokumentensuche reicht das aus. Chroma nennt für den selbst gehosteten Einzelserver rund 1,7 Mio. Einträge bei 8 GB Arbeitsspeicher und rund 7,5 Mio. bei 32 GB, gemessen mit 1024-dimensionalen Embeddings und kurzen Dokumenten.

Wichtigste Funktionen

• Semantische Ähnlichkeitssuche: ChromaDB wandelt Texte in hochdimensionale Vektoren um und findet bei einer Suchanfrage inhaltlich ähnliche Einträge, unabhängig von der genauen Wortwahl. Das ist der Kern jedes RAG-Systems.
• Volltext, reguläre Ausdrücke und Metadatenfilter: Neben der Vektorsuche durchsucht ChromaDB die Dokumente nach exakten Zeichenketten und nach Suchmustern, etwa nach allen Einträgen mit einer E-Mail-Adresse im Text. Metadatenfilter schränken das Ergebnis zusätzlich auf eine Abteilung oder einen Zeitraum ein. Aktenzeichen, Artikelnummern und Normbezeichnungen triffst du so zuverlässig, wo reine Vektorsuche danebengreift.
• Automatisches Embedding: Du kannst Texte direkt einspeisen. ChromaDB übernimmt die Umwandlung in Vektoren automatisch über integrierte Embedding-Funktionen. Das spart einen eigenen Arbeitsschritt bei der Aufbereitung.
• Vier Betriebsarten: ChromaDB läuft im Arbeitsspeicher (für Tests), lokal persistent im Dateisystem, über Docker als Server oder als verwalteter Cloud-Dienst. Du startest mit der kleinsten Variante und wechselst später, ohne den Code zu ändern.
• Search API mit hybrider Rangfolge: In Chroma Cloud kombiniert eine neue Abfrage-Schnittstelle dichte und dünnbesetzte Vektoren (BM25, SPLADE) über ein Verfahren, das beide Trefferlisten zu einer gemeinsamen Rangfolge verschmilzt (Reciprocal Rank Fusion). Dazu kommen eigene Rangfolge-Ausdrücke, Gruppierung nach Metadaten und Stapelabfragen. Für den selbst gehosteten Einzelserver ist die Schnittstelle angekündigt, aber noch nicht verfügbar.
• Python, TypeScript und Rust: ChromaDB hat offizielle Clients für diese 3 Sprachen. Die Python-Integration ist besonders ausgereift und funktioniert direkt mit LangChain, LlamaIndex und anderen KI-Bibliotheken.

Preise und Tarife

Die Fassung für den eigenen Server ist unter der Apache-2.0-Lizenz vollständig kostenlos, auch für kommerzielle Anwendungen. Das Projekt hat über 28.000 Sterne auf GitHub, entsprechend gut stehen die Chancen, bei einem Problem auf eine vorhandene Antwort zu stoßen. Kosten entstehen nur für den Server und, falls du ein externes Embedding-Modell einbindest, für dessen API-Aufrufe.

Chroma Cloud rechnet nach Verbrauch ab. Schreiben kostet 2,15 Euro je GiB, also je gut 1 Gigabyte (2,50 USD), Speicher 0,28 Euro je GiB und Monat (0,33 USD), zurückgelieferte Daten 0,08 Euro je GiB (0,09 USD). Abfragen werden nach durchsuchter Datenmenge berechnet und fallen mit 0,0075 USD je TiB kaum ins Gewicht. Der Preisrechner von Chroma kommt bei 1 Mio. geschriebenen Dokumenten, 6 Mio. gespeicherten Dokumenten und 10 Mio. Abfragen im Monat auf rund 68 Euro Verbrauch (79 USD).

Darüber steht der Starter-Plan, der keine Grundgebühr kostet, mit 5 USD Guthaben startet und 10 Datenbanken und 10 Mitglieder erlaubt. Der Team-Plan liegt bei rund 215 Euro pro Monat (250 USD), darin sind 100 USD Verbrauch enthalten, dazu kommen 100 Datenbanken, 30 Mitglieder, Slack-Support und der SOC-2-Type-II-Nachweis. Enterprise wird individuell verhandelt und umfasst eigene Cluster, den Betrieb in der eigenen Cloud (BYOC) und Zusagen zur Verfügbarkeit.

Wir empfehlen den Start zum Betrieb auf dem eigenen Server. Bei vorhandener Infrastruktur ist das keine nennenswerte Hürde, und beide Varianten nutzen dieselbe Codebasis. Eine Bindung an einen einzelnen Anbieter entsteht dadurch nicht. Die Tarifbeträge sind Nettopreise, dazu kommt die Umsatzsteuer.

Für wen ist ChromaDB geeignet?

• Entwicklerteams, die RAG-Systeme bauen: ChromaDB verlangt vor der ersten Abfrage keine Datenbankeinrichtung. Ein funktionierendes Retrieval-System steht in wenigen Zeilen Code, und du baust es danach schrittweise aus.
• Unternehmen mit internen Wissensdatenbanken: Wer Firmendokumente, Handbücher oder FAQs für einen KI-Assistenten durchsuchbar machen will, kommt mit ChromaDB ohne tiefes Datenbankwissen ans Ziel. Die Mustersuche hilft dort, wo Aktenzeichen oder Normbezeichnungen exakt getroffen werden müssen.
• Teams, die einen RAG-Ansatz erst erproben: Ob Retrieval für eine bestimmte Aufgabe trägt, zeigt sich mit ChromaDB schneller als mit schwergewichtigeren Systemen, die erst eingerichtet werden wollen. Der Wechsel von der lokalen Datei zum Server kostet später nur eine geänderte Zeile im Client.

DSGVO und Datenschutz

In der Fassung für den eigenen Server liegen alle Daten auf dem eigenen Server, und ChromaDB spricht von sich aus keinen externen Dienst an. Seit Version 1.5.4 vom März 2026 sammelt der Open-Source-Server auch keine Produkttelemetrie mehr, vorher ging eine anonymisierte Nutzungsstatistik an den Hersteller. Die Apache-2.0-Lizenz erlaubt den uneingeschränkten kommerziellen Einsatz.

Für Chroma Cloud gibt es seit April 2026 neben der bisherigen Region AWS us-east-1 eine zweite auf Google Cloud in europe-west1 (Belgien). Jede Datenbank bleibt vollständig in der Region, die du beim Anlegen wählst, und die EU-Region steht in allen Tarifen zur Verfügung. Chroma Sync, die Datenbank-Befehle der Kommandozeile und der Search Agent fehlen dort allerdings noch.

Betreiber bleibt Chroma Inc. als US-Unternehmen. Die Regeln aus Kapitel V der DSGVO für Übermittlungen in Drittländer prüfst du deshalb auch bei europäischem Standort. Chroma hat eine SOC-2-Type-II-Prüfung abgeschlossen und weist AWS, Vercel, Honeycomb und PostHog als Dienstleister aus. Ein Auftragsverarbeitungsvertrag gehört zu den Vertragsdokumenten, ist aber erst nach Anmeldung einsehbar.

Für Anwendungen mit personenbezogenen Daten ist Betrieb auf dem eigenen Server auf einem EU-Server weiterhin die Variante ohne Drittlandfrage. Wer die Cloud nutzen will, legt die Datenbank in europe-west1 an und klärt vorher, ob die dort fehlenden Funktionen im eigenen Anwendungsfall stören.

Alternativen zu ChromaDB

• Qdrant: Bei Datenmengen von Hunderten Millionen oder Milliarden Vektoren skaliert Qdrant besser und bringt Rollenrechte sowie ein länger erprobtes Cloud-Angebot mit.
• R2R: R2R liefert die vollständige RAG-Kette mit Einlesen der Dokumente, Suche und Antwortgenerierung als fertiges System. Bei ChromaDB baust du diese Kette selbst zusammen.
• AnythingLLM: AnythingLLM bringt eine grafische Oberfläche für RAG mit lokalen Dokumenten mit und kommt ohne eigenen Programmcode aus. Intern greift die Oberfläche ebenfalls auf eine Vektordatenbank zurück.