Langfuse
im Test.

Eine KI-Anwendung, die im Test brauchbare Antworten liefert, verhält sich in Produktion anders. Die Antwortqualität sinkt, während die Rechnung beim Modellanbieter wächst, und ohne Aufzeichnung bleibt offen, welcher Prompt oder welcher Arbeitsschritt dahintersteckt. Langfuse protokolliert deshalb jeden Aufruf mit allen Arbeitsschritten und macht ihn durchsuchbar, ähnlich der Fehlerüberwachung Sentry für klassische Software, nur zugeschnitten auf Sprachmodelle. Version 4 vom 29.07.2026 hat das Datenmodell von ganzen Abläufen auf einzelne Arbeitsschritte umgestellt.

Wichtigste Funktionen

• Aufzeichnung jedes Aufrufs: Jeder Aufruf landet als Trace in der Datenbank, also als vollständiges Ablaufprotokoll mit Prompt, Antwort, Modell, Latenz und Kosten. Bei mehrstufigen Abläufen wie RAG-Pipelines oder Agenten erscheint jeder Arbeitsschritt einzeln. So grenzt du einen Fehler auf den auslösenden Schritt ein.
• Prompt-Verwaltung mit Versionierung: Prompts liegen zentral in Langfuse, du versionierst sie dort und probierst sie im eingebauten Testbereich direkt aus. Weil die Anwendung sie über die Schnittstelle lädt, braucht eine geänderte Formulierung keine neue Softwareversion.
• Bewertung der Antwortqualität: Antworten bewertest du manuell, lässt sie von einem zweiten Sprachmodell prüfen (LLM-as-a-Judge) oder messen sie über eigene Kennzahlen. Dazu kommt Rückmeldung aus der eigenen Anwendung, etwa ein Daumen nach unten, den Langfuse direkt dem auslösenden Prompt zuordnet. Seit Version 4 laufen diese Bewertungen auf Ebene einzelner Arbeitsschritte und kommen ohne eigene Datenbankabfrage je Bewertung aus.
• Kostenauswertung nach Modell und Nutzer: Die Token-Kosten schlüsselt Langfuse nach Modell, Nutzer, Funktion oder Zeitraum auf. Teure Abfragen fallen dadurch auf, bevor die Monatsrechnung kommt.
• Monitore und Alarme: Schwellenwerte auf Latenz, Kosten, Fehlerzahl oder Bewertungsergebnisse lösen eine Meldung aus, wahlweise nach Slack, an einen Webhook oder als GitHub-Action. E-Mail gibt es als Kanal nicht.
• Volltextsuche über Eingaben und Ausgaben: Die Suche greift auf Eingabe, Ausgabe und Metadaten von Traces und Arbeitsschritten zu. Eine auffällige Antwort findest du damit über ihren Wortlaut wieder, ohne die passende Trace-Kennung zu kennen. Volltextsuche, Suchleiste und Monitore standen bis Version 3 nur in der Cloud bereit und sind seit Version 4 auch in selbst gehosteten Installationen verfügbar.

Preise und Tarife

Selbst gehostet ist Langfuse kostenlos, mit allen Kernfunktionen und ohne Mengenbegrenzung. Einen Lizenzschlüssel brauchen nur Zusatzfunktionen für größere Organisationen, etwa Rollenrechte je Projekt, Prüfprotokolle, Aufbewahrungsregeln, serverseitiges Schwärzen personenbezogener Felder und SCIM für die Nutzerverwaltung. Diese Enterprise-Fassung rechnet der Hersteller seit der Übernahme zusätzlich zum ClickHouse-Vertrag ab und nennt dafür keine Listenpreise.

In der Cloud ist der Hobby-Tarif dauerhaft kostenlos, mit 50.000 Einheiten im Monat, 30 Tagen Datenzugriff und 2 Nutzern. Core kostet rund 25 Euro im Monat (29 USD) und hebt den Zugriff auf 90 Tage bei unbegrenzter Nutzerzahl. Pro liegt bei rund 171 Euro (199 USD) mit 3 Jahren Zugriff, Enterprise beginnt bei rund 2.149 Euro (2.499 USD).

Alle 3 Bezahltarife enthalten 100.000 Einheiten im Monat, darüber kosten weitere 100.000 Einheiten rund 7 Euro (8 USD) und ab 50 Millionen Einheiten rund 5 Euro (6 USD). Ein Team-Zusatzpaket für Pro kostet rund 258 Euro (300 USD).

Eine Einheit ist die Summe aus Traces, einzelnen Arbeitsschritten und Bewertungen. Das Rechenbeispiel aus der Langfuse-Dokumentation kommt bei 20.070 Traces, 119.500 Arbeitsschritten und 561 Bewertungen auf 140.131 Einheiten im Monat und liegt damit über dem Kontingent jedes Bezahltarifs. Auf jede aufgezeichnete Anfrage entfallen in diesem Beispiel rund 7 Einheiten. Wer Agenten mit vielen Werkzeugaufrufen betreibt, rechnet vor der Tarifwahl besser selbst nach.

Langfuse weist die Tarife ohne Steuer aus, die genannten Euro-Beträge sind also netto und die deutsche Umsatzsteuer kommt hinzu.

Für wen ist Langfuse geeignet?

• Teams, die KI-Anwendungen selbst entwickeln und betreiben: In einer RAG-Pipeline oder einem Agenten hängt die Antwort an einer Kette von Schritten, und schon ein Schritt mit den falschen Dokumenten verdirbt das Ergebnis. Die schrittweise Aufzeichnung zeigt, an welcher Stelle die Kette bricht.
• Unternehmen, die ihre Modellkosten überblicken wollen: Wenn mehrere Funktionen verschiedene Modelle nutzen, kommt vom Anbieter am Monatsende trotzdem nur eine Summe. Langfuse schlüsselt sie nach Modell, Funktion und Nutzer auf und meldet über einen Monitor, sobald ein Betrag eure Schwelle übersteigt.
• Behörden und Kanzleien mit Datenschutzauflagen: Die MIT-Lizenz erlaubt den Betrieb im eigenen Rechenzentrum, kostenfrei und ohne Mengenbegrenzung. Die Cloud-Variante scheidet für diese Gruppe aus, weil Betreiber und Vertragsrecht seit Januar 2026 in den USA liegen.

DSGVO und Datenschutz

Langfuse steht unter MIT-Lizenz und läuft vollständig auf eurer eigenen Hardware. Du installierst die Plattform über Docker Compose oder Kubernetes und brauchst dafür Postgres, ClickHouse, Redis und einen S3-kompatiblen Speicher. In dieser Variante bleibt die gesamte Verarbeitung dort.

Für die Cloud gilt das nicht. Am 16.01.2026 hat ClickHouse Langfuse übernommen, und der Cloud-Betrieb steht seither im Rechtsrahmen des US-Anbieters. Die EU-Region läuft auf AWS in Irland (eu-west-1), daneben gibt es Regionen in Oregon und Tokio sowie eine gesonderte Umgebung für das US-Gesundheitsrecht.

Einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO kannst du ohne Anmeldung auf den Rechtsseiten von ClickHouse lesen, er sieht Übermittlungen in die USA über das Data Privacy Framework oder Standardvertragsklauseln ausdrücklich vor. Vertragspartner ist bei Abrechnung nach Verbrauch die Langfuse GmbH in Berlin, in allen anderen Fällen ClickHouse, Inc. Es gilt jeweils das Recht des US-Bundesstaates Delaware. Für Support und Betrieb zieht der Anbieter Salesforce, Google, GitHub, Pylon Labs, Waypoint Tech und kapa.ai heran, allesamt US-Unternehmen, und Datenschutzanfragen beantwortet privacy@clickhouse.com.

Nach eigener Angabe nutzt Langfuse keine Kundendaten für das Training von Modellen. Die Aufbewahrungsdauer stellst du je Projekt ab 3 Tagen ein, nach einer Kündigung löscht der Anbieter die Daten binnen 30 Tagen. Einmal im Jahr laufen Prüfungen nach ISO 27001 und SOC 2 Typ 2 sowie Penetrationstests.

Die DSGVO-Ampel dieses Eintrags steht trotzdem auf nein. Betreiber, Vertragsrecht und Zulieferer der Cloud-Fassung liegen in den USA, und ein Trace enthält die echten Eingaben und Antworten, im Zweifel also personenbezogene Daten aus Kundenanfragen. Beim Selbsthosten gilt diese Einschränkung nicht, dort setzt du Langfuse auch mit sensiblen Daten ein.

Alternativen zu Langfuse

• LiteLLM: Setzt eine Ebene tiefer an und bündelt über 100 Modellanbieter hinter einer einheitlichen Schnittstelle. Für Auswertungen und Prompt-Verwaltung reicht das nicht. LiteLLM gibt seine Aufzeichnungen aber an Langfuse weiter, beide arbeiten also nebeneinander.
• Portkey: Deckt Überwachung und Nachverfolgung ähnlich ab, verbindet sie aber mit einem eigenen Gateway, also einer Vermittlungsschicht zwischen Anwendung und Modell, und mit Schutzregeln für Ein- und Ausgaben. Das Kern-Gateway ist ebenfalls quelloffen. Portkey setzt seinen Schwerpunkt auf diese Vermittlungsschicht, Langfuse auf Bewertungen und Testdatensätze.