Ollama
im Test.

Wer ein offenes Sprachmodell im eigenen Unternehmen ausprobieren will, braucht mit Ollama einen Befehl und die Wartezeit für den Download. Seit Version 0.32 vom 11.07.2026 hat sich allerdings verschoben, was der bloße Aufruf von ollama auslöst. Früher kam eine Modellauswahl, heute öffnet sich ein Agentenmenü, dessen erster Eintrag in der Ankündigung des Herstellers auf das Cloud-Modell glm-5.2:cloud zeigt. Der rein lokale Betrieb läuft unverändert weiter, er ist nur nicht mehr voreingestellt.

Wichtigste Funktionen

• ollama pull gemma4 oder ollama run qwen3.8 holt ein Modell aus der Bibliothek des Herstellers und startet es. Die Bibliothek reicht von sehr kleinen Varianten für ein Notebook bis zu Modellen, die eine Arbeitsstation verlangen.
• Seit Version 0.35 vom 28.09.2026 beantwortet Ollama über die Schnittstelle /v1/systemone feste Fragen zu einem Text: die Wahl zwischen Kategorien, Ja oder Nein, einen Punktwert nach einem Raster. Zurück kommt kein Antworttext, sondern die Auswahl mit Wahrscheinlichkeiten. Das passt für das Sortieren von Tickets, das Erkennen von Rechnungen im Posteingang oder das Weiterleiten einer Anfrage an das passende Modell. Bereit stehen Nimble mit 9 Mrd. Parametern von Bespoke Labs unter Apache 2.0 und Tev1 mit 4 und 0,8 Mrd. Parametern von Together AI. Nimble braucht laut Hersteller auf einem MacBook Pro mit M5 Max 91 ms je Entscheidung.
• Auf macOS und Windows gehört seit Juli 2025 eine Desktop-App mit Chatfenster dazu. Sie nimmt Dateien und Bilder per Ziehen und Ablegen entgegen, speichert Unterhaltungen lokal in einer SQLite-Datei und lässt die Kontextlänge in den Einstellungen anpassen.
• Ollama stellt einen Server bereit, der nur auf dem Rechner selbst erreichbar ist (127.0.0.1:11434) und die Schnittstellen von OpenAI und Anthropic spricht. Open WebUI, Coding-Werkzeuge und eigene Anwendungen binden ihn ohne Codeänderung ein.
• ollama launch claude verbindet Claude Code mit einem Modell aus Ollama, dieselbe Mechanik gibt es für OpenCode, Codex, Copilot CLI, Droid und OpenClaw. Seit Version 0.33 lässt sich auch Claude Desktop über Ollama an offene Modelle anbinden, seit 0.34 ChatGPT Desktop, eingerichtet über die Ollama-App auf macOS.
• Auf Macs mit Apple-Chip rechnet Ollama über Apples Rechenbibliothek MLX. Von Version 0.18 auf 0.19 stieg der Durchsatz bei Qwen3.5-35B-A3B beim Einlesen von 1.154 auf 1.810 Tokens pro Sekunde, bei der Ausgabe von 58 auf 112. Seit Juni 2026 rechnet das neuere NVFP4-Format laut Hersteller noch einmal rund 20 % schneller als die bisher übliche Quantisierung, also die verkleinerte Speicherform, mit der ein Modell in weniger Arbeitsspeicher passt. NVIDIA-Karten spricht Ollama über CUDA an, AMD-Karten über ROCm, Intel-Grafik unter Windows und Linux über Vulkan.
• Modelle mit dem Zusatz :cloud rechnen bei Ollama Inc. statt auf deiner eigenen Hardware. Der eingebaute Agent kann außerdem über ollama.com/api/web_search im Netz suchen. Beides ist ab Werk erreichbar und setzt ein Konto voraus. Wer es nicht will, schaltet die Cloud über die Umgebungsvariable OLLAMA_NO_CLOUD=1 ab.

Preise und Tarife

Die Software steht unter der MIT-Lizenz und kostet nichts, auch im gewerblichen Einsatz. Das gilt ebenso für die Entscheidungsmodelle. Was Geld kostet, ist die Hardware. Der Bedarf hängt vom Modell und seiner Quantisierung ab. Für das 35-Milliarden-Modell aus dem eigenen MLX-Vergleich nennt Ollama mehr als 32 GB gemeinsamen Arbeitsspeicher als Voraussetzung, kleinere Varianten kommen mit deutlich weniger aus. Nimble belegt als Download 9,5 GB, Tev1 in der kleinsten Fassung 0,8 GB.

Daneben verkauft der Hersteller eine eigene Cloud, abgerechnet in US-Dollar. Der Free-Tarif rechnet nach Verbrauch ab, mit einem Startguthaben und einer Anfrage zur selben Zeit. Pro kostet 20 US-Dollar im Monat oder 200 im Jahr und enthält 60 US-Dollar Nutzungsguthaben im Monat, Max kostet 100 US-Dollar mit 300 US-Dollar Guthaben. Der Team-Tarif liegt bei 500 US-Dollar im Monat für beliebig viele Nutzer mit 1.000 US-Dollar gemeinsamem Guthaben und ist noch im frühen Zugang. Nicht verbrauchtes Guthaben verfällt zum Monatswechsel.

Für größere Organisationen verweist Ollama auf ein Gespräch mit dem Vertrieb. Alle diese Beträge nennt der Hersteller ohne Steuer, beim Kauf aus Deutschland kommt die Umsatzsteuer hinzu.

Für wen ist Ollama geeignet?

Entwicklungsteams, die Modelle gegeneinander messen, wechseln ein Modell hier durch einen anderen Namen im Befehl. Wer eine Anwendung gegen die OpenAI-Schnittstelle gebaut hat, hängt sie an den lokalen Server und lässt denselben Ablauf nacheinander mit Gemma 4, gpt-oss und einem Cloud-Modell durchlaufen.

Anwalts- und Steuerkanzleien sowie Arztpraxen im Erprobungsstadium halten mit abgeschalteten Cloud-Funktionen die Verarbeitung auf der eigenen Hardware. Für einen ersten Versuch mit echten Unterlagen reicht das, auch für das lokale Einordnen von Posteingang oder Dokumenten mit den Entscheidungsmodellen. Sobald daraus ein Regelbetrieb mit mehreren gleichzeitigen Anfragen wird, ist vLLM die bessere Grundlage, denn darauf ist Ollama nicht ausgelegt.

Trainer und Workshopleiter arbeiten mit einem Notebook und vorab geladenen Modellen im lokalen Modus, ohne Netz und ohne Anmeldung. Ein hakendes Gäste-WLAN bringt damit keine Übung mehr zu Fall.

Wofür Ollama im Unternehmen reicht und wo im Dauerbetrieb die Modellverwaltung an ihre Grenzen stößt, steht im Beitrag Ollama in Unternehmen: Lokale KI ohne Datenabfluss.

DSGVO und Datenschutz

Hinter Ollama steht die Ollama Inc., eine US-Gesellschaft. Die Nutzungsbedingungen unterliegen kalifornischem Recht, Streitfälle gehen in ein Schiedsverfahren in San Francisco. Die Datenschutzerklärung vom März 2026 hält fest, dass Daten in die Vereinigten Staaten übertragen und dort verarbeitet werden können.

Einen Auftragsverarbeitungsvertrag veröffentlicht der Hersteller nicht. Er bezeichnet sich in derselben Erklärung ausdrücklich als Verantwortlichen. Ein Vertragsverhältnis nach Artikel 28 DSGVO ist für Kunden damit gar nicht vorgesehen. Die Cloud-Modelle laufen laut Preisseite vor allem in den USA, bei Bedarf leitet Ollama Anfragen nach Europa und Singapur um. Einen festen Verarbeitungsort in der EU sagt Ollama nicht zu.

Nutzungsbedingungen und Datenschutzerklärung schließen beide aus, dass Ein- und Ausgaben zum Training von Modellen dienen. Laut Preisseite werden Anfragen und Antworten in der Cloud nicht protokolliert.

Ohne dein Zutun baut das Programm mehrere Verbindungen nach außen auf. Der quelloffene Code zeigt eine Aktualisierungsprüfung, die 3 Sekunden nach dem Start und danach stündlich ollama.com/api/update aufruft und dabei Betriebssystem, Architektur, Version und Zeitstempel überträgt, auf macOS zusätzlich eine dauerhaft gespeicherte Geräte-Kennung. Zusammen mit der IP-Adresse entsteht dadurch ein Personenbezug, ohne dass jemand etwas eingibt.

Alle 4 Stunden holt der Server außerdem Modell-Empfehlungen von ollama.com. Das Herunterladen von Modellen läuft über das herstellereigene Modellverzeichnis registry.ollama.ai. Die Cloud-Funktionen sind ab Werk eingeschaltet. Die Datenschutzerklärung nennt dazu Geräte- und Nutzungsdaten sowie Metadaten zu Modell-Downloads.

Mit OLLAMA_NO_CLOUD=1 oder dem Eintrag disable_ollama_cloud in ~/.ollama/server.json entfallen Cloud-Modelle, Websuche und der Abruf der Empfehlungen. Der Server nimmt ohnehin nur Anfragen vom selben Rechner an (127.0.0.1). In einem Netz ohne Internetzugang arbeitet Ollama mit vorab geladenen Modellen weiter. Die Entscheidungsmodelle rechnen vollständig lokal. Das grüne Abzeichen steht hier trotzdem auf nein, denn die Ampel bewertet den Zustand ab Werk. Abgeschottet und ohne Konto betrieben, ist Ollama datenschutzrechtlich gut vertretbar.

Alternativen zu Ollama

• LM Studio erledigt dieselbe Aufgabe mit grafischer Oberfläche, in der Modellsuche und Chat zusammenliegen. Die Datenschutzlage ist ähnlich, auch dort sitzt der Hersteller in den USA und die Aktualisierungsprüfung meldet beim Programmstart die IP-Adresse dorthin. Eine Schnittstelle für Entscheidungsmodelle bringt LM Studio nicht mit.
• Unsloth Studio startet lokale Modelle ebenfalls über eine OpenAI-kompatible Schnittstelle und hat seit Ende September eine eigene Schnittstelle für Entscheidungsmodelle, dort mit dem mehrsprachigen Modell Laya.
• vLLM ist die Grundlage für den Dauerbetrieb und bedient viele gleichzeitige Anfragen mit deutlich besserer Auslastung der Grafikkarten. Dafür verlangt vLLM mehr Einrichtungsaufwand als Ollama.