NVIDIA RTX 5090
im Test.

Wer lokale KI mit CUDA ausprobieren will, ohne fünfstellig zu investieren, landet bei der RTX 5090. Sie hat 32 GB Grafikspeicher und liest ihn mit 1.792 GB/s aus, also genauso schnell wie die RTX PRO 6000, die das 3-Fache kostet. Der Unterschied liegt in der Menge: 32 GB statt 96 GB.

Wichtigste Funktionen

• 32 GB GDDR7: Modelle bis rund 35 Milliarden Parameter passen in 4-Bit-Quantisierung hinein, also mit verkleinerter Zahlendarstellung. Dazu gehören Qwen3.8-27B, Muse Glimmer 30B und Gemma 4 31B. Reserve für lange Dokumente bleibt dabei knapp.
• 1.792 GB/s Speicherbandbreite: Über einen 512-Bit-Bus mit GDDR7 erreicht die Karte denselben Wert wie die professionelle RTX PRO 6000. Weil das Tempo eines Sprachmodells vor allem an der Bandbreite hängt, antwortet ein Modell, das hineinpasst, genauso schnell wie auf der teuren Karte.
• 21.760 CUDA-Kerne mit FP4: Die Tensor Cores der fünften Generation beherrschen das Zahlenformat FP4. Modelle, die dafür vorbereitet sind, brauchen damit noch weniger Speicher.
• CUDA ohne Sonderwege: PyTorch, vLLM, Ollama und LM Studio laufen ohne Anpassung. Gegenüber Apple Silicon entfällt die Suche nach portierten Bibliotheken.
• Normale Workstation als Basis: Die Karte steckt in einem handelsüblichen Rechner mit PCIe 5.0. Ein Server, ein besonderer Raum oder eine eigene Kühlung sind nicht nötig, das Netzteil sollte allerdings 1.000 W liefern.

Preise und Tarife

Zum Marktstart im Januar 2025 kostete die RTX 5090 in Deutschland 2.099 Euro. Im September 2026 beginnt der Handel bei rund 5.249 Euro brutto, also rund 4.410 Euro netto, einzelne Sondermodelle liegen bei 6.999 Euro. Der Grund ist derselbe wie bei den Profikarten: KI-Rechenzentren kaufen die Speicherbausteine in großen Mengen, und die Fertigung kommt nicht nach.

Für einen fertigen Arbeitsplatzrechner mit dieser Karte solltest du rund 7.000 Euro brutto einplanen, je nach Prozessor, Arbeitsspeicher und Netzteil. Gegenüber der RTX PRO 6000 sparst du damit rund 10.000 Euro, bekommst aber ein Drittel des Grafikspeichers.

Für wen ist die RTX 5090 geeignet?

• Unternehmen beim Einstieg in lokale KI: Ein Arbeitsplatz, an dem eine Person mit vertraulichen Unterlagen arbeitet, ist damit vollständig ausgestattet. Reicht der Speicher später nicht mehr, bleibt die Karte als Entwicklungsrechner nutzbar.
• Entwicklungsteams mit CUDA-Software: Wer Skripte, Container oder Bibliotheken für NVIDIA-Hardware schreibt, testet sie hier zum kleinsten Preis auf derselben Plattform, die später im Server läuft.
• Teams, die Bilder und Videos lokal erzeugen: Für ComfyUI und offene Bildmodelle reichen 32 GB aus, hier ist der Speicher weniger knapp als bei Sprachmodellen.

Nicht geeignet ist die Karte, wenn mehrere Leute gleichzeitig auf dasselbe Modell zugreifen oder Modelle ab 60 Milliarden Parametern laufen sollen. Dafür ist die RTX PRO 6000 mit 96 GB oder ein Gerät mit gemeinsamem Speicher der richtige Weg.

DSGVO und Datenschutz

Die RTX 5090 ist reine Hardware ohne Cloud-Anbindung. Modelle, Eingaben und Ergebnisse bleiben im eigenen Rechner, kein externer Anbieter sieht die Daten. Für die DSGVO verlagert sich die Prüfung damit auf die eigene Einrichtung: Benutzerrechte, Protokollierung, Sicherungen und die Frage, ob die eingesetzte Software zusätzlich externe Modell-Schnittstellen anspricht.

Alternativen zu NVIDIA RTX 5090

• NVIDIA RTX PRO 6000: Dieselbe Speicherbandbreite, aber 96 GB statt 32 GB und Fehlerkorrektur im Speicher. Sie kostet rund das 3-Fache und ist die Wahl, sobald größere Modelle laufen sollen.
• Apple Mac mini M5 Pro: Kostet ab 1.999 Euro und bietet bis zu 64 GB gemeinsamen Speicher, liest ihn aber nur mit 307 GB/s. Große Modelle passen hinein, antworten aber langsamer. Kein CUDA.
• NVIDIA DGX Spark: 128 GB gemeinsamer Speicher bei 273 GB/s. Fasst deutlich größere Modelle, ist dafür beim Tempo klar im Nachteil.