NVIDIA RTX PRO 6000
im Test.

Beim Start im März 2025 lag die RTX PRO 6000 Blackwell bei 8.565 US-Dollar Listenpreis. Im Juni 2026 waren es 13.250 US-Dollar, seit August 2026 ruft NVIDIA im eigenen Marktplatz 16.000 US-Dollar auf, also rund 87 % mehr als zum Start. Tom’s Hardware führte davon nur etwa 8 % auf gestiegene Fertigungskosten zurück, den Rest auf den weltweiten Engpass bei GDDR7-Speicher. Für Unternehmen, die 96 GB Grafikspeicher in einer Workstation brauchen, gibt es trotzdem keine vergleichbare Einzelkarte.

Wichtigste Funktionen

• 96 GB GDDR7 mit Fehlerkorrektur: Modelle bis etwa 45B Parameter laufen in voller FP16-Präzision, Laguna S 2.1 mit 118 Milliarden Parametern passt in 4-Bit-Quantisierung, also mit verkleinerter Zahlendarstellung, in den Speicher. Die Fehlerkorrektur fängt Bitfehler ab, die sich sonst erst nach Stunden Rechenzeit als falsches Ergebnis zeigen.
• 1.792 GB/s Speicherbandbreite: Über einen 512-Bit-Bus mit GDDR7 bei 28 Gbps erreicht die Blackwell-Generation fast das Doppelte der 960 GB/s einer RTX 6000 Ada. Weil die Antwortgeschwindigkeit großer Sprachmodelle vor allem an der Speicherbandbreite hängt, schlägt das direkt auf die Token-Rate durch.
• 125 TFLOPS FP32 und 4.000 AI TOPS: Die Tensor Cores der fünften Generation rechnen laut NVIDIA bis zu 3-mal so schnell wie die Vorgängergeneration und beherrschen zusätzlich das Zahlenformat FP4. Die 4.000 AI TOPS gelten für FP4 mit Sparsity, also unter Idealbedingungen.
• CUDA mit der ganzen Software drumherum: PyTorch, TensorFlow, vLLM und die NVIDIA-eigenen Inferenz-Werkzeuge laufen ohne Anpassung, gegenüber Apple Silicon entfällt damit die Suche nach portierten Varianten.
• 3 Bauformen für unterschiedliche Gehäuse: NVIDIA führt die Workstation Edition mit 600 W, die aktiv gekühlte Max-Q mit 300 W für dichte Aufbauten und die passiv gekühlte Server Edition mit 400-600 W. Für die Max-Q nennt NVIDIA zusätzlich Multi-Instance GPU, also bis zu 4 vollständig getrennte GPU-Instanzen auf einer Karte, jede mit eigenem Speicher und eigenen Rechenkernen.
• PCIe Gen 5 statt NVLink: Alle 3 Bauformen hängen mit PCIe Gen 5 x16 am System, einen direkten Verbund über NVLink gibt es nicht. Wer 2 Karten auf 192 GB koppelt, verteilt das Modell über den PCIe-Bus. Das funktioniert, bleibt aber langsamer als ein echter GPU-Verbund.

Preise und Tarife

NVIDIA nennt im eigenen Marktplatz 16.000 US-Dollar Listenpreis. Im deutschen Handel führt Geizhals am 16.09.2026 die Max-Q mit 300 W ab 14.890 Euro brutto, also rund 12.500 Euro netto, die passiv gekühlte Server Edition ab 17.199 Euro brutto und die Workstation Edition mit 600 W ab 17.300 Euro brutto, also rund 14.500 Euro netto. Die Max-Q ist damit die günstigste der 3 Bauformen. Gegenüber dem Stand von Anfang August 2026 hat sich der Straßenpreis der Workstation Edition um rund 38 % erhöht. Die Vorgängerin RTX 6000 Ada mit 48 GB kostet rund 6.300 Euro netto und reicht weiter aus, solange die eingesetzten Modelle hineinpassen.

Für einzelne Projekte gibt es die Karte stundenweise zur Miete bei GPU-Anbietern. Thunder Compute vergleicht für August 2026 Stundenpreise von 1,22 Euro (1,42 USD) bei Vast.ai bis 3,87 Euro (4,50 USD) bei Google Cloud. Alle genannten Euro-Beträge sind Nettowerte, die deutsche Umsatzsteuer kommt beim Kauf wie bei der Miete noch hinzu.

Für wen ist die RTX PRO 6000 geeignet?

• Entwicklungsteams, die mit CUDA arbeiten: Mit 96 GB Grafikspeicher betreibt ein einzelner Arbeitsplatzrechner Modelle bis 70B lokal. Bestehender CUDA-Code läuft unverändert weiter.
• Unternehmen, die von der Vorgängergeneration aufrüsten: Wer mit einer RTX 6000 Ada an die Speichergrenze stößt, verdoppelt in derselben Workstation den Grafikspeicher und bekommt fast die doppelte Bandbreite. Von einer RTX 4090 mit 24 GB aus vervierfacht sich der Speicher. Der Aufpreis gegenüber der Ada-Generation liegt derzeit bei rund 8.200 Euro netto je Karte.
• Teams, die eigene Modelle feinabstimmen: Mit 96 GB trainierst du Modelle bis etwa 30B per LoRA vollständig im Speicher der Karte, also mit einem Verfahren, das statt des ganzen Modells nur einen kleinen Zusatzteil anpasst. Für größere Modelle oder mehr Beispiele je Trainingsschritt sind 2 Karten mit zusammen 192 GB der nächste Ausbauschritt.

DSGVO und Datenschutz

Die RTX PRO 6000 ist reine Hardware ohne Cloud-Anbindung. Die Karte verarbeitet Modelle, Eingaben und Ergebnisse im eigenen Rechner, kein externer Anbieter greift auf die Daten zu. Für die DSGVO verlagert sich die Prüfung damit auf die eigene Einrichtung, also auf Treiber- und Bibliotheksversionen, Benutzerrechte, Protokollierung, Sicherungen und die Frage, ob die eingesetzte Software zusätzlich externe Modell-Schnittstellen anspricht. Ohne solche Anbindung ist die Workstation eine tragfähige Grundlage für KI-Projekte mit hohen Datenschutzanforderungen.

Alternativen zu NVIDIA RTX PRO 6000

• NVIDIA DGX Spark: Eigenständiger Desktop-KI-Rechner mit 128 GB gemeinsamem Speicher ab rund 4.730 Euro netto. Er ist schneller eingerichtet, hat aber deutlich weniger Speicherbandbreite als eine Karte mit eigenem Grafikspeicher.
• NVIDIA Multi-GPU Workstation: 2 RTX PRO 6000 in einem Rechner ergeben 192 GB Grafikspeicher, 4 Karten kommen auf 384 GB. Ein System mit 2 Karten liegt bei etwa 35.000 Euro netto.
• Apple Mac Studio M5 Ultra: Arbeitet leise bei niedriger Leistungsaufnahme und ist seit August 2026 mit bis zu 256 GB gemeinsamem Speicher bestellbar. Kennt allerdings kein CUDA.
• NVIDIA H200: Rechenzentrums-GPU mit 141 GB HBM3e und 4,8 TB/s Bandbreite. Sie liefert mehr Rechenleistung, ist aber nur als Serversystem oder als gemietete Cloud-Kapazität zu bekommen.