NVIDIA Multi-GPU Workstation
im Test.

Große lokale KI-Modelle brauchen viel Grafikspeicher. Eine Workstation mit 2 oder 4 NVIDIA-Karten ist ein Weg, wenn ein einzelner Rechner im eigenen Unternehmen stehen soll und CUDA Pflicht ist. Gegenüber Mac Studio oder DGX Spark kaufst du vor allem GPU-Leistung, zahlst dafür aber mit Strombedarf, Geräusch und mehr Administrationsaufwand.

Wichtigste Funktionen

• Mehr Grafikspeicher für große Modelle: Die RTX PRO 6000 Blackwell Workstation Edition hat 96 GB GDDR7-Speicher mit Fehlerkorrektur. 2 Karten liefern 192 GB, 4 Karten 384 GB Grafikspeicher für große Sprachmodelle, Embedding-Modelle oder parallele Inferenz.
• NVIDIA-Software ohne Sonderwege: PyTorch, TensorFlow, TensorRT und vLLM unterstützen NVIDIA-GPUs direkt. Das senkt das Risiko, dass ein Modell nur mit Anpassungen läuft.
• Modellserver im Unternehmen: Mit vLLM ist die Workstation ein interner Server für KI-Modelle. Mehrere Nutzer greifen dann per Schnittstelle oder Weboberfläche auf dieselben Modelle zu.
• Fine-Tuning auf eigener Hardware: LoRA und QLoRA profitieren von mehreren GPUs, weil Trainingsläufe schneller werden und größere Stapelgrößen möglich sind. Stapelgröße heißt, wie viele Beispiele ein Training in einem Schritt verarbeitet. Das ist relevant, wenn du eigene Klassifikatoren oder Sprachmodelle mit Unternehmensdaten feinabstimmst.
• PCIe Gen 5 statt NVLink: NVIDIA nennt für die RTX PRO 6000 Blackwell Workstation Edition PCIe Gen 5, DisplayPort 2.1 und 600 W maximale Leistungsaufnahme, aber kein NVLink. Große Modelle werden deshalb über PCIe auf mehrere Karten verteilt. Diese Verteilung funktioniert, ist aber langsamer als ein direkter GPU-Verbund.

Preise und Tarife

NVIDIA nennt für die RTX PRO 6000 Blackwell Workstation Edition keine öffentliche Preisempfehlung. Der Preis entsteht aus Grafikkarten, Gehäuse, Mainboard, CPU, Arbeitsspeicher, Netzteil und Kühlung. Den Ausschlag geben die Karten. Eine RTX PRO 6000 kostet im September 2026 zwischen 12.500 Euro netto (Max-Q) und 14.500 Euro netto (Workstation Edition), seit Anfang August 2026 rund 38 % mehr. Damit liegt ein 2-GPU-System bei etwa 35.000 Euro netto, ein 4-GPU-System über 65.000 Euro netto, jeweils mit Gehäuse, Mainboard, CPU, Arbeitsspeicher, Netzteil und Kühlung. Die Beträge sind als Netto-Orientierung zu lesen, die Umsatzsteuer kommt beim Kauf in Deutschland hinzu. Wer die Anschaffung strecken will, startet mit einer Karte und rüstet nach, sofern Gehäuse und Netzteil dafür ausgelegt sind.

Für wen ist eine NVIDIA Multi-GPU Workstation geeignet?

• KI-Teams mit CUDA-Aufgaben: Wenn Modelle, Bibliotheken oder interne Skripte auf CUDA setzen, ist eine NVIDIA-Workstation ein verlässlicher lokaler Weg unterhalb eines Servers.
• Unternehmen mit sensiblen Daten und hohem Durchsatz: Die Verarbeitung läuft auf Hardware im eigenen Netzwerk. Das passt, wenn Cloud-GPUs aus Datenschutzgründen oder wegen laufender Kosten nicht gewünscht sind.
• Entwicklungsteams für Fine-Tuning: Wer Modelle regelmäßig feinabstimmt, spart gegenüber gemieteten Cloud-GPUs nur bei hoher Auslastung. Die Workstation lohnt sich vor allem, wenn sie täglich genutzt wird.

DSGVO und Datenschutz

Die Workstation verarbeitet Daten lokal auf eigener Hardware. NVIDIA stellt hier keine Cloud bereit und erhält durch den Betrieb keinen Zugriff auf Eingaben, Dokumente oder Modellausgaben. Datenschutz hängt damit an deiner Einrichtung, an Nutzerrechten, Protokollierung, Backups und den Modellen, die du einsetzt. Für hohe DSGVO-Anforderungen ist die Einrichtung geeignet, wenn die Workstation im eigenen Netzwerk steht und keine externen KI-Schnittstellen angebunden sind.

Alternativen zu NVIDIA Multi-GPU Workstation

• NVIDIA DGX Spark: Fertiges NVIDIA-Gerät mit 128 GB gemeinsamem Speicher. Es ist deutlich einfacher einzurichten, aber kleiner und langsamer als eine Workstation mit mehreren RTX-PRO-6000-Karten.
• NVIDIA RTX PRO 6000: Eine einzelne Blackwell-Workstation-Karte mit 96 GB Grafikspeicher. Das ist der bessere Einstieg, wenn 1 GPU reicht und die spätere Erweiterung offen bleiben soll.
• NVIDIA H200: Rechenzentrums-GPU mit 141 GB HBM3e-Speicher und NVLink-Option. Sie ist für Server oder Cloud-Umgebungen gedacht und passt weniger gut in eine normale Workstation.