Nemotron 3.5 Bolt 74B-A9B

Nemotron 3.5 Bolt 74B-A9B ist am 15. Oktober 2026 erschienen, zusammen mit dem großen Nemotron 3.5 Super VL. NVIDIA hat Bolt aus diesem Modell abgeleitet und von 120 auf 74 Milliarden Parameter verkleinert, je Token rechnen 9 Milliarden mit. Wie Nemotron 3 Super verbindet es Mamba-2-Schichten mit Transformer-Attention und Mixture-of-Experts. Mamba verarbeitet lange Eingaben mit wenig Zwischenspeicher. Neu ist die Auslieferung: Die Experten liegen ab Werk in 2 Bit vor, die Mamba-Schichten in NVFP4 mit 4 Bit. Nach dem Komprimieren hat NVIDIA das Modell nachtrainiert, um die verlorene Genauigkeit zurückzuholen. So passt es samt 128.000 Token Kontext in 24 GB Grafikspeicher. Es versteht Text, Bilder und Videos bis 2 Minuten und antwortet in Text. Als Sprachen nennt die Modellkarte neben Englisch unter anderem Deutsch, Französisch und Spanisch.

Artificial Analysis hat das Modell im Intelligenz-Index v4.3.2 unabhängig gemessen und kam auf 21 Punkte. Qwen3.6-35B-A3B lag dort bei 18, für Gemma 4 26B-A4B schätzte Artificial Analysis 17. Welche Fassung gemessen wurde, sagt Artificial Analysis nicht, im Index v5 fehlt das Modell bisher. Bolt arbeitet ausführlich und erzeugte im Index-Lauf v4.3.2 230 Millionen Ausgabe-Token, vergleichbar große offene Modelle im Median 100 Millionen. Die übrigen Zahlen stammen von NVIDIA. Bei PinchBench, einem Test für Agentenaufgaben, meldet NVIDIA 87,8, Qwen3.6-35B-A3B liegt dort mit 88,1 knapp vorn. Bei BrowseComp, der Recherche im Web, steht es 66,8 zu 48,7, bei Terminal-Bench 2.1 51,0 zu 44,4. Faktenwissen bleibt eine Schwäche: Bei AA-Omniscience beantwortet Bolt 16,9 % der Fragen richtig, Gemma 4 26B-A4B 22,2 %.

Für den Betrieb reicht eine Grafikkarte. NVIDIA hat das Modell unter anderem auf einer RTX 5090 mit 32 GB, auf der DGX Spark und auf der RTX Spark getestet. In NVIDIAs Messung mit llama.cpp auf einem Surface Laptop Ultra schreibt Bolt beim Programmieren 84 Token je Sekunde, Qwen3.8-27B 28. Qwen3.8-27B passt ebenfalls auf eine Karte mit 24 GB und lag im Index v4.3.2 von Artificial Analysis mit 34 gegenüber 21 Punkten deutlich vorn. Zählt das Tempo, etwa bei Agenten mit vielen Schritten, spricht das für Bolt. Zählt die Qualität der einzelnen Antwort, spricht es für Qwen3.8-27B. In Ollama belegt Bolt 25 GB, auf einer Karte mit 24 GB wird es damit knapp. Unsloth bietet eine eigene GGUF-Fassung mit 22 GB, dazu gibt es die Gewichte in BF16. Die Lizenz OpenMDW-1.1 der Linux Foundation erlaubt kommerzielle Nutzung und eigene Ableitungen, bei der Weitergabe gehören Lizenz und Hinweise dazu. Ein europäischer Hoster führt das Modell nicht, am 16. Oktober 2026 steht es bei keinem Hoster aus unserer Übersicht im Katalog. Eine öffentliche API gibt es nicht, Bolt ist für den eigenen Rechner gebaut.