NVIDIA Nemotron 3: Offene Modellfamilie von Nano Omni bis 550B Ultra

NVIDIA Nemotron 3 ist eine Familie von Open-Weight-Modellen, die NVIDIA zwischen Mai und Juli 2026 veröffentlicht hat — vom multimodalen Nano Omni (30B-A3B) über das 550-Milliarden-Parameter-Flaggschiff Ultra bis zur Embed-Serie für RAG. Anders als klassische Chat-Modelle ist die gesamte Familie auf KI-Agenten zugeschnitten.

Die Nemotron-3-Familie im Überblick

Modell	Parameter	Fokus	Besonderheit
Nano Omni	30B (3B aktiv)	Multimodale Agenten, Edge	Video, Audio, Bild, Text nativ; 256k Kontext; 9x Durchsatz
Ultra	550B (55B aktiv)	Agentic Workflows, langer Kontext	Mamba2-Transformer-Hybrid 4:1; 20T Trainings-Token; NVFP4
Embed 8B-BF16	8B	Maximale Retrieval-Qualität	Platz 1 im multilingualen RTEB-Benchmark
Embed 1B (BF16/NVFP4)	1B	Effizientes Production-Retrieval	32k Kontext; NVFP4 für Blackwell und vLLM

Nemotron 3 Nano Omni: Multimodal für Edge und Agenten

Nemotron 3 Nano Omni verarbeitet Video, Audio, Bild und Text nativ in einem gemeinsamen Kontextfenster von bis zu 256.000 Token — statt einer fehleranfälligen Kette aus Einzelmodellen. Die 30B-A3B-Mixture-of-Experts-Architektur aktiviert nur 3 Milliarden Parameter pro Token und erreicht laut NVIDIA einen bis zu 9-mal höheren Durchsatz als bisherige Lösungen. Ein Agent kann so eine HD-Bildschirmaufnahme (1920x1080) analysieren, während er gleichzeitig Sprachbefehle verarbeitet — spannend für Tech-Support, Fertigung und Dokumentation. Optimiert ist das Modell auch für Edge-Geräte wie NVIDIA Jetson; Palantir, Foxconn und Oracle setzen die Technologie bereits ein. Alle Details stehen in unserem Nano-Omni-Beitrag.

Nemotron 3 Ultra: 550B-Hybrid aus Mamba2 und Transformer

Nemotron 3 Ultra ist mit 550 Milliarden Gesamtparametern das Flaggschiff der Familie — dank Latent-MoE sind pro Token aber nur 55 Milliarden aktiv. Die Architektur mischt Mamba2-Strukturen und klassische Transformer-Blöcke im Verhältnis von etwa 4:1: Skalierbarkeit bei langen Sequenzen trifft präzise Merkmalserfassung. Trainiert wurde auf 20 Billionen Token; die native NVFP4-Quantisierung macht die Inferenz laut NVIDIA bis zu 3x recheneffizienter als vergleichbare dichte Architekturen. Multi-Token Prediction (MTP) beschleunigt die Generierung zusätzlich. Bemerkenswert ist der Umfang der Veröffentlichung vom Juni 2026: Base- und Instruct-Varianten, Reward-Checkpoints, Trainingsdaten und -rezepte, BF16- wie NVFP4-Checkpoints — alles offen auf Hugging Face. Unsere Ultra-Analyse hat die Einzelheiten.

Nemotron 3 Embed: Retrieval für RAG und Agenten-Gedächtnis

Nemotron 3 Embed komplettiert die Familie seit dem 17. Juli 2026 auf der Retrieval-Seite: drei Embedding-Checkpoints für RAG, Agentic Retrieval und Agenten-Historien. Das Flaggschiff Nemotron-3-Embed-8B-BF16 führt den multilingualen RTEB-Benchmark an; die quantisierte 1B-NVFP4-Variante erreicht mit 72.00 fast das Niveau der BF16-Version (72.38) — bei deutlich geringeren Kosten auf Blackwell-GPUs mit vLLM. Das Kontextfenster von 32.000 Token erlaubt es, lange Dokumente und komplette Code-Basen zu indizieren, ohne sie in zu kleine Chunks zu zerreißen. Praktisch: 1B-BF16 und 1B-NVFP4 teilen denselben Embedding-Space, ein Formatwechsel erfordert also keine Neuindizierung der Vektordatenbank. Mehr dazu im Embed-Artikel.

Für wen lohnt sich Nemotron 3?

Nemotron 3 richtet sich an Teams, die Agenten-Systeme auf eigener Infrastruktur betreiben wollen — vom Edge-Gerät bis zum Blackwell-Cluster. Die Kombination aus multimodalem Frontend (Nano Omni), starkem Reasoning-Backbone (Ultra) und präzisem Retrieval (Embed) deckt eine komplette Agenten-Pipeline mit offenen Gewichten ab. Deployment läuft über NIM-Container, Fine-Tuning über das NeMo Framework, Bezug über Hugging Face oder OpenRouter.

Offizielle Links

NVIDIA Research: research.nvidia.com/labs/nemotron/Nemotron-3
Hugging Face Collection: huggingface.co/collections/nvidia/nvidia-nemotron-v3

Häufige Fragen

Welche Modelle gehören zur NVIDIA-Nemotron-3-Familie?

Die Familie umfasst drei Linien: Nemotron 3 Nano Omni (30B-A3B, multimodal für Video, Audio, Bild und Text, bis 256.000 Token Kontext), Nemotron 3 Ultra (550 Milliarden Parameter, davon 55 Milliarden aktiv, Mamba2-Transformer-Hybrid) und Nemotron 3 Embed (Embedding-Modelle in 8B und 1B für RAG und Agentic Retrieval). Alle erscheinen als Open-Weight-Modelle.

Was macht Nemotron 3 Ultra technisch besonders?

Nemotron 3 Ultra kombiniert Mamba2-Strukturen und Transformer-Blöcke im Verhältnis von etwa 4:1 mit einem Latent-Mixture-of-Experts-Verfahren: Von 550 Milliarden Gesamtparametern sind pro Token nur 55 Milliarden aktiv. Trainiert wurde auf 20 Billionen Token; native NVFP4-Quantisierung macht die Inferenz laut NVIDIA bis zu 3x recheneffizienter als vergleichbare dichte Architekturen.

Wofür brauchst du Nemotron 3 Embed?

Nemotron 3 Embed liefert die Retrieval-Seite für RAG-Pipelines und das Langzeitgedächtnis von KI-Agenten. Das 8B-BF16-Flaggschiff führt den multilingualen RTEB-Benchmark an, das Kontextfenster von 32.000 Token erlaubt die Indizierung ganzer Code-Basen. Die 1B-NVFP4-Variante ist für Blackwell-GPUs und vLLM quantisiert und teilt den Embedding-Space mit der 1B-BF16-Version — ein Formatwechsel geht ohne Neuindizierung.

Wo kannst du die Nemotron-3-Modelle herunterladen?

Alle Checkpoints stehen auf Hugging Face bereit, teils auch über OpenRouter. NVIDIA liefert zusätzlich NIM-Container für Cloud- und Edge-Deployment (etwa NVIDIA Jetson), Trainingsrezepte, Reward-Checkpoints und technische Reports. Fine-Tuning auf eigene Daten läuft über das NVIDIA NeMo Framework.