NVIDIA Nemotron 3 Super: 5x Agentic AI Throughput

•Nemotron 3 Super採用混合Mamba-Transformer MoE架構，結合Mamba層用於高效序列建模、Transformer層用於精密推理，以及MoE路由用於可擴展計算效率[5]
•Nemotron 3 Super和Ultra使用NVIDIA的4位NVFP4精度格式在Blackwell架構上訓練，顯著降低記憶體需求並加速訓練，同時不損害準確度[1][3]
•Nemotron 3 Nano相比Nemotron 2 Nano實現4倍更高的令牌吞吐量，並在推理令牌生成方面減少60%[4]，Super和Ultra預計在2026年上半年推出[5]
•Nemotron 3系列支援100萬令牌上下文窗口，使代理能夠在單一上下文中保留完整證據集、歷史緩衝區和多階段計劃，無需依賴分片啟發式方法[5]
•Nemotron 3 Super針對協作代理和高容量工作負載（如IT票證自動化）進行優化，具有約100億參數和每令牌最多10億活躍參數[1][2]

📊 競品分析▸ Show

特性	Nemotron 3 Super	GPT-OSS-20B	Qwen3-30B-A3B-Thinking-2507
總參數	~100B	20B	30B
活躍參數	~10B	全部	全部
推理準確度	優於兩者[2]	基準	基準
吞吐量效率	3.3倍高於Qwen3[2]	2.2倍低於Nano[2]	3.3倍低於Nano[2]
架構	混合Mamba-Transformer MoE[5]	標準Transformer	標準Transformer
上下文窗口	100萬令牌[5]	未指定	未指定

架構創新

混合Mamba-Transformer MoE骨幹整合三種架構：Mamba層用於高效序列建模，Transformer層用於精密推理，MoE路由用於可擴展計算[5]
Mamba層以最小記憶體開銷追蹤長距離依賴，即使處理數十萬令牌也能維持性能[5]

訓練與優化

推理能力

100萬令牌上下文窗口支援跨大型程式碼庫、長文件、延伸對話和聚合檢索內容的持續推理[5]
Nemotron 3 Nano在8K輸入/16K輸出設定下，使用單個H200時的推理吞吐量比Qwen3-30B-A3B高3.3倍，比GPT-OSS-20B高2.2倍[2]

參數配置

Nemotron 3 Super將成為企業多代理自動化的標準基礎模型

其針對協作代理和高容量工作負載（如IT票證自動化）的優化，加上相對於Ultra的較低計算需求，使其成為企業部署的理想選擇[1][2]

混合MoE架構將重新定義開放模型的效率標準

Nemotron 3相比Nemotron 2實現4倍吞吐量提升，同時維持或超越標準Transformer的準確度，可能促使業界採用類似的混合架構設計[1][3]

100萬令牌上下文窗口將推動實時物理AI應用的發展

該容量使代理能夠在單一上下文中保留完整技術手冊或數週的操作數據，支援需要即時反應和深度推理的複雜工作流[5][6]

2025-12

NVIDIA發佈Nemotron 3系列公告，包括Nano、Super和Ultra三種規格[4]

2026-01

NVIDIA在CES 2026展示Nemotron 3，強調其作為物理AI時代代理式大腦的角色[6]

2026-03

Nemotron 3 Nano正式推出並立即可用，Perplexity整合該模型供用戶存取

2026-H1

Nemotron 3 Super和Ultra預計在2026年上半年推出，包含Latent MoE和多令牌預測增強[5]

NVIDIA Nemotron 3 Super：代理式 AI 5 倍吞吐量