Nemotron 3 Super自身推理循環

🔑 增強重點摘要

• •Nemotron 3 Super 支援高達 1M 上下文長度，適合長序列代理任務，但可能放大推理鏈在 llama-server 中的自我引用問題[3][4]。
• •模型在 PinchBench 基準測試中得分 85.6%，成為同類開放模型最佳，顯示強大代理性能但未提及推理循環兼容性[2]。
• •在代碼審查評估中，Nemotron 3 Super 以 12.5 秒內僅 2 次工具呼叫產生有用審查，證明高效代理能力[5]。

🛠️ 技術深入

• •架構：混合 Mamba-Transformer 主幹，採用 LatentMoE（令牌壓縮至潛在維度路由至專家），總參數 120.6B，活躍參數 12.7B[2][3][4]。
• •多令牌預測 (MTP)：單次前向傳遞預測多個未來令牌，提升生成速度並內建推測解碼[2][3][4]。
• •NVFP4 預訓練：使用 NVIDIA Blackwell 優化，低精度訓練減少記憶體需求，在 B200 GPU 上比 H100 FP8 快 4×[2][4]。
• •推理配置：最大模型長度 65,536，支援 FLASH_ATTN 後端，編譯器通過 fuse_allreduce_rms 和 eliminate_noops[1]。
• •後訓練：25 兆令牌預訓練 + SFT + 多環境 RL（21 配置，超過 120 萬 rollout）[2][3]。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線