🦙較早收集於 38m

NVIDIA 推出 Nemotron 開源前沿模型聯盟

NVIDIA 推出 Nemotron 開源前沿模型聯盟
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA
#coalition#frontier-models#collaborationnemotron-coalitionnvidiablack-forest-labsmistral-ailangchainperplexity

💡NVIDIA 聯手 Mistral/Perplexity 建開源前沿 LLM—參與轉變(22字元)

⚡ 30-Second TL;DR

有什麼變化

NVIDIA 主導開源前沿模型聯盟

為什麼重要

透過共享專業加速開源權重前沿模型,挑戰封閉 AI 主導。開發者獲取易用先進功能。

下一步行動

瀏覽 NVIDIA Nemotron 頁面,貢獻資料集或以實驗室身份加入。

誰應關注:Researchers & Academics

關鍵要點

  • NVIDIA 主導開源前沿模型聯盟
  • 成員:Black Forest Labs(多模態)、Cursor(評估資料集)、LangChain(AI 代理)
  • Mistral AI(高效模型)、Perplexity(高性能系統)、Sarvam、Reflection AI
  • Thinking Machines Lab 資料協作

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 6 個來源。

🔑 增強重點摘要

  • Nemotron 3 Super 為 1200 億參數開放權重模型,僅激活 120 億參數,使用混合 MoE 架構與多令牌預測技術,提升推理速度達三倍。[1][2]
  • NVIDIA 發布 10 兆令牌訓練資料集、NeMo Gym 與 NeMo RL 開源庫,以及 NeMo Evaluator,用於驗證模型安全與效能。[1][2]
  • Nemotron 3 Super 在 Artificial Analysis 效率評估中名列前茅,並主導 DeepResearch Bench 排行榜第一。[2]
  • 模型支援 Hugging Face、vLLM、SGLang 等框架,並透過 Baseten、Fireworks AI 等提供商即時部署,Nemotron 3 Nano 已於 Hugging Face 上線。[1][3]

🛠️ 技術深入

  • Nemotron 3 家族採用**混合潛在混合專家 (hybrid latent MoE)**架構,結合 Mamba-Transformer,提升 100 萬令牌上下文處理能力,專為多代理系統設計。[1][3]
  • Nemotron 3 Super 總參數 1200 億,推理時激活 120 億,專家激活技術以一專家成本啟動四專家,多令牌預測 (Multi-Token Prediction) 加速三倍推理。[2]
  • 全使用合成資料訓練,發布預訓練與後訓練資料集、強化學習環境與評估實務;支援 TensorRT-LLM 優化 NVIDIA GPU 推理。[1][2][3]
  • 整合 NeMo 平台微調,適用於代碼庫載入、報告處理與工具呼叫,如網路安全應用。[2]

🔮 前景展望AI analysis grounded in cited sources

Nemotron 3 Super 與 Ultra 預計 2026 上半年發布
NVIDIA 官方公告 Nemotron 3 Super 和 Ultra 將於 2026 年上半年提供,加速多代理 AI 系統部署。[1]
開放資料集將加速社區模型訓練
發布 10 兆令牌資料與訓練配方,讓開發者透明重建與改進模型,提升開源生態創新。[2][5]
企業採用將擴大代理 AI 應用
多家企業如 Bosch、ServiceNow 與 CrowdStrike 已整合 Nemotron,提升語音辨識、安全與 RAG 效能。[4]

時間線

2026-03
NVIDIA 推出 Nemotron 3 家族開放模型與聯盟,包含 Super 版本與 10 兆令牌資料集
2026-03
發布 NeMo Gym、NeMo RL 與 NeMo Evaluator 開源工具,支持 Nemotron 訓練與評估
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。