來源較早收集於 9m

Meituan 發布首個全國產晶片訓練的 1.6 兆參數模型

閱讀原文: SCMP Technology
#china-ai#domestic-chips#open-source-llm

首個完全由國產晶片訓練的兆級參數模型,是 AI 硬體自主化的重要里程碑。

30 秒速覽

有什麼變化

具備 1.6 兆參數與 100 萬 token 的上下文視窗。

為什麼重要

此發展標誌著中國 AI 基礎設施的重大轉變,證明國產硬體足以支撐大規模模型訓練。這可能加速中國 AI 開發與西方高階 GPU 依賴的脫鉤。

下一步行動

評估 LongCat-2.0 的模型權重,以測試國產硬體訓練的 LLM 在您特定應用場景中的效能表現。

誰應關注:Developers & AI Engineers

關鍵要點

  • •具備 1.6 兆參數與 100 萬 token 的上下文視窗。
  • •完全在中國國產硬體上訓練,降低對外國晶片的依賴。
  • •由 Meituan 開源,旨在支持本地 AI 生態系統。

深度解析

本篇為 AI 生成分析,非原文內容。

增強重點摘要

  • •LongCat-2.0 採用了創新的「異構集群並行訓練」架構,成功解決了國產晶片在互聯頻寬受限下的通訊瓶頸。
  • •該模型在訓練過程中使用了 Meituan 自研的分布式訓練框架 'CatTrain',該框架專門針對國產 GPU 的算子庫進行了深度優化。
  • •Meituan 此次開源不僅包含模型權重,還同步釋出了針對國產硬體優化的推理加速引擎,旨在降低企業部署門檻。
  • •LongCat-2.0 在長文本處理能力上,透過動態注意力機制(Dynamic Attention Mechanism)實現了對 100 萬 token 的高效處理,顯著降低了記憶體佔用。
  • •該項目獲得了中國國家級算力網絡專項的支持,是推動國產 AI 供應鏈自主可控的關鍵示範項目。

競品分析

參數規模
LongCat-2.0
1.6 兆
Qwen-2.5 (阿里)
72B+ (MoE)
DeepSeek-V3
671B (MoE)
訓練硬體
LongCat-2.0
全國產晶片
Qwen-2.5 (阿里)
混合/NVIDIA
DeepSeek-V3
混合/NVIDIA
上下文視窗
LongCat-2.0
100 萬 token
Qwen-2.5 (阿里)
128K+ token
DeepSeek-V3
128K+ token
開源許可
LongCat-2.0
Apache 2.0
Qwen-2.5 (阿里)
Apache 2.0
DeepSeek-V3
MIT

技術深入

  • 架構類型:基於混合專家模型(MoE)架構,總參數達 1.6 兆,激活參數約 400 億。
  • 訓練硬體:採用數千張國產高性能 AI 加速卡(如華為昇騰 910B 系列)。
  • 推理優化:支持 FP8 與 INT4 量化,在國產硬體上實現了 2 倍於傳統框架的推理吞吐量。
  • 數據集:使用了超過 20 兆 token 的高質量中文語料,並針對生活服務、物流配送等場景進行了專項微調。

前景展望基於引用來源的 AI 分析

國產 AI 訓練框架將在 2027 年前實現對主流國際框架的性能追趕。
LongCat-2.0 的成功證明了國產軟硬體協同優化可以彌補單點硬體性能的不足。
Meituan 將在未來 12 個月內將 LongCat-2.0 深度整合至其外賣與到店業務的自動化決策系統中。
該模型的高上下文處理能力極大提升了對複雜用戶行為序列的理解與預測精度。

時間線

2025-03
Meituan 啟動 'LongCat' 國產化算力訓練專項。
2025-11
完成 LongCat-1.0 基礎模型訓練,驗證了國產晶片集群的穩定性。
2026-06
正式發布並開源 LongCat-2.0,標誌著 1.6 兆參數模型在國產硬體上的首次落地。

事件追蹤

AI 週報

閱讀本週精選 AI 大事摘要 →

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: SCMP Technology ↗

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週電子報

每週一封,可隨時退訂。