📱較早收集於 15m

中國 AI 公司成功將 600 億參數大模型部署於手機

中國 AI 公司成功將 600 億參數大模型部署於手機
PostLinkedIn
📱閱讀原文: Ifanr (爱范儿)

💡首個成功將 600 億參數 LLM 部署於手機的案例,代表邊緣 AI 能力的重大躍進。

⚡ 30-Second TL;DR

有什麼變化

成功將 600 億參數模型部署於手機裝置

為什麼重要

此突破大幅降低了邊緣裝置運行高效能 AI 應用的門檻,減少對雲端運算的依賴。這標誌著 AI 發展正轉向更強大且注重隱私的本地端運算。

下一步行動

研究國產框架中使用的模型量化與剪枝技術,以優化您自己的 LLM 進行邊緣部署。

誰應關注:Developers & AI Engineers

關鍵要點

  • 成功將 600 億參數模型部署於手機裝置
  • 實現包含框架、晶片與模型的全方位國產化閉環
  • 展現端側 AI 效率與優化技術的重大突破

🧠 深度解析

Web-grounded analysis with 23 cited sources.

🔑 增強重點摘要

  • 該中國AI公司極有可能是小米,其於2026年3月19日發布了萬億參數的旗艦大模型MiMo-V2-Pro,並同步推出首款AI原生手機Xiaomi miclaw,強調AI與作業系統及「人車家全生態」的深度融合。
  • MiMo-V2-Pro模型在國際權威AI獨立評測機構Artificial Analysis的全球總榜中位列第八,品牌排名全球第五,顯示其在綜合智能方面的領先地位。
  • 此次端側部署的成功,得益於中國國內AI晶片生態的快速響應與深度適配,例如MetaX和Enflame等國產GPU廠商已為小米MiMo-V2.5-Pro模型提供「Day Zero」超快速適配,加速了國產AI堆疊的發展。
  • 端側AI的發展趨勢是為了解決數據隱私、實時性需求和雲端算力成本高昂等問題,將大模型推理從雲端加速遷移至手機等邊緣設備。
  • 中國在AI領域正從單純追求模型參數規模轉向「效率與能力並重」,強調「智能密度」法則,即以更少的計算和數據高效獲得更多智能,並將端側AI應用從消費電子拓展至民生服務和工業製造等垂直場景。
📊 競品分析▸ Show
公司/模型參數規模 (若有)部署平台/特點基準測試/排名 (若有)API定價 (若有)
小米 (Xiaomi) MiMo-V2-Pro萬億參數 (Trillion parameters)AI原生手機Xiaomi miclaw,深度融合人車家全生態,支持離線語音交互、本地文檔處理等。Artificial Analysis全球總榜第8,品牌排名全球第5。256K上下文:輸入$1/百萬tokens,輸出$3/百萬tokens;1M上下文:輸入$2/百萬tokens,輸出$6/百萬tokens。
階躍星辰 (StepFun) Step 3.5 Flash總參數1960億,推理時激活約110億 (稀疏MoE架構)全鏈路開源,公開預訓練、中訓練權重及Steptron訓練框架,專為智能體場景設計。開源後一日登頂OpenClaw調用量榜首。N/A
DeepSeek (深度之眼) V4 Pro (Max)N/A與華為昇騰生態深度適配,採用Chain of Thought Reasoning和Distillation等創新方法。BenchLM中國排行榜領先,精英級編碼和強大的智能體性能。N/A
智譜AI (Zhipu AI) GLM-5.1N/A全球最強開源模型之一,主要使用國產AI晶片進行訓練和推理。BenchLM中國排行榜第3。N/A
阿里巴巴 (Alibaba) 通義千問 (Qwen) 系列N/A開源AI主導力量,累計下載量超10億次,衍生模型超20萬個。BenchLM中國排行榜Qwen3.5 397B (Reasoning) 第5。N/A
vivo (維沃) 端側多模態推理模型30億參數集成到手機中,支持AI寫作、會議紀要整理等離線能力。引入SmartBench基準測試,評估中文移動場景下的端側LLM。N/A
字節跳動 (ByteDance) 豆包 (Doubao)N/A豆包手機助手,周活躍用戶突破1.55億,實現AI助手大眾化應用。N/AN/A

🛠️ 技術深入

  • 模型優化技術: 量化是實現大模型在移動設備上實用化的關鍵因素,其中Q4_0量化在延遲、吞吐量和能效之間提供了最佳平衡。 其他輕量化技術包括模型壓縮、量化蒸餾、邊緣加速和低延遲推理。
  • 架構創新: 稀疏MoE (Mixture of Experts) 架構,如階躍星辰的Step 3.5 Flash模型所採用,允許模型總參數規模龐大,但在推理時僅激活部分參數,顯著提高效率。
  • 國產晶片支持: 國內AI晶片廠商如華為(麒麟NPU、昇騰)、MetaX(曦雲C系列GPU)、Enflame、寒武紀、地平線、平頭哥等,正為端側大模型提供強大的算力底座,實現軟硬一體化優化。
  • 全棧國產化閉環: 中國AI公司正致力於從AI框架(如百度飛槳Lite、華為MindSpore Lite)、晶片到模型算法的全面自主研發,以應對外部技術限制並推動產業生態發展。
  • 端雲協同模式: 2026年端側大模型發展已形成端雲協同架構共識,主流方案為「雲端70B+通用大模型+端側10B-30B輕量化場景模型」,高頻操作在端側完成,複雜任務調用雲端能力。

🔮 前景展望AI analysis grounded in cited sources

AI手機將成為主流,重塑用戶交互方式。
IDC預計2026年中國新一代AI手機出貨量將達到1.47億台,佔整體市場的53%,AI助手將從被動響應轉為主動服務,實現跨應用自主執行複雜任務。
端側AI的普及將加速AI技術在民生服務和工業製造等垂直場景的規模化落地。
2026年端側AI的增長動力已從消費電子轉向民生服務、工業邊緣、社區治理等領域,解決數據隱私、實時性和算力成本問題。
中國在AI晶片和模型領域的國產化進程將進一步加速,減少對外部技術的依賴。
美國的芯片封鎖政策倒逼中國加速自研進程,國內AI芯片廠商持續迭代產品,並與國產大模型深度整合,形成完整的自主可控生態。

時間線

2025-01
DeepSeek-R1發布,展示中國LLM在資源效率上的創新。
2025-08
研究指出量化是實現端側LLM實用化的決定性因素,Q4_0量化表現最佳。
2026-02
中國AI模型調用量首次超越美國,四款國產大模型位列全球前五。
2026-03-19
小米創辦人雷軍宣布未來三年在AI領域投入超600億人民幣,並發布萬億參數旗艦大模型MiMo-V2-Pro及首款AI原生手機Xiaomi miclaw。
2026-04-28
小米開源MiMo-V2.5-Pro,國內GPU廠商MetaX和Enflame宣布完成「Day Zero」超快速適配,加速國產AI生態發展。
2026-05-06
德本諮詢發布「2026中國端側模型+硬件」企業TOP100榜單,小米位列第三,華為第一,凸顯端側AI與硬件結合趨勢。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Ifanr (爱范儿)