⚛️量子位•較早收集於 77m
面壁智能「開源週」：定義端側 AI 的終局
💡了解面壁智能如何標準化端側 AI 部署，以降低對雲端的依賴。
⚡ 30-Second TL;DR
有什麼變化
專注於端側 AI 的系統工程
為什麼重要
此舉標誌著向「本地優先」AI 的轉變，降低對雲端延遲與成本的依賴。
下一步行動
檢視面壁智能最新的開源儲存庫，評估其端側部署效率，以應用於您的本地 LLM 專案。
誰應關注：Developers & AI Engineers
關鍵要點
- •專注於端側 AI 的系統工程
- •模型部署的開源策略
- •定義邊緣運算的未來架構
🧠 深度解析
Web-grounded analysis with 14 cited sources.
🔑 增強重點摘要
- •面壁智能的「開源週」（2026年5月25日至29日）不僅發布了單一技術，而是集中展示了五項關鍵技術成果，涵蓋數據、算法、框架和應用全鏈路系統工程創新。
- •此次開源週的核心成果之一是BitCPM-CANN，這是首個完全基於國產算力平台（華為昇騰）實現端到端訓練並開源的三值（1.58-bit）大模型，提供了6倍顯存優化。
- •面壁智能的目標是結合1.58-bit三值模型與MoE（混合專家）技術，有望將600億參數級別的大模型部署到手機等終端設備上，大幅提升端側AI能力。
- •除了BitCPM-CANN，開源週還推出了MiniCPM5-1B（性能超越兩倍參數模型）、ForgeTrain（AI親手編寫且在H100上比英偉達Megatron更快的訓練框架）、PilotDeck（重構交互範式的智能體操作系統）以及UltraData系列（揭示端側模型高效智能源頭的核心數據集）。
- •面壁智能的策略是「以小博大」，專注於提升模型知識密度而非單純擴大參數規模，以實現低成本、高效率的端側AI，這與行業普遍追求大參數量的趨勢有所不同。
🛠️ 技術深入
- BitCPM-CANN模型：
- 國內首個完全基於國產算力平台（華為昇騰）實現端到端訓練並開源的三值（1.58-bit）大模型。
- 採用量化感知訓練（QAT）路線，旨在最大化每個比特的信息密度和知識承載效率。
- 相較於同尺寸全精度模型，推理階段可釋放約6倍顯存紅利，模型能力保留率維持在90%至97.2%之間。
- 整個訓練鏈路（從底層量化算子、量化感知訓練算法到完整的並行策略和訓練框架）均在華為昇騰上原生完成。
- 提供0.5B、1B、3B、8B四個模型尺寸，並與MiniCPM-4全精度家族進行逐項對照評測，性能表現優異。
- 採用STE三值量化器，訓練時保留殘差以保證模型持續學習，導出時嚴格輸出三值權重，將精度損失控制在極小範圍。
- 對數據噪音更敏感，需要更嚴格的清洗與篩選，並結合QAT與大模型蒸餾的組合方案進行訓練優化。
- MiniCPM 4.0系列模型（此前發布）：
- 採用「高效雙頻換擋」機制，根據任務特徵自動切換稀疏注意力（處理長文本、深度思考）和稠密注意力（短文本場景），以兼顧長短文本處理效率。
- 與英特爾合作，基於英特爾硬件架構定制投機解碼配置，結合硬件感知的草稿模型優化策略、英特爾加速套件與KV Cache內存增強技術，實現端到端推理效率2.2倍提升，並支持128K長上下文窗口。
- ForgeTrain：
- 全球首個完全由AI編寫的生產級訓練框架，在H100上比英偉達自家的Megatron訓練框架更快。
- 在面壁智能的「AI製造AI」進化路徑中，ForgeTrain對應L3級別（AI端到端閉環產出下一代大模型所需基礎設施）。
- PilotDeck：
- 一款重構交互範式的智能體操作系統。
- UltraData系列：
- 揭示端側模型高效智能源頭的核心數據集。
🔮 前景展望AI analysis grounded in cited sources
端側AI的普及將加速國產算力生態的成熟與自主化。
面壁智能的BitCPM-CANN模型完全基於華為昇騰平台訓練並開源，展示了國產NPU、模型和訓練框架的完整閉環，為國產算力在端側AI領域的應用提供了直接可用的方案。
大模型在終端設備上的運行將不再受限於高昂的內存成本，推動AI普惠化。
BitCPM-CANN的1.58-bit量化技術可實現6倍顯存優化，大幅降低大模型部署所需的硬件成本，使更多設備能承載強大AI能力。
AI Agent操作系統將重塑人機交互範式，實現更智能、自主的終端設備體驗。
面壁智能發布的PilotDeck作為AI Agent操作系統，旨在重構交互範式，預示著終端設備將具備更深層次的自主學習和控制能力。
⏳ 時間線
2021
面壁智能（ModelBest）成立，團隊源自清華大學自然語言處理實驗室。
2022
面壁智能與清華大學THUNLP實驗室聯合發起OpenBMB開源社區，開啟中國最早的全鏈路大模型開源探索。
2023-04
面壁智能完成天使輪融資，由知乎領投，智譜AI跟投。
2024年初
面壁智能將重心轉移至端側AI，推出MiniCPM系列模型，採取「以小博大」策略。
2024-12
面壁智能完成新一輪數億元融資，由龍芯創投等聯合領投，繼續聚焦端側AI發展。
2026-05
面壁智能聯合清華大學、OpenBMB開源社區舉辦「端側大模型開源週」，發布BitCPM-CANN等五項關鍵成果。
📎 來源 (14)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 量子位 ↗