來源量子位•較早收集於 35m
墨芯成立稀疏計算聯盟
#sparse-computing#ai-efficiency#ecosystemmoxin-sparse-computing-alliancemoxin
稀疏計算或能降低 AI 成本，但生態相容性將決定它能否真正進入生產環境。
30 秒速覽
有什麼變化
墨芯正在組織連結產業、學術界與研究機構的聯盟。
為什麼重要
協同發展稀疏計算生態，可能降低高效 AI 硬體與軟體的導入門檻。實際影響仍取決於聯盟能否推出可互通工具、有說服力的基準結果與商業部署案例。
下一步行動
使用現有推理堆疊，針對一個代表性模型測試結構化稀疏化，並比較延遲、準確率與部署複雜度。
誰應關注：Researchers & Academics
關鍵要點
- •墨芯正在組織連結產業、學術界與研究機構的聯盟。
- •聯盟聚焦稀疏計算，目標是提升計算效率。
- •其主要目標是強化生態協作並推動技術商業化。
- •文章未列出具體成員、產品、基準測試結果或部署時間表。
深度解析
本篇為 AI 生成分析，非原文內容。
增強重點摘要
- •墨芯人工智慧（Moffett AI）的核心技術基於動態稀疏化（Dynamic Sparsity）架構，旨在通過跳過不必要的計算來顯著降低AI推理成本。
- •該聯盟的成立背景與當前大模型（LLM）推理成本高昂、算力瓶頸日益嚴重的產業現狀直接相關。
- •墨芯此前已推出基於稀疏計算架構的AI加速晶片產品，如「羚瓏」（Antoum）系列，並在多個垂直領域進行了商業化驗證。
- •稀疏計算聯盟的成員構成預計將涵蓋晶片設計、演算法開發、雲端服務供應商以及下游應用開發商，旨在建立統一的稀疏化標準。
- •該聯盟不僅關注硬體加速，還致力於推動軟體層面的稀疏化演算法優化，以實現軟硬體協同設計（Co-design）。
競品分析
核心技術
- 墨芯 (Moffett AI)
- 動態稀疏計算
- NVIDIA
- 稠密計算/Tensor Core
- Groq
- LPU (線性處理單元)
- Cerebras
- WSE (晶圓級引擎)
商業模式
- 墨芯 (Moffett AI)
- 晶片與軟體解決方案
- NVIDIA
- GPU 硬體與 CUDA 生態
- Groq
- 推理加速服務
- Cerebras
- AI 超級電腦系統
稀疏化支持
- 墨芯 (Moffett AI)
- 原生硬體級動態稀疏
- NVIDIA
- 有限的結構化稀疏支持
- Groq
- 軟體優化為主
- Cerebras
- 針對特定稀疏模式優化
| 特性 | 墨芯 (Moffett AI) | NVIDIA | Groq | Cerebras |
|---|---|---|---|---|
| 核心技術 | 動態稀疏計算 | 稠密計算/Tensor Core | LPU (線性處理單元) | WSE (晶圓級引擎) |
| 商業模式 | 晶片與軟體解決方案 | GPU 硬體與 CUDA 生態 | 推理加速服務 | AI 超級電腦系統 |
| 稀疏化支持 | 原生硬體級動態稀疏 | 有限的結構化稀疏支持 | 軟體優化為主 | 針對特定稀疏模式優化 |
技術深入
- 採用動態稀疏化技術，允許晶片在運行時自動識別並跳過零值運算，從而提升計算吞吐量。
- 支援多種稀疏度配置，能夠在保持模型精度的同時，將計算資源需求降低數倍。
- 軟體堆疊（Moffett Software Stack）兼容主流深度學習框架，如 PyTorch 和 TensorFlow，並提供自動稀疏化編譯工具。
- 硬體架構針對 Transformer 模型進行了深度優化，特別是在處理長序列推理任務時具有顯著的延遲優勢。
前景展望基於引用來源的 AI 分析
稀疏計算將成為降低大模型推理成本的關鍵技術路徑。
隨著模型參數規模持續擴大，僅靠增加硬體算力已無法滿足成本效益要求，稀疏化技術能直接減少計算量。
聯盟將推動稀疏化標準化，加速AI晶片生態的碎片化整合。
缺乏統一的稀疏化格式是目前技術普及的障礙，聯盟的標準化工作將降低開發者遷移成本。
時間線
2018-07
墨芯人工智慧（Moffett AI）在美國矽谷正式成立。
2021-09
墨芯完成數億元人民幣的A輪融資，由螞蟻集團領投。
2023-05
發布首款基於稀疏計算架構的AI加速晶片「羚瓏」（Antoum）。
2024-03
墨芯宣布其稀疏化技術在多個大模型推理場景中實現顯著的效能提升。
- 2018-07墨芯人工智慧（Moffett AI）在美國矽谷正式成立。
- 2021-09墨芯完成數億元人民幣的A輪融資，由螞蟻集團領投。
- 2023-05發布首款基於稀疏計算架構的AI加速晶片「羚瓏」（Antoum）。
- 2024-03墨芯宣布其稀疏化技術在多個大模型推理場景中實現顯著的效能提升。
AI 週報
閱讀本週精選 AI 大事摘要 →
相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 量子位 ↗
每週電子報
每週一封，可隨時退訂。