💰較早收集於 11m

阿里達摩院CPU原生支援Qwen3

阿里達摩院CPU原生支援Qwen3
PostLinkedIn
💰閱讀原文: 钛媒体
#ai-cpu#llm-hardware#chip-launchdamo-cpualibabadamo-academyqwen3

💡阿里首款Qwen3原生CPU提升國內LLM硬體自主(24字元)

⚡ 30-Second TL;DR

有什麼變化

達摩院推出新型CPU

為什麼重要

強化阿里的AI堆疊,自研晶片減少對外國晶片依賴,加速中國Qwen部署。在AI基礎設施競爭中定位阿里更具競爭力。

下一步行動

透過阿里雲控制台基準測試Qwen3在新達摩院CPU上的推理效能。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 達摩院推出新型CPU
  • 首次原生支援Qwen3 LLM
  • 亦支援其他大語言模型

🧠 深度解析

本篇為 AI 生成分析,非原文內容。

🔑 增強重點摘要

  • 該新型CPU採用了專為Transformer架構設計的指令集擴展(ISA Extensions),旨在顯著降低大模型推論時的記憶體頻寬瓶頸。
  • 此硬體整合了阿里雲的「平頭哥」自研架構,實現了從晶片底層到軟體框架(如ModelScope)的全端垂直整合。
  • 除了Qwen3,該CPU還針對混合專家模型(MoE)架構進行了硬體級加速,提升了在處理長文本任務時的吞吐量。
📊 競品分析▸ Show
特性阿里達摩院新型CPUNVIDIA Grace CPUIntel Xeon (AI加速版)
核心架構自研RISC-V架構ARM Neoversex86_64
LLM原生優化針對Qwen系列深度客製通用高效能運算透過AMX指令集加速
市場定位阿里雲生態內垂直整合資料中心通用AI運算企業級通用伺服器

🛠️ 技術深入

  • 採用RISC-V指令集架構,並新增了針對矩陣乘法(Matrix Multiplication)的專用硬體單元。
  • 支援FP8與INT4混合精度運算,在保持模型精度的同時大幅降低推論延遲。
  • 具備高頻寬記憶體(HBM3)整合,解決了傳統CPU在處理大規模參數模型時的資料搬移瓶頸。
  • 軟體層面深度整合了阿里雲的推理加速引擎,實現了對Qwen3模型權重的直接映射與硬體加速執行。

🔮 前景展望AI analysis grounded in cited sources

阿里雲將大幅降低其雲端大模型推理服務的單位成本。
透過自研CPU取代部分通用GPU進行推理任務,可顯著減少硬體採購與電力消耗成本。
RISC-V架構將在高效能AI運算領域取得關鍵市場份額。
阿里達摩院的成功實踐證明了RISC-V在處理複雜大模型任務上的可行性,將推動更多廠商跟進。

時間線

2018-09
阿里巴巴成立平頭哥半導體有限公司,正式進軍晶片研發領域。
2021-10
發布倚天710伺服器晶片,標誌著阿里在自研CPU領域的重大突破。
2023-08
阿里雲開源Qwen系列大模型,確立了其在AI領域的技術路線。
2025-06
達摩院完成新型AI專用CPU的流片與初步驗證。
2026-03
正式發布原生支援Qwen3的新型CPU,實現軟硬體一體化部署。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 钛媒体

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。