🐯最新收集於 13m

中國AI算力達2,185 EFLOPS

中國AI算力達2,185 EFLOPS
PostLinkedIn
🐯閱讀原文: 虎嗅

💡中國算力快速膨脹,但真正能執行你工作負載的算力究竟有多少?

⚡ 30-Second TL;DR

有什麼變化

納入國家監測的智能算力已增至約140萬PFLOPS,但實際利用率與付費使用量仍缺乏完整公開數據。

為什麼重要

AI建構者應將公開算力數字視為基礎設施容量,而非可直接取得的供給。未來更可能勝出的平台,是能揭示可靠容量、跨異構硬體匹配工作負載,並以端到端任務完成成本而非原始FLOPS定價的平台。

下一步行動

為你的推理或訓練平台建立每項任務的排隊時間、硬體相容性、網路傳輸、失敗率及付費利用率指標,不要只報告FLOPS。

誰應關注:Developers & AI Engineers

關鍵要點

  • 納入國家監測的智能算力已增至約140萬PFLOPS,但實際利用率與付費使用量仍缺乏完整公開數據。
  • 有效算力必須依次經過名義規模、設備部署、監測、調度、任務可運行及付費使用等階段。
  • CPU、GPU與NPU並非可直接互換,因為架構、指令集、軟體棧及通訊需求各不相同。
  • 跨區域調度較適合批次工作負載;緊耦合訓練與即時推理則需要高品質的本地集群。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • 中國算力基礎設施正加速向『智算中心』轉型,政策導向已從單純的規模擴張轉向『算力利用率』與『算力效能』的考核指標。
  • 國家算力樞紐節點(如貴州、內蒙古等)與東部數據需求中心之間的『東數西算』工程,目前面臨長距離傳輸帶來的延遲瓶頸,限制了即時推理任務的部署。
  • 國產AI晶片(如華為昇騰系列、海光DCU等)在軟體生態適配上已取得進展,但與CUDA生態的遷移成本仍是企業大規模替換的主要阻礙。
  • 液冷技術已成為新建智算中心的標配,以應對高密度算力集群帶來的散熱挑戰,這直接影響了算力中心的營運成本(OPEX)。
  • 中國正推動『算力券』政策,旨在透過財政補貼降低中小企業使用公共算力平台的門檻,以提升整體算力資源的付費使用率。

🛠️ 技術深入

  • 算力單位定義:EFLOPS(每秒百京次浮點運算)通常基於FP16或BF16精度計算,與傳統HPC領域的FP64算力存在顯著差異。
  • 異構計算挑戰:不同架構(如ARM架構CPU與自研NPU)之間的互聯互通依賴於高速互聯協議(如RoCE v2),網路頻寬與封包丟失率直接決定了集群的有效算力(Effective Compute)。
  • 軟體棧瓶頸:算力利用率低下的核心原因在於算子庫(Operator Library)的覆蓋率不足,導致部分深度學習模型無法在國產硬體上實現算力滿載。

🔮 前景展望AI analysis grounded in cited sources

2027年前中國智算中心將強制執行算力利用率監測標準。
政府為解決『算力閒置』與『重複建設』問題,將把算力利用率納入地方政府與運營商的績效考核。
國產AI晶片在訓練集群中的市佔率將在兩年內突破40%。
受限於國際出口管制,國內大型模型廠商正加速將訓練任務從NVIDIA集群遷移至國產硬體環境。

時間線

2022-02
中國正式啟動『東數西算』工程,規劃建設8個國家算力樞紐節點。
2023-10
工信部等六部門發布《算力基礎設施高質量發展行動計劃》,明確提出算力規模增長目標。
2024-05
國家數據局推動建立全國一體化算力網,強調算力調度與資源共享。
2026-06
中國智能算力規模達到2,185 EFLOPS,標誌著智算基礎設施進入規模化部署階段。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 虎嗅