💰較早收集於 29m

Cerebras 在特定基準測試中超越 Nvidia 21 倍

Cerebras 在特定基準測試中超越 Nvidia 21 倍
PostLinkedIn
💰閱讀原文: 钛媒体
#gpu#hardware#ai-chipscerebras-wafer-scale-enginecerebrasnvidia

💡Cerebras 正以晶圓級技術挑戰 Nvidia 的主導地位;對 AI 基礎設施策略至關重要。

⚡ 30-Second TL;DR

有什麼變化

Cerebras 晶圓級技術實現了 21 倍的效能提升。

為什麼重要

這凸顯了替代性硬體架構顛覆當前以 GPU 為主的 AI 訓練格局的潛力。

下一步行動

研究 Cerebras 的 SDK 和 API,看看您目前的訓練工作負載是否能從晶圓級架構中受益。

誰應關注:Developers & AI Engineers

關鍵要點

  • Cerebras 晶圓級技術實現了 21 倍的效能提升。
  • 架構將整片晶圓整合為單一晶片。
  • 技術優勢並不總是能保證市場主導地位。

🧠 深度解析

Web-grounded analysis with 33 cited sources.

🔑 增強重點摘要

  • Cerebras的WSE-3晶片採用台積電5奈米製程,面積達46,225平方毫米(約為Nvidia H100的57倍),內含4兆個電晶體和90萬個AI優化核心,提供125 petaflops的AI運算峰值效能。
  • Cerebras晶圓級架構的核心優勢在於消除了晶片間通訊瓶頸,資料無需離開晶片,實現近乎零的延遲,並提供每秒21拍位元組(PB/s)的總記憶體頻寬,遠超Nvidia H100的HBM頻寬數千倍。
  • Cerebras已將其商業模式從主要銷售硬體系統轉變為提供基於其晶片的雲端推論服務,直接與Google、Microsoft、Oracle和CoreWeave等雲端基礎設施供應商競爭。
  • Cerebras於2026年1月與OpenAI簽訂了一份價值超過200億美元的低延遲AI推論算力雲端合作協議,並於2026年3月宣布Amazon Web Services (AWS) 將在其資料中心部署Cerebras晶片以提供快速推論服務。
  • Cerebras於2026年5月在納斯達克成功進行首次公開募股(IPO),募資55.5億美元,首日股價大幅上漲,顯示市場對AI晶片需求強勁且對Nvidia GPU以外的替代方案抱持高度興趣。
📊 競品分析▸ Show
特性/基準測試Cerebras CS-3 (WSE-3)Nvidia H100 GPU (參考B200)
晶片架構晶圓級引擎 (Wafer-Scale Engine, WSE)GPU (圖形處理單元)
製程技術台積電5奈米台積電4N客製化製程 (H100) / 台積電4NP (B200)
晶片面積46,225 平方毫米826 平方毫米 (H100)
電晶體數量4 兆個800 億個 (H100) / 2000 億個 (B200)
AI 核心數量90 萬個 AI 優化核心16,896 個 CUDA 核心 (H100)
片上SRAM44 GB無 (使用HBM)
記憶體頻寬21 PB/s (片上)3 TB/s (HBM3, H100) / 8 TB/s (HBM3e, B200)
峰值AI效能 (FP16)125 petaFLOPS4 petaFLOPS (H100) / 20 petaFLOPS (B200)
特定基準測試在特定無矩陣有限體積求解器中比H100快210倍;搭載DeepSeek R1模型時比Nvidia GPU快57倍;AI推論速度比Nvidia GPU方案快10至20倍作為Cerebras效能比較的基準點
功耗CS-3系統約25 kWH100約700W (單卡)
典型價格CS-3系統價格約與一個GPU叢集機架相當H100 GPU單卡價格約25,000至40,000美元以上
主要應用超大型AI模型訓練與推論,特別是低延遲推論通用AI訓練與推論,廣泛的軟體生態系統

🛠️ 技術深入

  • 晶圓級引擎 (WSE-3) 規格:WSE-3是全球最大的AI晶片,面積達46,225平方毫米,採用台積電5奈米製程,內含4兆個電晶體和90萬個AI優化核心。它提供125 petaFLOPS (FP16精度) 的峰值AI運算能力。
  • 記憶體與頻寬:WSE-3整合了44GB的片上SRAM,並將其平均分佈在整個晶圓表面,使每個運算核心都能在單一時鐘週期內存取記憶體,總頻寬高達每秒21PB。這種設計有效解決了傳統GPU系統中的記憶體頻寬瓶頸。
  • 互連架構:晶片內部採用二維網格狀的片上織構(on-wafer fabric),總頻寬達214 Pb/s,確保數十萬個處理單元(PE)之間能以單一時鐘週期完成訊息傳遞,大幅降低跨晶片通訊延遲。
  • 容錯設計:為解決晶圓級晶片製造中的良率問題,Cerebras採用了瑕疵容忍設計,包括冗餘運算核心、冗餘路由以及「故障原地處理」架構,當檢測到缺陷時,系統會自動使用備用核心並繞過失效節點。
  • 散熱與供電:CS-3系統採用液冷一體化結構,以高效散熱。該晶片功耗高達25 kW,需要特殊的3D供電分佈和靠近晶圓的密集穩壓器陣列,以管理約30,000安培的電流。
  • 軟體生態:Cerebras系統支援TensorFlow和PyTorch等開源框架,並提供Cerebras軟體語言(CSoft),允許使用者無縫地從小型模型擴展到GPT-3等大型模型。
  • 應用優化:WSE-3專為訓練業界最大的AI模型而設計,能夠訓練多達24兆參數的AI模型,並在大型語言模型(LLM)的訓練和推論方面表現出色,尤其適合低延遲、大流量的即時推論應用。

🔮 前景展望AI analysis grounded in cited sources

Cerebras的晶圓級技術將加速AI推理市場的多元化競爭。
其獨特的架構在特定AI推理任務中展現出顯著效能優勢,吸引了OpenAI和AWS等主要雲端服務商的合作,預示著AI硬體市場將不再由單一GPU架構主導。
Cerebras的商業模式轉向雲端服務將使其面臨來自大型雲端供應商的直接競爭。
透過提供基於其晶片的雲端推理服務,Cerebras將與Google、Microsoft、Oracle等已擁有成熟雲端基礎設施的巨頭展開競爭,這要求其在服務穩定性、生態系統整合和成本效益方面持續創新。
晶圓級晶片的製造良率和成本控制仍是Cerebras擴大市場份額的關鍵挑戰。
儘管Cerebras已透過冗餘設計解決了部分良率問題,但其極端尺寸的晶片製造工藝複雜,大規模量產仍面臨嚴峻考驗,可能影響其產品的普及性和成本競爭力。

時間線

2015
Cerebras Systems成立,旨在從零設計AI專用晶片。
2019
推出第一代晶圓級引擎 (WSE-1),採用台積電16奈米製程。
2021
推出第二代晶圓級引擎 (WSE-2),採用台積電7奈米製程。
2024-03
推出第三代晶圓級引擎 (WSE-3),採用台積電5奈米製程。
2024-08
Cerebras推出AI推論服務平台「Cerebras Inference」,聲稱比NVIDIA GPU快20倍。
2025-10
Cerebras因最大客戶G42的客戶集中度問題觸發CFIUS審查,一度撤回IPO申請。
2026-01
Cerebras與OpenAI簽訂逾200億美元的雲端合作協議,提供AI推論算力。
2026-03
Amazon Web Services (AWS) 宣布在其資料中心部署Cerebras晶片。
2026-05-14
Cerebras在納斯達克成功IPO,募資55.5億美元,首日股價大漲。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 钛媒体