🇨🇳較早收集於 32m

Nvidia GTC:萬億營收、LPU、太空晶片

Nvidia GTC:萬億營收、LPU、太空晶片
PostLinkedIn
🇨🇳閱讀原文: cnBeta (Full RSS)

💡Nvidia瞄準萬億AI晶片營收+新LPU/太空科技–立即擴展基礎設施!

⚡ 30-Second TL;DR

有什麼變化

算力晶片萬億美元營收預測

為什麼重要

強化Nvidia在AI的主導地位,顯示AI基礎設施需求爆炸性成長。從業人員將面臨加速運算需求及新硬體選項用於擴展部署。

下一步行動

觀看Nvidia GTC演講重播,評估LPU是否適合下一個AI訓練叢集。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 算力晶片萬億美元營收預測
  • 全新LPU架構推出
  • 太空晶片用於衛星運算
  • 一鍵「養蝦」AI部署工具

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 8 個來源。

🔑 增強重點摘要

  • Nvidia的Vera Rubin平台採用垂直整合的全棧架構,包含七個突破性晶片、五個機架級系統和一個革命性超級電腦,專為代理AI設計[1][5]
  • Groq 3 LPU加入Rubin生態後,每個LPU配備500MB SRAM提供150 TB/s頻寬,相比Rubin GPU的HBM4頻寬22 TB/s,在低延遲推理中提供35倍吞吐量優勢[2]
  • Vera CPU在2026年下半年全面生產,採用88個自訂「Olympus」核心和Nvidia空間多線程技術,相比傳統機架級CPU性能提升50%、效率提升兩倍[1]
  • Feynman架構引入800V高壓直流電源系統、液冷標準化和鑽石熱界面材料,以管理5000W+功耗需求,並採用M9級PCB材料支持448G PAM4及以上SerDes速度[4]
  • DGX Station桌面超級電腦搭載GB300 Grace Blackwell Ultra晶片,提供748GB相干記憶體和20 petaflops AI運算性能,針對長思考和自主代理AI工作負載優化[5]
📊 競品分析▸ Show
特性Nvidia Rubin/VeraCerebras說明
推理架構GPU + LPU混合晶圓級引擎Cerebras專注低延遲推理,已獲OpenAI採用[2]
SRAM頻寬Groq 3: 150 TB/s大規模SRAM融合Nvidia透過LPU補強GPU在低延遲推理的劣勢[2]
可擴展性256 LPU/機架單一晶圓Nvidia LPX採用RealScale無交換拓撲,576 LPU可作為共享記憶體[3]
目標應用多代理系統、長上下文先進模型低延遲Nvidia針對數兆參數模型和百萬token上下文窗口[2]

🛠️ 技術深入

Vera CPU架構

  • 88個Olympus自訂核心採用Nvidia空間多線程,每核心可運行兩個任務[1]
  • LPDDR5X記憶體提供1.2 TB/s頻寬,在Vera Rubin NVL72平台中透過NVLink-C2C達到1.8 TB/s相干頻寬[1]
  • 單個機架支持22,500個並發CPU環境,採用液冷MGX模組化參考架構[1]

Groq 3 LPU規格

  • 每個LPU內建500MB SRAM,頻寬150 TB/s(相比HBM4的22 TB/s)[2]
  • RealScale網路採用直連無交換拓撲,時鐘振盪器呈現準同步漂移,編譯器可預計算每次資料傳輸的封包時序[3]
  • 576個LPU可作為單一記憶體空間運作,實現近線性擴展,適合混合專家模型和長距離依賴LLM[3]
  • 初代LPX機架整合64個LPU(32個RealScale ASIC磁貼),可在約2秒內生成10,000個「思考token」[3]

Feynman架構電源與互連

  • 800V高壓直流電源系統降低電流並減輕線路損耗[4]
  • 模組化垂直電源供應單元整合電感、電容和控制晶片為3D模組,顯著減少PCB佈局空間[4]
  • SerDes速度躍升至448G PAM4及以上,需採用M9級銅箔層積板(超低介電常數玻璃纖維或熔融石英布)[4]

DGX Station規格

  • GB300 Grace Blackwell Ultra桌面超晶片整合72核Grace CPU和Blackwell Ultra GPU[5]
  • 透過NVLink-C2C連接實現統一高頻寬架構[5]
  • 748GB相干記憶體,20 petaflops AI運算性能[5]

🔮 前景展望AI analysis grounded in cited sources

LPU將逐步取代CPX推理加速器
Nvidia超大規模副總裁Ian Buck暗示Groq 3 LPU可能減少Rubin CPX的角色,因兩者提供相似推理性能增強但LPU無需大量GDDR7記憶體[2]
M9級PCB材料成為供應鏈進入壁壘
448G PAM4及以上SerDes速度要求M9級銅箔層積板,傳統FR-4和M7/M8材料無法承受指數級信號衰減,形成製造商的重大技術進入門檻[4]
多代理系統將成為下一代AI基礎設施主要應用
Rubin平台設計用於支持需要交互式性能的多代理系統,推理數兆參數模型和百萬token上下文窗口[2]

時間線

2025-12
Nvidia與Groq簽署授權協議,整合LPU技術進入Rubin生態
2026-03
GTC 2026主題演講發布Vera Rubin全棧平台、Vera CPU、Groq 3 LPU、Feynman架構和DGX Station
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: cnBeta (Full RSS)

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。