🔧Tom's Hardware•最新收集於 59m
Nvidia 詳解 Groq 3 LPX 推論機架
💡查看 Nvidia Groq 3 LPX 推論機架的首份第三方基準測試與生產狀態。
⚡ 30-Second TL;DR
有什麼變化
Igor Arsovski 發表了 Groq 3 LPX 機架架構。
為什麼重要
第三方基準測試可為實務工作者評估 Groq 3 LPX 與其他推論平台提供外部數據。進入生產也顯示該硬體正從發表階段走向可部署的基礎設施。
下一步行動
在規劃評估前，請檢視 Nvidia 發布的 Groq 3 LPX 第三方基準測試，並將推論結果與目前的服務堆疊比較。
誰應關注：Developers & AI Engineers
關鍵要點
- •Igor Arsovski 發表了 Groq 3 LPX 機架架構。
- •Nvidia 發布該硬體首份第三方基準測試結果。
- •據稱採用 LP30 的機架已進入生產階段。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 13 個來源。
🔑 增強重點摘要
- •Groq 3 LPX 系統採用 256 個 LP30 語言處理單元（LPU），提供 128 GB 片上 SRAM 與 640 TB/s 的擴展頻寬。
- •該系統定位為 Nvidia Vera Rubin NVL72 的專用解碼層，專門負責處理序列輸出 Token 的生成任務。
- •Nvidia 透過 2025 年與 Groq 簽署的 200 億美元非獨家授權與人才引進協議，獲得了相關核心技術。
- •第三方測試顯示，在運行 Gemma 4 31B 模型時，該機架可達到每秒 3,400 個輸出 Token 的效能。
- •Nebius 已成為首家採用此技術的雲端服務供應商，並將其整合至「Nebius Token Factory」平台中。
📊 競品分析▸ Show
| 特性 | Nvidia Groq 3 LPX | GB200 NVL72 |
|---|---|---|
| 主要用途 | 序列 Token 生成 (解碼) | 大規模上下文與注意力計算 |
| 效能優勢 | 針對 2 兆參數模型提升 35 倍推論吞吐量 | 通用型高效能運算 |
| 核心架構 | 256 個 LP30 LPU | Blackwell GPU 叢集 |
🛠️ 技術深入
- 採用 4 奈米製程，由三星電子代工生產 LP30 晶片。
- 具備 128 GB 的片上 SRAM，大幅降低對外部記憶體的存取依賴。
- 系統架構設計為與 Vera Rubin 平台協同運作，實現異質運算架構。
- 專為代理型 AI (Agentic AI) 工作負載優化，強調低延遲與高頻寬的序列生成能力。
🔮 前景展望AI analysis grounded in cited sources
代理型 AI 應用將在 2027 年前實現大規模普及。
Groq 3 LPX 提供的極高 Token 生成速度解決了複雜代理任務中序列回應的延遲瓶頸。
Nvidia 將進一步鞏固其在推論市場的壟斷地位。
透過將專用解碼硬體與 Vera Rubin 平台整合，Nvidia 成功封鎖了推論市場的技術路徑。
⏳ 時間線
2025-Q4
Nvidia 與 Groq 簽署 200 億美元技術授權與人才引進協議。
2026-08-24
Nvidia 正式宣布 Groq 3 LPX 推論機架進入全面量產階段。
2026-08-26
於 Hot Chips 2026 大會展示架構並發布第三方基準測試結果。
📎 來源 (13)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Tom's Hardware ↗
每週 AI 簡報
每週一封，可隨時退訂。