💰钛媒体•最新收集於 41m
Google 研發 Frozen 晶片以提升 Gemini AI 效率
💡Google 研發新型「Frozen」客製化晶片，旨在大幅提升 Gemini 的推理效率。
⚡ 30-Second TL;DR
有什麼變化
Google 推出「Frozen」晶片以提升 Gemini 模型效能。
為什麼重要
開發如「Frozen」晶片般的客製化矽晶片，可能使 Google 在 AI 推理成本上獲得競爭優勢，進而降低部署高效能模型的門檻。
下一步行動
請追蹤 Google Cloud 的硬體藍圖，以了解何時能將這些客製化晶片用於公開的推理工作負載。
誰應關注：Developers & AI Engineers
關鍵要點
- •Google 推出「Frozen」晶片以提升 Gemini 模型效能。
- •重點在於提高運行效率並降低推理成本。
- •此舉是加強核心 AI 技術基礎設施廣泛推動的一部分。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •「Frozen」架構採用了創新的記憶體內運算（In-Memory Computing）技術，旨在解決 AI 推理過程中的記憶體頻寬瓶頸。
- •該晶片特別針對 Gemini 模型的稀疏化（Sparsification）參數進行了硬體級優化，能有效減少無效運算。
- •Google 計劃將 Frozen 晶片整合至其自有的 TPU v6 基礎設施中，以實現混合運算架構。
- •此項研發旨在降低大規模模型在邊緣設備（Edge Devices）上運行時的功耗，提升移動端 AI 體驗。
- •Frozen 晶片架構引入了動態精度調整機制，可根據任務複雜度即時切換運算精度，進一步節省能源。
📊 競品分析▸ Show
| 特性 | Google Frozen 晶片 | NVIDIA Blackwell B200 | AWS Inferentia2 |
|---|---|---|---|
| 核心優勢 | 記憶體內運算/低功耗 | 通用高效能/生態系統 | 雲端推理成本效益 |
| 推理效率 | 極高（針對 Gemini 優化） | 高（通用型架構） | 中高（針對 AWS 雲端） |
| 適用場景 | 邊緣與雲端混合部署 | 大規模訓練與複雜推理 | 雲端大規模推理服務 |
🛠️ 技術深入
- 採用 3nm 製程技術，整合高頻寬記憶體（HBM4）以提升數據傳輸速率。
- 支援混合精度運算（FP8/INT4），專為 Gemini 的 Transformer 架構進行硬體加速。
- 具備專用的稀疏矩陣運算單元（Sparse Matrix Engine），可跳過零值運算以節省電力。
- 整合了專有的互連技術，支援多晶片互聯（Chiplet Interconnect），以擴展大規模模型推理能力。
🔮 前景展望AI analysis grounded in cited sources
Google 將顯著降低 Gemini API 的單位推理成本。
透過硬體層面的效率提升，Google 能夠在維持相同效能下減少對昂貴 GPU 資源的依賴。
Frozen 晶片將推動 Gemini Nano 在更多移動設備上的原生運行。
該架構針對低功耗與高效率的設計，直接解決了移動設備運行大型語言模型的散熱與續航問題。
⏳ 時間線
2023-12
Google 發布 Gemini 1.0 模型，標誌著多模態 AI 發展的新階段。
2024-05
Google 在 I/O 大會上展示 TPU v5p，強調大規模模型訓練的硬體基礎。
2025-02
Google 內部啟動代號為「Frozen」的專用推理晶片研發計畫。
2026-03
Frozen 晶片架構完成初步流片（Tape-out）並進入驗證階段。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 钛媒体 ↗