📊Bloomberg Technology•較早收集於 16m
Google 研究人員爭奪內部 AI 運算資源
💡了解 Google 的運算資源稀缺如何影響 AI 開發的未來與基礎設施的取得。
⚡ 30-Second TL;DR
有什麼變化
Google 需平衡內部 AI 研究需求與外部雲端服務承諾。
為什麼重要
這種資源稀缺凸顯了大規模 AI 開發中運算能力的瓶頸。這顯示即使是科技巨頭，在擴展基礎設施以滿足現代大型語言模型訓練需求方面也面臨挑戰。
下一步行動
透過測試多雲部署來分散您的雲端基礎設施策略，以避免過度依賴單一供應商受限的運算資源。
誰應關注：Developers & AI Engineers
關鍵要點
- •Google 需平衡內部 AI 研究需求與外部雲端服務承諾。
- •公司自行研發 AI 晶片以支撐其基礎設施。
- •與 Anthropic 和 Meta 的策略合作正對運算產能造成壓力。
🧠 深度解析
Web-grounded analysis with 22 cited sources.
🔑 增強重點摘要
- •Google 內部預計在未來 4-5 年內將其 AI 運算能力提升 1000 倍，並需每六個月將服務容量翻倍，同時維持成本和能源效率。
- •為應對晶片供應鏈壓力，Google 正建立多元化的客製化晶片供應鏈，與博通、聯發科、Marvell 和英特爾等多個設計夥伴合作，並規劃在 2027 年底前推出基於台積電 2 奈米製程的 TPU。
- •Google 已成立一個由 Google Cloud 執行長、DeepMind 負責人、搜尋/廣告業務主管及財務長組成的運算資源分配委員會，負責仲裁內部資源分配，其中約一半的運算容量分配給 Google Cloud。
- •Alphabet 已將 2025 年的資本支出預測提高至 910 億至 930 億美元，預計 2026 年還將大幅增加，主要用於擴展 AI 基礎設施。
🛠️ 技術深入
- TPU (Tensor Processing Unit) 是 Google 為神經網路機器學習開發的應用特定積體電路 (ASIC)，支援 TensorFlow、JAX 和 PyTorch 等框架。
- 第一代 TPU (2015) 主要用於推論，採用 28 奈米製程，具有 8 位元矩陣乘法引擎，內含 8 GiB DDR3 記憶體。
- 第二代 TPU (2017) 增加了訓練功能，使用 bfloat16 浮點格式，每個晶片配備 16 GB HBM 記憶體，性能達 45 teraFLOPS。
- 第三代 TPU (2018) 將每個晶片的處理能力提升一倍，並以四倍於前一代的晶片數量部署在 Pod 中，使每個 Pod 的性能提升 8 倍。
- 第四代 TPU (2021) 引入了光學電路交換 (OCS) 技術，可動態重新配置 5 維環面網路，將規模擴展至約 4096 個晶片，性能和每瓦性能分別比 v3 提升 2.1 倍和 2.7 倍。
- 第七代 TPU (Ironwood，於 2025 年 4 月發布，2025 年 11 月全面上市) 專為推論設計，提供 TPU v5p 十倍的峰值性能，每個晶片配備 192 GB HBM3E 記憶體，頻寬達 7.2 TB/s，並支援 FP8 精度。
- 第八代 TPU (TPU 8t 和 TPU 8i，於 2026 年 4 月發布) 首次將架構分為訓練專用 (8t) 和推論專用 (8i) 晶片，搭載 Google 客製化的 Arm 架構 Axion CPU，並採用第四代液體冷卻技術。
- TPU 8t 訓練超級 Pod 可擴展至 9,600 個晶片和 2 PB 的共享高頻寬記憶體，運算能力達 121 ExaFlops，晶片間頻寬是前一代的兩倍。
- TPU 8i 針對低延遲推論進行優化，透過擴展晶片內 SRAM 將大量 KV 快取直接託管在晶片上，並結合 SparseCore 引擎以減少核心閒置時間，從而突破推論的「記憶體牆」。
- Google 透過共同設計晶片、編譯器和軟體堆疊 (如 Pathways、XLA 和 JAX) 來實現顯著的成本和性能提升。
🔮 前景展望AI analysis grounded in cited sources
Google 將加速其客製化 AI 晶片的垂直整合策略，以確保關鍵供應鏈的優先權。
為了應對 AI 晶片供應鏈的緊張局勢，Google 正尋求與台積電建立直接合作夥伴關係，以獲得類似蘋果的優先製造產能，並完全掌控其客製化 AI 晶片和行動晶片。
內部運算資源的競爭將促使 Google 更明確地優先排序其 AI 專案，可能導致某些研究或產品開發放緩。
由於運算資源供不應求，Google 內部已成立資源分配委員會，這意味著需要對內部 AI 專案進行嚴格的優先級排序，以平衡營收生成、前沿研究和現金牛產品的需求。
Google 將持續大幅增加資本支出，以滿足其 AI 基礎設施的指數級增長需求。
Google 預計在未來 4-5 年內將其 AI 運算能力提升 1000 倍，並需每六個月將服務容量翻倍，這將推動其資本支出在 2025 年和 2026 年持續顯著增長。
⏳ 時間線
2013
TPU 專案啟動，旨在解決語音識別 DNNs 對運算能力的需求。
2015
Google 推出第一代 TPU (TPU v1)，主要用於深度學習模型的推論階段，並開始在 Google 資料中心內部使用。
2017
Google 推出第二代 TPU (TPU v2)，首次支援機器學習模型的訓練階段，並開始將其作為雲端基礎設施的一部分提供給第三方使用。
2018
Google 推出第三代 TPU (TPU v3)，性能比第二代提升 8 倍。
2021
Google 推出第四代 TPU (TPU v4)，引入光學電路交換 (OCS) 技術，顯著提升了可擴展性和性能。
2026-04-22
Google 宣布推出第八代 TPU (TPU 8t 和 TPU 8i)，首次將架構分為訓練和推論專用晶片。
📎 來源 (22)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Bloomberg Technology ↗