中國算力迎來 Token 價值大考
文章指出，中國 AI 產業正從單純堆疊加速卡，轉向衡量每個 Token 所創造的經濟價值。文章將 2026 年視為降低 Token 生產成本與提升算力效率的關鍵時期。
Search
Tag: #gpu-utilization13 results
VentureBeat 任命 Rob Strechay 領導 AI 研究
VentureBeat 任命 Rob Strechay 為首位首席分析師及 VentureBeat Research 的創始分析師。他將聚焦企業 AI 基礎設施、平台工程、DevOps、可觀測性與 AI 安全，因應企業從實驗階段邁向正式部署。
Oracle 企業 AI 戰略：讓 Agent 進入資料庫
InfoQ 中國報導，Oracle 的企業 AI 戰略聚焦於將 AI Agent 直接嵌入資料庫、提升 GPU 使用率，以及降低多雲流量成本。標題顯示 Oracle 正推動更整合、高效且具成本效益的企業 AI 基礎設施。
重新排序工作讓叢集利用率提升 33 個百分點
Hugging Face 表示，在相同叢集上改變工作負載的排程順序，便讓利用率提升 33 個百分點。這項發現凸顯排程策略可能是重要的基礎設施最佳化方式，且不需要增加硬體。
⚙️
算力中心與Token供給是否過剩？
本文分析了當前AI基礎設施的現狀，認為由於算力中心利用率低以及市場需求變化，Token供給正趨於過剩。
xAI 55萬GPU利用率僅11%
xAI Memphis Colossus叢集55萬塊Nvidia H100/H200 GPU，MFU僅11%，因網路與資料管線擴展瓶頸。Meta (43%)與Google (46%)優化堆疊表現更好。xAI目標50%，軟體修復並計畫智能體AI租賃。
GPU神話鬆動，AI戰場轉向CPU效率
AI焦點從GPU訓練轉向推理與部署效率，提升CPU角色。英特爾DCAI營收增長22%，CPU/GPU比例收緊至1:4。智能體放大CPU在編排中的重要性。
FOMO導致企業GPU利用率僅5%的浪費
企業因FOMO而將GPU叢集運作利用率僅5%，拒絕釋放閒置容量以應對短缺。AWS悄然上調H200預留價格15%，打破20年通貨緊縮趨勢，Nvidia 2026年H200訂單達200萬片但庫存僅70萬。雲端運算分化：商品層價格下跌，前沿GPU價格上漲。
CoreWeave 讓 A100 GPU 持續獲利至 2029 年
CoreWeave 已將 Nvidia A100 合約簽訂至 2029 年，顯示 2020 年推出的 GPU 在部署多年後仍能持續獲利。受電力限制與既有基礎設施影響，公司季度營收達 25.8 億美元，年增 112%，老舊 GPU 的需求仍然強勁。