🐯虎嗅•最新收集於 8m
模型公司每賺100美元，雲端業者拿走近40美元
#inference-costs#cloud-economics#token-efficiency#ai-marginsai-model-inference-servicesbarclaysawsmicrosoft azuregoogle cloud
💡推理利潤率正在飆升，但雲端帳單仍可能吞掉模型公司高達40%的營收。
⚡ 30-Second TL;DR
有什麼變化
AI模型公司的營收約有35%至40%會以推理算力費用流向三大雲端業者。
為什麼重要
這套經濟模型顯示，推理業務可能取代訓練，成為AI實驗室的主要獲利引擎。開發者與創辦人應將雲端依賴、Token效率、收入確認方式與專屬算力視為策略變數，而不只是基礎設施成本。
下一步行動
在簽訂長期推理合約前，於AWS、Azure或Google Cloud上以Token成本核算，測試量化或推測解碼對正式工作負載的影響。
誰應關注：Founders & Product Leaders
關鍵要點
- •AI模型公司的營收約有35%至40%會以推理算力費用流向三大雲端業者。
- •受企業客戶與智能體工作流需求推動，AI實驗室付費推理利潤率在2026年升至約50%至65%或更高。
- •直接API推理利潤率估計超過80%；訂閱產品約70%，因為業者會補貼Token使用成本。
- •不同的收入分成機制與總額、淨額會計處理，可能讓業務相近的AI實驗室出現17個百分點的調整後毛利率差距。
- •AI實驗室訓練成本占營收比重預計由2024年的96%降至2028年的30%，雲端業者在2028年後可能失去部分AI基礎設施份額。
🧠 深度解析
背景與延伸：來自公開資料，非原文內容。引用 7 個來源。
🔑 增強重點摘要
- •至2026年，推理運算已佔據全球AI總算力需求的約三分之二，標誌著產業重心從訓練階段正式轉向大規模生產應用。
- •企業面臨「AI成本牆」挑戰，單純依賴公有雲API進行高頻率推理的成本過高，迫使企業重新評估雲端優先策略。
- •生產環境推理正加速向私有雲轉移，目前已有56%的企業選擇或計劃在私有雲部署推理工作負載，以規避公有雲的高昂費用。
- •AI FinOps（AI財務營運）成為企業顯學，重點在於透過多供應商套利、GPU硬體世代選擇及伺服器無感（Serverless）架構權衡來優化成本。
- •由於數據品質不佳、風險控管不足及成本失控，截至2025年底，超過50%的生成式AI專案在概念驗證（PoC）階段後遭到放棄，此趨勢直接影響了2026年的基礎設施決策。
🛠️ 技術深入
- 推理成本結構優化：透過保留容量（Reserved Capacity）取代伺服器無感模式，在高利用率場景下顯著降低單位Token成本。
- 邊緣運算整合：為解決數據傳輸成本（Egress Costs）與延遲問題，企業正將推理模型部署至靠近數據源的邊緣節點。
- 異質基礎設施路由：利用推理市場路由技術，根據成本與延遲需求動態分配工作負載至超大規模雲端或專業推理雲端。
🔮 前景展望AI analysis grounded in cited sources
2028年後公有雲在AI基礎設施的市佔率將顯著下滑。
企業為降低長期營運成本，正大規模轉向私有雲與邊緣運算，削弱了超大規模雲端業者對推理算力的壟斷。
AI專案的存活率與基礎設施成本控制能力直接掛鉤。
由於高達50%的專案因成本問題被放棄，具備高效AI FinOps能力的企業將在市場中獲得更強的競爭優勢。
⏳ 時間線
2024-01
AI模型訓練成本佔營收比重達到約96%的歷史高點。
2025-12
因成本與風險控管問題，超過半數的生成式AI專案在PoC階段後終止。
2026-08
推理算力需求正式超越訓練算力，成為雲端業者營收的主要驅動力。
📎 來源 (7)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗
每週 AI 簡報
每週一封，可隨時退訂。