🔥36氪•最新收集於 3m
算力產業轉型：從硬體租賃轉向 Token 計費模式
💡了解 AI 基礎設施定價的轉變，這可能會顯著影響您的營運成本。
⚡ 30-Second TL;DR
有什麼變化
產業從「賣硬體」轉向「賣 Token」。
為什麼重要
此模式將資本支出轉為營運支出，降低了開發者的進入門檻。同時，這迫使基礎設施供應商必須優化推理效率以維持利潤率。
下一步行動
評估您的推理成本結構，確認轉向 TaaS 供應商是否能降低您每月的雲端 GPU 支出。
誰應關注：Founders & Product Leaders
關鍵要點
- •產業從「賣硬體」轉向「賣 Token」。
- •Runjian、Hongxin 等公司正採用 TaaS 模式。
- •定價結構新增了與 Token 產出掛鉤的固定服務費。
- •競爭焦點從 GPU 擁有權轉向服務交付能力。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •TaaS 模式的興起主要源於企業對 GPU 利用率不足的擔憂，透過 Token 計費可將閒置算力轉化為可變現的服務，降低客戶的資本支出（CapEx）門檻。
- •此轉型推動了算力調度平台的技術升級，要求供應商具備更精細的推理引擎優化能力，以確保 Token 生成速度（TPS）與延遲符合 SLA 標準。
- •部分企業開始引入「混合計費模型」，即基礎設施租賃費與 Token 使用費並行，以平衡硬體折舊成本與軟體服務溢價。
- •算力供應商正從單純的硬體提供商轉型為 AI 應用層的基礎設施合作夥伴，透過 API 整合直接嵌入客戶的 AI 工作流中。
- •市場監管機構開始關注算力計費標準化問題，以防止因 Token 計算定義不統一導致的價格欺詐或服務品質爭議。
📊 競品分析▸ Show
| 競爭對手 | 計費模式 | 核心優勢 | 適用場景 |
|---|---|---|---|
| 傳統雲端廠商 (AWS/Azure) | 按小時/實例租賃 | 基礎設施穩定性高，生態完善 | 大規模模型訓練 |
| 算力租賃平台 (Runjian/Hongxin) | Token 計費 (TaaS) | 成本效益高，無需管理硬體 | AI 推理與應用部署 |
| 去中心化算力網路 (DePIN) | 資源貢獻/使用計費 | 價格極具競爭力，抗審查 | 長尾 AI 推理任務 |
🛠️ 技術深入
- 算力調度層：採用 Kubernetes 容器編排技術結合自研調度器，實現對 GPU 叢集的動態切分與負載平衡。
- 推理優化技術：整合 vLLM、TensorRT-LLM 等框架，透過 PagedAttention 與連續批次處理（Continuous Batching）技術提升 Token 生成吞吐量。
- 計費中介軟體：部署基於區塊鏈或高併發資料庫的即時計費系統，精確追蹤每個 API 請求的 Token 消耗量（Input/Output Tokens）。
- 網路傳輸層：利用 RDMA 技術降低節點間通訊延遲，確保大規模推理任務的穩定性。
🔮 前景展望AI analysis grounded in cited sources
算力市場將出現標準化的 Token 計費協議。
隨著 TaaS 模式普及，市場需要統一的計費標準來降低客戶在不同供應商間切換的成本。
硬體租賃業務將逐漸邊緣化，僅存於超大規模模型訓練領域。
對於大多數 AI 應用開發者而言，按需付費的 Token 模式比管理複雜的硬體基礎設施更具經濟效益。
⏳ 時間線
2024-03
中國算力市場開始出現針對推理任務的按量付費試點。
2025-01
主流算力供應商開始大規模部署 vLLM 等推理加速框架以支援 TaaS。
2026-02
行業內關於 Token 計費標準的初步討論與技術規範草案出現。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 36氪 ↗