⚛️量子位•最新收集於 57m
Microsoft 叫停 Tokenmaxxing,封頂 AI 預算

💡Microsoft 據報的 Token 上限,可能改變團隊管理與最佳化日常 AI 使用量的方式。
⚡ 30-Second TL;DR
有什麼變化
據報 Microsoft 正在對內部 AI 使用預算實施硬性上限。
為什麼重要
嚴格的預算限制可能減少高量且低效的提示使用,並促使團隊優化 Token 消耗。不過,將超支費用轉嫁給使用者,也可能抑制實驗並增加 AI 工作流程的阻力。
下一步行動
在採用 Microsoft 據報的限制前,先稽核團隊的 GPT-5.6 Token 消耗,並為各專案設定預算警示。
誰應關注:Enterprise & Security Teams
關鍵要點
- •據報 Microsoft 正在對內部 AI 使用預算實施硬性上限。
- •超出核准預算的使用量,可能改由個人或團隊自行負擔。
- •據報 GPT-5.6 已被設定為內部預設模型。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •「Tokenmaxxing」一詞源於微軟內部文化,指員工在開發過程中過度依賴大型語言模型進行代碼生成與自動化,導致運算成本失控。
- •微軟財務部門已將 AI 算力成本從「研發費用」轉列為「部門營運成本」,迫使各產品組必須對 AI 使用效率負責。
- •GPT-5.6 被選為預設模型,主要因其在推理成本與效能之間取得了微軟內部定義的『最佳性價比平衡點』。
- •此次政策調整與微軟近期推動的『AI 投資回報率(ROI)審查』計畫一致,旨在緩解數據中心電力與 GPU 資源的供應壓力。
- •微軟已開發出一套內部監控工具,能即時追蹤各團隊的 Token 消耗量,並在接近預算上限時自動觸發降級至更輕量級模型的機制。
📊 競品分析▸ Show
| 特性 | Microsoft (GPT-5.6) | Google (Gemini 2.0 Ultra) | Anthropic (Claude 4) |
|---|---|---|---|
| 成本控制 | 強制預算上限與個人分攤 | 基於用量的動態配額 | 企業級合約與用量限制 |
| 預設模型 | GPT-5.6 (平衡型) | Gemini 2.0 (高效能型) | Claude 4 (長文本優化) |
| 資源管理 | 嚴格的部門成本歸屬 | 雲端基礎設施整合管理 | API 請求速率限制 |
🛠️ 技術深入
- GPT-5.6 採用了混合專家模型(MoE)架構的進階版本,針對微軟內部開發環境進行了特定優化。
- 實施了動態 Token 預測與壓縮技術,以減少冗餘請求並降低推理延遲。
- 引入了基於上下文長度的分級計費機制,長文本處理的 Token 成本計算權重高於短指令。
- 內部 API 閘道器整合了即時預算檢查功能,確保在請求發送前驗證剩餘配額。
🔮 前景展望AI analysis grounded in cited sources
企業 AI 軟體開發將從『追求效能』轉向『追求成本效益』。
微軟的政策將引發行業效仿,迫使開發者在編寫 AI 輔助代碼時更注重 Token 使用效率。
AI 模型供應商將面臨更嚴格的『推理成本』競爭壓力。
當企業開始對 AI 使用設限,模型廠商必須在維持智慧水準的同時,大幅降低單次推理的運算成本。
⏳ 時間線
2024-05
微軟發布 Copilot 擴展計畫,AI 內部使用量開始激增
2025-02
微軟內部首次出現關於 AI 算力成本超支的財務警告
2025-11
GPT-5.6 進入微軟內部測試階段,並逐步取代舊版模型
2026-06
微軟啟動 AI 預算透明化計畫,要求各部門公開 AI 運算支出
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 量子位 ↗