🤖Reddit r/MachineLearning•最新收集於 25m
影像 Token 用量降低 95%，準確率幾乎不變
#inference-cost#token-optimizationimage-token-reduction-methodgpt-4omoma-graph
💡多模態 token 用量可能降低 95%，但仍需要更有力的證據驗證。
⚡ 30-Second TL;DR
有什麼變化
據稱相較於 GPT-4o 直接處理影像，token 用量可減少約 95%。
為什麼重要
如果 95% 的 token 減量結果可靠，將能大幅降低多模態推論成本，並提升大量使用影像之應用的吞吐量。然而，在跨資料集、模型與失敗案例獲得獨立重現前，這項主張仍屬初步結果。
下一步行動
在測試任何壓縮方法前，先以 GPT-4o 直接視覺處理重現這 1,315 道 MOMA Graph 評估，並記錄 token、準確率、延遲與成本。
誰應關注：Researchers & Academics
關鍵要點
- •據稱相較於 GPT-4o 直接處理影像，token 用量可減少約 95%。
- •報告指出，其準確率大致等同於 GPT-4o 直接視覺處理基準。
- •評估涵蓋 MOMA Graph 基準中的 1,315 道問題。
- •該方法仍在開發中，目前尚未公布實作細節、延遲資料或成本分析。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/MachineLearning ↗
每週 AI 簡報
每週一封，可隨時退訂。