🤝Together AI Blog•近期收集於 24h
GLM-5.3 Flash 將程式設計成本降低 17 倍

#cost-optimization#benchmarking#model-routing#pass-at-4glm-5.3-and-glm-5.3-flashglm-5.3glm-5.3 flashdeepswetogether ai
💡了解 17 倍成本優勢是否足以彌補 GLM-5.3 Flash 的程式設計品質差距。
⚡ 30-Second TL;DR
有什麼變化
此次比較使用 900 次 DeepSWE rollout,評估程式設計效能與成本。
為什麼重要
對程式設計代理建構者而言,這些結果凸顯的是明顯的品質與成本取捨,而非單純的勝者。分級路由策略可能大幅降低推理支出,並透過多次取樣或升級模型維持品質。
下一步行動
先使用 GLM-5.3 Flash 執行你的程式設計代理工作負載,再針對失敗或低信心任務升級至 GLM-5.3,並以 pass@1 與 pass@4 進行基準測試。
誰應關注:Developers & AI Engineers
關鍵要點
- •此次比較使用 900 次 DeepSWE rollout,評估程式設計效能與成本。
- •GLM-5.3 Flash 的 pass@1 分數比 GLM-5.3 低 5.6 個百分點。
- •GLM-5.3 Flash 成本低 17 倍,且 pass@4 差距僅 2.6 個百分點。
- •結果支持將較簡單的程式設計任務路由至 Flash,並保留 GLM-5.3 處理高難度案例。
🧠 深度解析
背景與延伸:來自公開資料,非原文內容。引用 8 個來源。
🔑 增強重點摘要
- •GLM-5.3-Flash 採用混合專家模型 (MoE) 架構,總參數達 3200 億,但每個 token 僅激活 180 億參數,藉此平衡效能與運算需求。
- •該模型引入了結合稀疏與線性注意力的混合架構,旨在降低長上下文(100 萬 token)的服務成本並維持精確度。
- •在正式發布前,該模型曾以「Ox Alpha」為代號在 OpenRouter 進行匿名測試,並迅速成為當週最受歡迎的模型。
- •Z.ai 採用了基於 SGLang 的自定義推論引擎,並在國產 AI 晶片上運行,實現了端到端服務效能 3 倍的提升。
- •GLM-5.3-Flash 是 GLM-5 系列中首個原生多模態模型,其預訓練語料庫規模高達 30 兆 token,並以 MIT 授權條款釋出完整權重。
📊 競品分析▸ Show
| 特性/模型 | GLM-5.3-Flash | Claude Opus 4.8 | 備註 |
|---|---|---|---|
| 架構 | MoE (320B/18B active) | 閉源 | GLM-5.3-Flash 具備開源權重 |
| 輸入成本 | $0.15/M tokens | 高 | GLM-5.3-Flash 具成本優勢 |
| 上下文窗口 | 1M tokens | 視版本而定 | 兩者皆針對長文本優化 |
| 授權 | MIT (開源) | 閉源 | GLM-5.3-Flash 支援自託管 |
🛠️ 技術深入
- 採用混合專家模型 (MoE) 架構,總參數 320B,激活參數 18B。
- 整合稀疏與線性注意力機制,優化長上下文處理效率。
- 支援 100 萬 token 的上下文窗口。
- 訓練數據集包含 30 兆 token 的多模態預訓練語料。
- 針對國產 AI 晶片優化,使用 SGLang 推論引擎提升 3 倍效能。
🔮 前景展望AI analysis grounded in cited sources
AI 代理開發將大規模轉向 MoE 架構模型
GLM-5.3-Flash 的成功證明了 MoE 架構在維持高程式設計效能的同時,能顯著降低生產環境的推論成本。
開源模型將在企業級程式設計任務中取代閉源 API
MIT 授權的完整權重釋出與極具競爭力的價格,將促使企業轉向自託管方案以確保數據隱私與成本控制。
⏳ 時間線
2026-08
GLM-5.3-Flash 以代號「Ox Alpha」在 OpenRouter 進行匿名測試
2026-08
Z.ai 正式發布 GLM-5.3-Flash 並釋出 MIT 授權權重
📎 來源 (8)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Together AI Blog ↗
每週 AI 簡報
每週一封,可隨時退訂。
