🤝近期收集於 24h

GLM-5.3 Flash 將程式設計成本降低 17 倍

GLM-5.3 Flash 將程式設計成本降低 17 倍
PostLinkedIn
🤝閱讀原文: Together AI Blog
#cost-optimization#benchmarking#model-routing#pass-at-4glm-5.3-and-glm-5.3-flashglm-5.3glm-5.3 flashdeepswetogether ai

💡了解 17 倍成本優勢是否足以彌補 GLM-5.3 Flash 的程式設計品質差距。

⚡ 30-Second TL;DR

有什麼變化

此次比較使用 900 次 DeepSWE rollout,評估程式設計效能與成本。

為什麼重要

對程式設計代理建構者而言,這些結果凸顯的是明顯的品質與成本取捨,而非單純的勝者。分級路由策略可能大幅降低推理支出,並透過多次取樣或升級模型維持品質。

下一步行動

先使用 GLM-5.3 Flash 執行你的程式設計代理工作負載,再針對失敗或低信心任務升級至 GLM-5.3,並以 pass@1 與 pass@4 進行基準測試。

誰應關注:Developers & AI Engineers

關鍵要點

  • 此次比較使用 900 次 DeepSWE rollout,評估程式設計效能與成本。
  • GLM-5.3 Flash 的 pass@1 分數比 GLM-5.3 低 5.6 個百分點。
  • GLM-5.3 Flash 成本低 17 倍,且 pass@4 差距僅 2.6 個百分點。
  • 結果支持將較簡單的程式設計任務路由至 Flash,並保留 GLM-5.3 處理高難度案例。

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 8 個來源。

🔑 增強重點摘要

  • GLM-5.3-Flash 採用混合專家模型 (MoE) 架構,總參數達 3200 億,但每個 token 僅激活 180 億參數,藉此平衡效能與運算需求。
  • 該模型引入了結合稀疏與線性注意力的混合架構,旨在降低長上下文(100 萬 token)的服務成本並維持精確度。
  • 在正式發布前,該模型曾以「Ox Alpha」為代號在 OpenRouter 進行匿名測試,並迅速成為當週最受歡迎的模型。
  • Z.ai 採用了基於 SGLang 的自定義推論引擎,並在國產 AI 晶片上運行,實現了端到端服務效能 3 倍的提升。
  • GLM-5.3-Flash 是 GLM-5 系列中首個原生多模態模型,其預訓練語料庫規模高達 30 兆 token,並以 MIT 授權條款釋出完整權重。
📊 競品分析▸ Show
特性/模型GLM-5.3-FlashClaude Opus 4.8備註
架構MoE (320B/18B active)閉源GLM-5.3-Flash 具備開源權重
輸入成本$0.15/M tokensGLM-5.3-Flash 具成本優勢
上下文窗口1M tokens視版本而定兩者皆針對長文本優化
授權MIT (開源)閉源GLM-5.3-Flash 支援自託管

🛠️ 技術深入

  • 採用混合專家模型 (MoE) 架構,總參數 320B,激活參數 18B。
  • 整合稀疏與線性注意力機制,優化長上下文處理效率。
  • 支援 100 萬 token 的上下文窗口。
  • 訓練數據集包含 30 兆 token 的多模態預訓練語料。
  • 針對國產 AI 晶片優化,使用 SGLang 推論引擎提升 3 倍效能。

🔮 前景展望AI analysis grounded in cited sources

AI 代理開發將大規模轉向 MoE 架構模型
GLM-5.3-Flash 的成功證明了 MoE 架構在維持高程式設計效能的同時,能顯著降低生產環境的推論成本。
開源模型將在企業級程式設計任務中取代閉源 API
MIT 授權的完整權重釋出與極具競爭力的價格,將促使企業轉向自託管方案以確保數據隱私與成本控制。

時間線

2026-08
GLM-5.3-Flash 以代號「Ox Alpha」在 OpenRouter 進行匿名測試
2026-08
Z.ai 正式發布 GLM-5.3-Flash 並釋出 MIT 授權權重

📎 來源 (8)

Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.

  1. z.ai
  2. mindstudio.ai
  3. cnet.com
  4. openrouter.ai
  5. openrouter.ai
  6. z.ai
  7. cnet.com
  8. ollama.com
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Together AI Blog

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。