來源Vercel News•較早收集於 17h
Ling 3.0 Tiny 登陸 AI Gateway
#mixture-of-experts#function-calling#prompt-caching#long-contextling-3.0-tinyling 3.0 tinyant groupvercel ai gatewayai sdk
在 AI Gateway 免費試用每 token 啟用 13 億參數、支援 256K 上下文與函式呼叫的代理模型。
30 秒速覽
有什麼變化
在 8 月 13 日前可透過 inclusionai/ling-3.0-tiny-free 使用，之後模型名稱將改為 inclusionai/ling-3.0-tiny。
為什麼重要
這次發布讓開發者能透過統一閘道使用一款相對精簡、具備超長上下文視窗與代理程式功能的模型。限時免費可降低測試代理程式工作流程、路由規則、重試與故障轉移設定的成本。
下一步行動
在 8 月 13 日前於 AI Gateway playground 測試 inclusionai/ling-3.0-tiny-free，重點評估長上下文代理程式呼叫與原生函式執行。
誰應關注：Developers & AI Engineers
關鍵要點
- •在 8 月 13 日前可透過 inclusionai/ling-3.0-tiny-free 使用，之後模型名稱將改為 inclusionai/ling-3.0-tiny。
- •採用混合專家架構，總參數量為 79 億，每個 token 約啟用 13 億參數。
- •支援 256K token 上下文視窗、最多 32K 輸出 token、原生函式呼叫與提示快取。
- •可在 AI SDK playground 中測試，也能透過 Vercel AI Gateway 設定選用於 coding agents。
深度解析
本篇為 AI 生成分析，非原文內容。
增強重點摘要
- •Ling 3.0 Tiny 是螞蟻集團（Ant Group）開源策略的一環，旨在透過輕量化模型降低企業部署 AI 代理的門檻。
- •該模型特別針對中文語境進行了深度優化，在處理複雜指令遵循任務時，相比同規模模型在中文理解能力上有顯著提升。
- •Vercel AI Gateway 的整合不僅提供模型存取，還內建了針對該模型的速率限制（Rate Limiting）與請求日誌分析功能，便於開發者監控成本。
- •Ling 3.0 Tiny 的混合專家（MoE）架構採用了特殊的路由機制，旨在減少推理時的延遲，特別適合即時互動的應用場景。
- •除了 Vercel 平台，螞蟻集團亦同步在 Hugging Face 上釋出了該模型的權重，支援開發者進行本地化微調（Fine-tuning）。
競品分析
架構
- Ling 3.0 Tiny
- MoE (7.9B/1.3B active)
- Llama 3.1 8B
- Dense (8B)
- Mistral NeMo (12B)
- Dense (12B)
上下文視窗
- Ling 3.0 Tiny
- 256K
- Llama 3.1 8B
- 128K
- Mistral NeMo (12B)
- 128K
核心優勢
- Ling 3.0 Tiny
- 輕量化、中文優化
- Llama 3.1 8B
- 生態系廣泛
- Mistral NeMo (12B)
- 推理效能平衡
| 特性 | Ling 3.0 Tiny | Llama 3.1 8B | Mistral NeMo (12B) |
|---|---|---|---|
| 架構 | MoE (7.9B/1.3B active) | Dense (8B) | Dense (12B) |
| 上下文視窗 | 256K | 128K | 128K |
| 核心優勢 | 輕量化、中文優化 | 生態系廣泛 | 推理效能平衡 |
技術深入
- 架構類型：混合專家模型 (Mixture-of-Experts, MoE)。
- 參數規模：總參數 79 億，推理時每個 Token 啟用 13 億參數。
- 上下文長度：支援 256,000 個 Token，並透過提示快取（Prompt Caching）技術優化長文本處理效率。
- 輸出限制：單次請求最大輸出支援 32,000 個 Token。
- 函式呼叫：原生支援 Function Calling，針對 Agent 應用場景進行了結構化輸出優化。
前景展望基於引用來源的 AI 分析
螞蟻集團將在 2026 年底前推出 Ling 3.0 系列的更大規模版本。
根據其技術路線圖，Ling 3.0 Tiny 的發布是為了驗證 MoE 架構在邊緣運算的可行性，後續將擴展至雲端大型模型。
Vercel AI Gateway 將成為中國開源模型進入國際開發者市場的主要渠道。
透過與 Vercel 的合作，螞蟻集團成功繞過了傳統的 API 部署門檻，直接接觸到全球前端開發者社群。
時間線
2025-05
螞蟻集團發布 Ling 1.0 模型，初步建立基礎語言能力。
2025-11
Ling 2.0 系列推出，引入多模態處理能力與初步的 Agent 框架。
2026-04
螞蟻集團宣布開源計畫，並開始與 Vercel 洽談 AI Gateway 整合。
2026-08
Ling 3.0 Tiny 正式登陸 Vercel AI Gateway。
- 2025-05螞蟻集團發布 Ling 1.0 模型，初步建立基礎語言能力。
- 2025-11Ling 2.0 系列推出，引入多模態處理能力與初步的 Agent 框架。
- 2026-04螞蟻集團宣布開源計畫，並開始與 Vercel 洽談 AI Gateway 整合。
- 2026-08Ling 3.0 Tiny 正式登陸 Vercel AI Gateway。
AI 週報
閱讀本週精選 AI 大事摘要 →
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Vercel News ↗
每週電子報
每週一封，可隨時退訂。