▲Vercel News•最新收集於 17h
Ling 3.0 Tiny 登陸 AI Gateway

💡在 AI Gateway 免費試用每 token 啟用 13 億參數、支援 256K 上下文與函式呼叫的代理模型。
⚡ 30-Second TL;DR
有什麼變化
在 8 月 13 日前可透過 inclusionai/ling-3.0-tiny-free 使用,之後模型名稱將改為 inclusionai/ling-3.0-tiny。
為什麼重要
這次發布讓開發者能透過統一閘道使用一款相對精簡、具備超長上下文視窗與代理程式功能的模型。限時免費可降低測試代理程式工作流程、路由規則、重試與故障轉移設定的成本。
下一步行動
在 8 月 13 日前於 AI Gateway playground 測試 inclusionai/ling-3.0-tiny-free,重點評估長上下文代理程式呼叫與原生函式執行。
誰應關注:Developers & AI Engineers
關鍵要點
- •在 8 月 13 日前可透過 inclusionai/ling-3.0-tiny-free 使用,之後模型名稱將改為 inclusionai/ling-3.0-tiny。
- •採用混合專家架構,總參數量為 79 億,每個 token 約啟用 13 億參數。
- •支援 256K token 上下文視窗、最多 32K 輸出 token、原生函式呼叫與提示快取。
- •可在 AI SDK playground 中測試,也能透過 Vercel AI Gateway 設定選用於 coding agents。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Ling 3.0 Tiny 是螞蟻集團(Ant Group)開源策略的一環,旨在透過輕量化模型降低企業部署 AI 代理的門檻。
- •該模型特別針對中文語境進行了深度優化,在處理複雜指令遵循任務時,相比同規模模型在中文理解能力上有顯著提升。
- •Vercel AI Gateway 的整合不僅提供模型存取,還內建了針對該模型的速率限制(Rate Limiting)與請求日誌分析功能,便於開發者監控成本。
- •Ling 3.0 Tiny 的混合專家(MoE)架構採用了特殊的路由機制,旨在減少推理時的延遲,特別適合即時互動的應用場景。
- •除了 Vercel 平台,螞蟻集團亦同步在 Hugging Face 上釋出了該模型的權重,支援開發者進行本地化微調(Fine-tuning)。
📊 競品分析▸ Show
| 特性 | Ling 3.0 Tiny | Llama 3.1 8B | Mistral NeMo (12B) |
|---|---|---|---|
| 架構 | MoE (7.9B/1.3B active) | Dense (8B) | Dense (12B) |
| 上下文視窗 | 256K | 128K | 128K |
| 核心優勢 | 輕量化、中文優化 | 生態系廣泛 | 推理效能平衡 |
🛠️ 技術深入
- 架構類型:混合專家模型 (Mixture-of-Experts, MoE)。
- 參數規模:總參數 79 億,推理時每個 Token 啟用 13 億參數。
- 上下文長度:支援 256,000 個 Token,並透過提示快取(Prompt Caching)技術優化長文本處理效率。
- 輸出限制:單次請求最大輸出支援 32,000 個 Token。
- 函式呼叫:原生支援 Function Calling,針對 Agent 應用場景進行了結構化輸出優化。
🔮 前景展望AI analysis grounded in cited sources
螞蟻集團將在 2026 年底前推出 Ling 3.0 系列的更大規模版本。
根據其技術路線圖,Ling 3.0 Tiny 的發布是為了驗證 MoE 架構在邊緣運算的可行性,後續將擴展至雲端大型模型。
Vercel AI Gateway 將成為中國開源模型進入國際開發者市場的主要渠道。
透過與 Vercel 的合作,螞蟻集團成功繞過了傳統的 API 部署門檻,直接接觸到全球前端開發者社群。
⏳ 時間線
2025-05
螞蟻集團發布 Ling 1.0 模型,初步建立基礎語言能力。
2025-11
Ling 2.0 系列推出,引入多模態處理能力與初步的 Agent 框架。
2026-04
螞蟻集團宣布開源計畫,並開始與 Vercel 洽談 AI Gateway 整合。
2026-08
Ling 3.0 Tiny 正式登陸 Vercel AI Gateway。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Vercel News ↗