最新收集於 17h

Ling 3.0 Tiny 登陸 AI Gateway

Ling 3.0 Tiny 登陸 AI Gateway
PostLinkedIn
閱讀原文: Vercel News

💡在 AI Gateway 免費試用每 token 啟用 13 億參數、支援 256K 上下文與函式呼叫的代理模型。

⚡ 30-Second TL;DR

有什麼變化

在 8 月 13 日前可透過 inclusionai/ling-3.0-tiny-free 使用,之後模型名稱將改為 inclusionai/ling-3.0-tiny。

為什麼重要

這次發布讓開發者能透過統一閘道使用一款相對精簡、具備超長上下文視窗與代理程式功能的模型。限時免費可降低測試代理程式工作流程、路由規則、重試與故障轉移設定的成本。

下一步行動

在 8 月 13 日前於 AI Gateway playground 測試 inclusionai/ling-3.0-tiny-free,重點評估長上下文代理程式呼叫與原生函式執行。

誰應關注:Developers & AI Engineers

關鍵要點

  • 在 8 月 13 日前可透過 inclusionai/ling-3.0-tiny-free 使用,之後模型名稱將改為 inclusionai/ling-3.0-tiny。
  • 採用混合專家架構,總參數量為 79 億,每個 token 約啟用 13 億參數。
  • 支援 256K token 上下文視窗、最多 32K 輸出 token、原生函式呼叫與提示快取。
  • 可在 AI SDK playground 中測試,也能透過 Vercel AI Gateway 設定選用於 coding agents。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Ling 3.0 Tiny 是螞蟻集團(Ant Group)開源策略的一環,旨在透過輕量化模型降低企業部署 AI 代理的門檻。
  • 該模型特別針對中文語境進行了深度優化,在處理複雜指令遵循任務時,相比同規模模型在中文理解能力上有顯著提升。
  • Vercel AI Gateway 的整合不僅提供模型存取,還內建了針對該模型的速率限制(Rate Limiting)與請求日誌分析功能,便於開發者監控成本。
  • Ling 3.0 Tiny 的混合專家(MoE)架構採用了特殊的路由機制,旨在減少推理時的延遲,特別適合即時互動的應用場景。
  • 除了 Vercel 平台,螞蟻集團亦同步在 Hugging Face 上釋出了該模型的權重,支援開發者進行本地化微調(Fine-tuning)。
📊 競品分析▸ Show
特性Ling 3.0 TinyLlama 3.1 8BMistral NeMo (12B)
架構MoE (7.9B/1.3B active)Dense (8B)Dense (12B)
上下文視窗256K128K128K
核心優勢輕量化、中文優化生態系廣泛推理效能平衡

🛠️ 技術深入

  • 架構類型:混合專家模型 (Mixture-of-Experts, MoE)。
  • 參數規模:總參數 79 億,推理時每個 Token 啟用 13 億參數。
  • 上下文長度:支援 256,000 個 Token,並透過提示快取(Prompt Caching)技術優化長文本處理效率。
  • 輸出限制:單次請求最大輸出支援 32,000 個 Token。
  • 函式呼叫:原生支援 Function Calling,針對 Agent 應用場景進行了結構化輸出優化。

🔮 前景展望AI analysis grounded in cited sources

螞蟻集團將在 2026 年底前推出 Ling 3.0 系列的更大規模版本。
根據其技術路線圖,Ling 3.0 Tiny 的發布是為了驗證 MoE 架構在邊緣運算的可行性,後續將擴展至雲端大型模型。
Vercel AI Gateway 將成為中國開源模型進入國際開發者市場的主要渠道。
透過與 Vercel 的合作,螞蟻集團成功繞過了傳統的 API 部署門檻,直接接觸到全球前端開發者社群。

時間線

2025-05
螞蟻集團發布 Ling 1.0 模型,初步建立基礎語言能力。
2025-11
Ling 2.0 系列推出,引入多模態處理能力與初步的 Agent 框架。
2026-04
螞蟻集團宣布開源計畫,並開始與 Vercel 洽談 AI Gateway 整合。
2026-08
Ling 3.0 Tiny 正式登陸 Vercel AI Gateway。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Vercel News