較早收集於 18h

MiniMax M3 模型現已登陸 Vercel AI Gateway

MiniMax M3 模型現已登陸 Vercel AI Gateway
PostLinkedIn
閱讀原文: Vercel News

💡透過 Vercel 統一 API 使用 MiniMax 的 100 萬 token 多模態模型,優化您的代理應用程式架構。

⚡ 30-Second TL;DR

有什麼變化

MiniMax M3 支援 100 萬 token 上下文窗口與原生多模態功能。

為什麼重要

此整合透過抽象化基礎設施管理,簡化了長上下文多模態代理的部署。開發者能更輕鬆地在不同模型供應商間切換,同時維持一致的監控與成本追蹤。

下一步行動

將您的 Vercel AI SDK 更新至最新版本,並將模型供應商設定為 'minimax',以測試 M3 模型的多模態功能。

誰應關注:Developers & AI Engineers

關鍵要點

  • MiniMax M3 支援 100 萬 token 上下文窗口與原生多模態功能。
  • 基於 MiniMax Sparse Attention (MSA) 架構,提升代理執行效能。
  • Vercel AI Gateway 提供統一 API 存取,且供應商定價無額外加價。
  • 支援終端工具使用與多輪對話協作等進階功能。

🧠 深度解析

Web-grounded analysis with 26 cited sources.

🔑 增強重點摘要

  • MiniMax M3的稀疏注意力(MSA)架構代表了該公司在M2世代放棄稀疏注意力後的策略性轉變,旨在解決長上下文處理的效率瓶頸。
  • M3在百萬token上下文長度下,預填充速度提升9.7倍,解碼速度提升15.6倍,這對於傳統全注意力模型而言計算成本過高,使M3在企業級代理工作負載中更具經濟可行性。
  • Vercel AI Gateway提供自動故障轉移和跨供應商負載平衡功能,確保即使底層模型供應商出現故障,應用程式也能保持高可靠性和穩定的推理時間。
  • MiniMax公司由前商湯科技研究人員於2021年12月創立,並於2026年1月9日在香港交易所上市,成為一家上市公司。
📊 競品分析▸ Show
功能/產品Vercel AI GatewayOpenRouterTrueFoundry (基礎設施級網關)
主要功能統一API存取、自動重試、故障轉移、負載平衡、嵌入支援、費用監控、零加價、與Vercel生態系統整合。統一介面,強調模型發現和定價透明度。基礎設施級網關,專注於治理、可觀察性、部署控制和合規性。
定價模式按用量付費,無加價;每月5美元免費額度。強調跨供應商的定價透明度。未明確提供。
性能/優勢延遲低於20毫秒,高請求吞吐量;為Vercel託管應用程式優化。簡化多模型存取和快速實驗。適用於大規模組織,提供跨團隊、環境和部署的AI控制平面。

🛠️ 技術深入

  • MiniMax Sparse Attention (MSA) 是一種次二次方注意力機制,旨在提高百萬token上下文工作負載的推理效率,同時保持與M2系列相當的輸出品質。
  • MSA採用兩階段GQA(Grouped Query Attention)稀疏注意力架構,其中輕量級索引分支選擇相關的KV塊,而稀疏分支僅對這些選定的塊計算注意力,以減少注意力成本。
  • 這種設計直接解決了傳統Transformer的O(n²)計算複雜度,將計算量壓縮至原來的十分之一甚至更低,從根本上解決了長文本場景下計算效率低、推理成本高、性能隨序列增長衰減的問題。
  • M3的開發旨在使超長上下文的AI代理部署在經濟上可行,解決了現有模型在長上下文下記憶體使用量爆炸、KV快取大小難以管理以及推理速度崩潰的問題。
  • MiniMax在M2開發期間曾放棄稀疏注意力,因為它會損害模型的「多跳推理」能力,但M3通過新穎的次二次方框架旨在同時實現高速處理和不妥協的推理。
  • Vercel AI Gateway提供統一的API端點,支援多個AI模型供應商,並具備自動重試、故障轉移、負載平衡、嵌入支援、費用監控和零加價等功能,旨在簡化開發者對多模態模型的存取和管理。

🔮 前景展望AI analysis grounded in cited sources

長上下文AI代理的經濟可行性將大幅提升。
MiniMax M3的稀疏注意力架構顯著降低了百萬token上下文的計算成本和延遲,使其在企業級應用中更具吸引力。
AI模型聚合平台將成為開發者部署多模態AI應用的關鍵基礎設施。
Vercel AI Gateway等平台提供統一API、故障轉移和負載平衡,簡化了對MiniMax M3等多模態模型的存取和管理,降低了開發複雜性。
AI模型開發將從純粹的參數規模競爭轉向效率和實用性的競賽。
MiniMax M3對稀疏注意力的重新引入,以及其在長上下文處理速度上的顯著提升,表明業界正將重點放在解決實際部署中的性能和成本瓶頸。

時間線

2021-12
MiniMax公司成立
2024-03
阿里巴巴集團領投MiniMax的6億美元融資,公司估值達25億美元
2025-05
Vercel AI Gateway推出Alpha版本
2025-09
Vercel AI Gateway正式推出用於生產工作負載
2026-01
MiniMax在香港交易所上市
2026-03
MiniMax發布M2.7模型(229B參數)
2026-05
MiniMax工程負責人Skyler Miao預告M3模型,並透露其稀疏注意力架構和性能提升;Vercel宣布將MiniMax M3整合至其AI Gateway
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Vercel News