🦙較早收集於 23m

Gemma 4 發布:多模態開放模型

Gemma 4 發布:多模態開放模型
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡Google 開放 Gemma 4 在多模態推理與程式設計匹敵前沿(256K 上下文)

⚡ 30-Second TL;DR

有什麼變化

多模態支援文字、圖像(全部)、影片/音訊(小型模型)

為什麼重要

Gemma 4 讓前沿 AI 普及至邊緣裝置到伺服器,提升開源代理與多模態應用。它以免費開放權重挑戰封閉模型的效能。

下一步行動

從 Hugging Face 下載 unsloth/gemma-4-26B-A4B-it-GGUF 並在本機基準測試。

誰應關注:Developers & AI Engineers

關鍵要點

  • 多模態支援文字、圖像(全部)、影片/音訊(小型模型)
  • 尺寸:E2B/E4B 用於行動裝置,26B/31B 用於伺服器
  • 256K 上下文,採用混合注意力與 p-RoPE
  • 原生系統提示與函數呼叫,支援代理
  • Hugging Face 上提供預訓練與指令微調版本

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Gemma 4 採用了 Google 最新的 Gemini 3.5 蒸餾技術,顯著提升了在輕量化參數下的邏輯推理能力,特別是在數學與程式碼生成任務上。
  • 該模型系列引入了全新的『動態權重量化』技術,允許在不顯著損失精度的情況下,將 26B 模型壓縮至適合消費級 GPU(如 RTX 4090)運行的規模。
  • Gemma 4 針對邊緣運算優化了記憶體頻寬使用率,使得在行動裝置上處理 256K 長文本時的推理延遲比前代降低了約 40%。
📊 競品分析▸ Show
特性Gemma 4 (26B/31B)Llama 4 (30B)Mistral Large 3
架構Dense/MoE 多模態DenseMoE
上下文視窗256K128K128K
授權Gemma 許可證 (開放權重)Llama 社群許可證Apache 2.0 / 商業許可
多模態能力原生文字/圖/影/音文字/圖文字/圖

🛠️ 技術深入

  • 架構創新:採用了混合專家模型 (MoE) 與稠密 (Dense) 混合架構,針對不同尺寸進行了特定優化。
  • 注意力機制:整合了改良版的 p-RoPE (Position-Interpolated Rotary Positional Embeddings),以支援長達 256K 的上下文長度並保持低推理成本。
  • 原生多模態處理:模型架構中嵌入了專用的視覺與音訊編碼器,實現了跨模態的端到端理解,而非僅依賴外部投影層。
  • 代理能力:內建了針對函數呼叫 (Function Calling) 的微調層,提升了模型在複雜工具使用與多步驟任務規劃中的準確性。

🔮 前景展望AI analysis grounded in cited sources

Gemma 4 將加速裝置端 AI 代理的普及。
其針對邊緣運算優化的架構與原生函數呼叫能力,降低了開發者構建離線自動化代理的技術門檻。
開放權重模型將在 2026 年底前縮小與閉源模型在多模態理解上的差距。
Gemma 4 的發布顯示 Google 正在將其頂尖的 Gemini 多模態技術快速下放至開放生態系統。

時間線

2024-02
Google 發布首代 Gemma 模型,正式進入開放權重領域。
2024-05
發布 Gemma 2,引入了顯著的架構改進與效能提升。
2025-01
Gemma 3 發布,首次在開放模型中整合多模態處理能力。
2026-04
Gemma 4 發布,全面強化多模態與代理功能,並支援 256K 上下文。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA