Gemma Downloads Surpass One Billion

•Gemma模型系列是基於Google專有Gemini模型系列的相同技術開發的，旨在作為其輕量級、開源的替代方案。
•Gemma的最新主要版本Gemma 4於2026年4月發布，引入了原生的多模態輸入能力，包括文本、圖像、影片和音訊，並為部分變體採用了專家混合（MoE）架構。
•Gemma模型被設計為可在多種硬體環境中部署，包括筆記型電腦、行動裝置、NVIDIA GPU和Google Cloud TPU，以促進AI技術的普及和本地執行。
•Google已發布多種Gemma的專用變體，例如用於程式碼補全的CodeGemma、用於視覺語言任務的PaliGemma、用於醫學理解的MedGemma，以及用於安全內容檢測的ShieldGemma。
•Gemma 4的31B Dense變體在AI文本排行榜上取得了高排名，而Gemma 2的27B模型在發布時也超越了同類中參數量更大的模型。

📊 競品分析▸ Show

特性/模型	Google Gemma	Meta Llama	Mistral AI Mistral
許可證	Gemma 4及更高版本：Apache 2.0；早期版本：源碼可用（Gemma使用條款）	開放（附帶條款）	Apache 2.0
主要優勢	輕量級、與Gemini技術同源、多模態（Gemma 4）、多語言支援（Gemma 4支援140+種語言）、針對NVIDIA GPU和Google Cloud TPU優化	穩定性、龐大的社區生態系統、通用任務表現強勁	高效率、高性能與尺寸比、低延遲推理、採用MoE和先進注意力機制
基準表現	Gemma 7B與Llama 3 8B和Mistral 7B競爭；Gemma 2 9B和27B在大多數基準測試中超越Llama 3 8B和Mistral 7B；Gemma 4 31B Dense在Arena文本排行榜上排名第三	Llama 3 8B是常見的比較基準，在通用任務中表現良好	Mistral 7B在效率和特定基準測試中表現出色
多模態支援	Gemma 4原生支援文本、圖像、影片、音訊輸入；PaliGemma為視覺語言模型	主要為文本模型，部分變體可能支援多模態	主要為文本模型
部署環境	筆記型電腦、行動裝置、NVIDIA GPU、Google Cloud TPU、邊緣基礎設施	廣泛的工具生態系統（如llama.cpp、vLLM），可在多種硬體上部署	針對高效能C++推理後端優化，適用於低延遲應用

模型架構：Gemma模型基於解碼器專用Transformer架構。
注意力機制：Gemma 1的2B模型使用多查詢注意力（MQA），7B模型使用多頭注意力（MHA）。Gemma 2、3和4則採用分組查詢注意力（GQA），Gemma 2還在局部滑動視窗注意力與全局注意力之間交替。
位置嵌入：採用旋轉位置嵌入（RoPE）。
激活函數：使用GeGLU激活函數，這是GLU（門控線性單元）的一種變體。
正規化：在預正規化和後正規化中均使用RMSNorm。
上下文長度：Gemma 1和2的上下文視窗為8192個token。Gemma 3為128K個token。Gemma 4的上下文視窗可達256K個token。
詞彙量大小：詞彙量為256K個token，基於SentencePiece分詞器。
訓練數據：Gemma 2B和7B模型分別在2兆和6兆個token上進行訓練，主要來自網路文檔、數學和程式碼。Gemma 2的訓練數據集包含英文網路文檔、程式碼和科學文章。
多模態能力：Gemma 4原生支援文本、圖像、影片和音訊輸入。PaliGemma是一個專門的視覺語言模型。
參數規模：Gemma 1（2B, 7B）、Gemma 2（2B, 9B, 27B）、Gemma 3（1B, 4B, 12B, 27B）、Gemma 4（E2B, E4B, 12B, 26B MoE, 31B Dense）。
知識蒸餾：較小的Gemma 2模型（2B、9B）是透過從較大的27B模型進行知識蒸餾訓練而來。

Gemma持續發展多模態和高效能架構將加速邊緣AI的普及。

Gemma系列對小型、優化模型（如E2B、E4B、12B）的關注，以及Gemma 4原生多模態能力的引入，使其能夠部署在智慧型手機和筆記型電腦等消費級裝置上，無需依賴雲端即可提供先進的AI功能。

Gemma 4採用Apache 2.0許可證將顯著推動其在商業和開源專案中的應用，促進更大的創新和數位主權。

Apache 2.0許可證賦予了商業使用、修改和再分發的完全靈活性，消除了先前的限制，使開發者能夠完全掌控其AI部署。

Google對負責任AI和Gemma專用變體的重視將促成更值得信賴和領域特定的AI應用。

負責任生成式AI工具包以及ShieldGemma（用於安全）和MedGemma（用於醫療分析）等模型的推出，表明了Google在道德發展和為關鍵領域提供量身定制解決方案方面的戰略承諾。

2024-02

Google DeepMind首次發布Gemma模型系列，提供2B和7B兩種參數大小，作為Gemini的輕量級開源版本。

2024-04

發布Gemma 1.1，包含性能改進、錯誤修復和更靈活的使用條款。

2024-06

發布Gemma 2，引入9B和27B參數模型，顯著提升推理效率和性能，並在7月發布2B版本。

2025-03

發布Gemma 3，增加多模態能力（文本+圖像），並擴展到1B、4B、12B和27B等多種模型尺寸。

2026-04

發布Gemma 4，引入原生多模態（文本、圖像、影片、音訊）支援，並採用Apache 2.0開源許可證。

2026-08

Google DeepMind宣布Gemma模型系列的全球下載量突破十億次。

Gemma 下載量突破十億次