SFT Drives Gemini’s Safety Properties

•監督式微調 (SFT) 不僅是提升模型安全性的關鍵，它也是將通用大型語言模型轉變為能遵循指令並在實際應用中保持一致行為的基礎技術。
•Google DeepMind 的研究發現，SFT 在 Gemini 安全性中的核心作用出乎其最初預期，這項結果將指導團隊未來的安全工作方向。
•SFT 可以與「安全感知微調 (SAFT)」等框架結合，該框架能自動檢測並過濾數據集中潛在的有害樣本，將有害性降低高達 27.8%，從而提高微調過程的效率和安全性。
•與強化學習 (RLHF) 相比，SFT 在實施和評估上更為簡單，它依賴標準的監督學習和客觀指標，使其在特定任務中更具成本效益和速度優勢。
•在許多成功的 AI 系統中，SFT 通常作為混合訓練流程的初始階段，為模型建立基礎任務技能和語言理解，隨後再透過 RLHF 進行更精細的對齊和行為優化。

📊 競品分析▸ Show

特性/方法	Google DeepMind (Gemini)	OpenAI (GPT 系列)	Anthropic (Claude 系列)
主要安全對齊方法	預訓練與監督式微調 (SFT) 為核心驅動力，強化學習 (RL) 影響不如預期顯著。	廣泛使用人類回饋強化學習 (RLHF)，人類審閱者對回應進行排名以確保安全性和實用性。GPT-5 引入「安全完成 (safe-completions)」以在安全限制內最大化實用性。	開創「憲法式 AI (Constitutional AI)」，透過 AI 回饋強化學習 (RLAIF) 讓模型學習價值觀和安全行為，而非大量依賴人類回饋。
安全機制重點	多模態原生訓練、自動化紅隊測試、模型強化、可配置內容過濾器。	嚴格測試、外部專家參與、部署後持續監控、內容過濾器、針對 GPT-5 的「審慎對齊 (deliberative alignment)」和「安全推理器 (Safety Reasoner)」。	將安全評估和道德對齊作為架構基石，專注於「代理式錯位 (agentic misalignment)」並訓練模型處理道德困境。

Gemini 模型家族採用多模態原生訓練，能夠同時處理和生成文本、電腦程式碼、圖像、音訊和影片等多種類型的數據。
Gemini 1.5 Pro 及後續模型採用「專家混合 (Mixture of Experts, MoE)」架構，將模型分為多個小型「專家」神經網絡，每個網絡專精於特定領域或數據類型，從而提高性能並降低計算成本。
Gemini 模型支援長上下文窗口，例如 Gemini 1.5 Pro 和 Gemini 3 可處理高達 100 萬個 token 的輸入，能夠分析長篇文件、程式碼庫或長時間的音訊和影片。
監督式微調 (SFT) 階段涉及使用精心挑選的優質回答範例來訓練模型。
Gemini 訓練數據的預處理包括去重、遵守 robots.txt 協議、安全過濾以及品質過濾，以降低風險並提高訓練數據的可靠性。
Gemini 3 引入了「思維簽名 (Thought Signatures)」機制，旨在跨多個步驟保留推理流程。
Google 使用其專有的張量處理單元 (TPU) 來訓練 Gemini 模型。
「安全感知微調 (SAFT)」框架透過利用有害和良性樣本的子空間資訊，自動檢測並移除數據集中潛在的有害數據。

未來AI安全研究將更著重於SFT階段的創新與優化。

由於研究發現SFT是Gemini安全行為的關鍵驅動力，這將促使研究人員投入更多資源探索SFT在模型安全上的潛力，例如開發更精確的數據過濾技術。

業界將開發更先進的自動化工具來增強SFT數據集的安全性與品質。

手動策劃安全數據集既耗時又主觀，因此自動化檢測和過濾有害數據的框架（如SAFT）將變得至關重要，以提高效率和模型安全性。

混合式AI訓練方法（SFT與RLHF結合）將成為主流，以兼顧基礎行為學習與複雜偏好對齊。

雖然SFT在Gemini的安全性中扮演核心角色，但RLHF在處理主觀判斷、倫理和風格等複雜、不可預測情境方面仍有其優勢，兩者結合能提供更全面的模型對齊。

2023-04

Google Brain與DeepMind合併，成立Google DeepMind，整合Alphabet的AI研究工作。

2023-05-10

Google I/O 2023 大會上，Google 宣布 Gemini 模型，定位為 PaLM 2 的更強大繼任者，並強調其多模態設計。

2023-12-06

Google 正式發布 Gemini，一個大型多模態語言模型 (LLM)。

2024-02

Bard 聊天機器人更名為 Gemini，Duet AI 也重新品牌為 Gemini，統一 Google 的 AI 產品線。

2025-05-20

Google DeepMind 發布白皮書，詳述如何透過自動化紅隊測試和模型強化來提升 Gemini 2.5 的安全性，以防範間接提示注入攻擊。

2025-11-18

Google 發布 Gemini 3 Pro，稱其為迄今為止最智能的模型，並立即在多個平台推出。

SFT 是 Gemini 安全性的核心驅動力