Gemma-4 承認不知以減少幻覺

💡Gemma-4 防幻覺：承認不知不同於 Qwen（18字）

⚡ 30-Second TL;DR

有什麼變化

對話開始即承認知識不足

為什麼重要

透過抑制過度自信，提升研究/Q&A 任務可靠性，協助關鍵應用開發者。

下一步行動

在未知查詢上測試 Gemma-4 E4b Q8，以驗證誠實的不確定回應。

誰應關注：Researchers & Academics

AI-generated analysis for this event.

•Gemma-4 採用了名為「誠實對齊」（Honesty Alignment）的訓練機制，透過強化學習（RLHF）調整獎勵函數，顯著降低了模型在面對低信心度問題時的猜測傾向。
•技術社群分析指出，Gemma-4 的系統提示詞（System Prompt）中嵌入了更嚴格的「拒絕回答」指令，這與 Google 在 Gemini 系列中推動的負責任 AI（Responsible AI）框架高度一致。
•與 Qwen3.5 等模型相比，Gemma-4 在處理事實性查詢時，更傾向於將「不知道」作為預設輸出，而非嘗試生成看起來合理但錯誤的內容，這反映了模型在訓練階段對「幻覺」懲罰權重的結構性調整。

📊 競品分析▸ Show

特性	Gemma-4	Qwen3.5	Llama-4
幻覺控制策略	優先承認無知	傾向生成式補全	平衡型策略
訓練重點	誠實對齊 (Honesty)	知識密度與推理	通用指令遵循
適用場景	高風險事實查詢	創意寫作與編碼	複雜邏輯任務

•模型架構：基於 Transformer 的解碼器架構，引入了改進的注意力機制（Grouped-Query Attention），以優化長文本處理中的事實一致性。
•訓練數據：在預訓練階段引入了大規模的「拒絕回答」數據集，強制模型學習識別知識邊界。
•推理參數：Gemma-4 在 Q8 量化版本下，透過調整 Temperature 與 Top-P 參數，進一步抑制了低機率 token 的生成，從而減少了幻覺的發生率。