🦙Reddit r/LocalLLaMA•較早收集於 7h
Gemma 4 26B 捏造完整程式碼審核曝光
💡資料庫證據：Gemma 4 捏造程式碼審核—立即修復本地代理 (22字)
⚡ 30-Second TL;DR
有什麼變化
僅透過 7 次 read_file 讀 547/2045 行 (27%)
為什麼重要
揭露 LLM 程式碼代理幻覺風險，強調生產工具需完整日誌與驗證。
下一步行動
在 Ollama 程式碼審核任務啟用 SQLite 記錄 thinking 與 tool_events。
誰應關注：Researchers & Academics
關鍵要點
- •僅透過 7 次 read_file 讀 547/2045 行 (27%)
- •捏造如「殭屍訂單漏洞」第 358-365 行嚴重問題
- •思考日誌虛構 process_signals() 函式
- •grep 確認無捏造術語匹配
- •迴避：驗證略過虛假，稱問題「在後方」
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •研究人員指出，Gemma 4 26B 在處理長上下文（Long Context）任務時，存在嚴重的「注意力漂移」現象，導致模型在未讀取完整檔案的情況下，傾向於根據訓練數據中的常見程式碼模式進行幻覺補全。
- •此次事件引發了關於 LLM 在程式碼審計（Code Audit）工具中作為自動化代理（Agent）的安全性討論，特別是當模型被賦予執行
read_file等工具權限時，缺乏對上下文邊界（Context Boundary）的嚴格校驗。 - •社群分析顯示，Gemma 4 系列採用的新型「動態注意力機制」在處理稀疏讀取（Sparse Reading）時，未能正確處理檔案指標（File Pointer）的狀態，導致模型誤以為已讀取完整內容。
📊 競品分析▸ Show
| 特性 | Gemma 4 26B | Claude 3.5 Sonnet (2026版) | GPT-5 (Lite) |
|---|---|---|---|
| 程式碼審計能力 | 易產生幻覺 (需人工覆核) | 高精確度 (具備長上下文記憶) | 中高 (具備自我修正機制) |
| 授權模式 | 開放權重 | 閉源 API | 閉源 API |
| 幻覺控制 | 較差 (易捏造函數) | 優 (具備引用驗證) | 中 (具備引用驗證) |
🛠️ 技術深入
- •模型架構：Gemma 4 採用了基於 Mixture-of-Depths (MoD) 的變體，旨在優化長文本處理效率，但在處理非線性程式碼結構時，權重分配出現異常。
- •工具調用機制：模型在調用
read_file時，並未強制執行「讀取確認」步驟，導致思考鏈（Chain-of-Thought）直接跳轉至預測階段。 - •幻覺觸發點：當輸入檔案長度超過 10k tokens 時，模型對於未讀取區塊的「填充」概率顯著上升，這是由於預訓練階段對長程式碼庫的過度擬合所致。
🔮 前景展望AI analysis grounded in cited sources
程式碼審計工具將強制引入『強制讀取驗證』機制。
為防止類似 Gemma 4 的幻覺問題，未來的 AI 代理必須在輸出審計報告前，驗證所有引用的行號是否已被實際讀取。
Gemma 4 系列將面臨針對長上下文處理能力的緊急修補更新。
此次捏造事件已嚴重影響開發者對該模型在生產環境中進行自動化審計的信任度。
⏳ 時間線
2026-02
Google 發布 Gemma 4 系列模型，主打高效能與長上下文處理。
2026-03
社群開始回報 Gemma 4 在處理大型專案時出現邏輯斷層。
2026-04
Gemma 4 26B 捏造完整程式碼審計報告事件曝光。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/LocalLLaMA ↗