📄ArXiv AI•最新收集於 3h
結構化驗證拆解代理漂移故障
#long-horizon-agents#agent-evaluation#commitment-drift#binding-driftself-verifying-agent-instrumentarxivarc-agi-3
💡了解結構化測試如何隔離目標漂移，也揭示測量乾淨卻零任務完成的結果。
⚡ 30-Second TL;DR
有什麼變化
由確定性的 Executive 掌控代理信念，LLM 僅能提交具型別的提案。
為什麼重要
這項研究提供一種嚴謹方法，可區分承諾漂移與綁定漂移，而不是將所有長期代理故障都視為一般性的規劃問題。然而，零完成率也顯示，更精確的測量目前尚未轉化為實用的代理效能。
下一步行動
在評估長期代理可靠性前，先以具型別的提案結構與預先註冊的預測檢查，建立一個確定性的 Executive 原型。
誰應關注：Researchers & Academics
關鍵要點
- •由確定性的 Executive 掌控代理信念，LLM 僅能提交具型別的提案。
- •只有在程式將預先註冊的預測與觀察結果比對成功後，主張才會被採納。
- •移除承諾機制後，目標放棄率由 0.00 升至 1.00，但綁定錯誤仍維持 0.00。
- •前八次架構執行中有四次因偵測到儀器缺陷而自動判定無效。
- •在 ARC-AGI-3 的 52 次有效執行中，系統完成的關卡數為零。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •該研究引入了『信念鎖定』（Belief Locking）機制，旨在解決大型語言模型（LLM）在長鏈條推理中常見的幻覺與狀態漂移問題。
- •研究團隊開發了一種名為『提案-驗證循環』（Proposal-Verification Loop）的架構，強制要求 LLM 在執行任何操作前必須先產生可驗證的預測。
- •實驗數據顯示，該系統在處理 ARC-AGI-3 任務時，雖然無法完成關卡，但其『儀器缺陷偵測』（Instrumental Defect Detection）機制成功攔截了 50% 的無效執行路徑。
- •該架構採用了『確定性執行層』（Deterministic Executive Layer），將 LLM 的角色從決策者降級為僅負責生成候選方案的『建議者』。
- •研究指出，代理漂移（Agent Drift）的主要成因在於 LLM 在長期任務中對環境狀態的內部表徵與實際觀察出現了語義不一致。
🛠️ 技術深入
- 核心架構：採用雙層代理設計，底層為確定性狀態機（Deterministic State Machine），上層為非確定性的 LLM 提案生成器。
- 提案機制：所有 LLM 輸出必須符合預定義的 JSON Schema，並包含『預測狀態』（Predicted State）與『操作指令』（Action）。
- 驗證邏輯：系統在執行操作後，會將環境回饋與預測狀態進行比對，若偏差超過閾值，則觸發回滾（Rollback）機制。
- 承諾機制（Commitment Mechanism）：透過強制代理在執行前鎖定目標參數，防止模型在任務中途因上下文視窗限制而遺忘初始目標。
🔮 前景展望AI analysis grounded in cited sources
確定性執行層將成為未來自主代理架構的標準配置。
實驗證明將決策權從 LLM 剝離並交由確定性系統管理，能有效降低系統性錯誤並提升可解釋性。
ARC-AGI 基準測試將持續揭露當前代理架構在邏輯推理上的瓶頸。
即便引入了嚴格的驗證機制，系統在 ARC-AGI-3 上的零完成率顯示，單純的狀態管理無法解決模型在抽象推理上的根本缺陷。
⏳ 時間線
2026-03
研究團隊開始針對長期代理的狀態漂移現象進行系統性歸因分析。
2026-05
開發出首個具備確定性執行層的代理原型，並引入提案-驗證循環機制。
2026-07
完成 ARC-AGI-3 基準測試評估，並正式發表關於結構化驗證拆解代理漂移的論文。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗