📄ArXiv AI•較早收集於 15h
Regimes：AI 代理的可審計自主改進迴圈
💡學習如何使用事件溯源運行時與受控驗證迴圈，構建可審計且具備自我改進能力的 AI 代理。
⚡ 30-Second TL;DR
有什麼變化
利用事件溯源代理運行時，確保每個改進決策均可記錄且可重現。
為什麼重要
這項研究提供了一個超越「黑盒」代理調整的框架，為邁向可靠、自我改進且具備企業合規審計軌跡的系統提供了途徑。
下一步行動
為您的代理狀態轉換實作事件溯源日誌架構，以啟用可重現的除錯與自動化補丁驗證。
誰應關注：Researchers & Academics
關鍵要點
- •利用事件溯源代理運行時，確保每個改進決策均可記錄且可重現。
- •實作了受控的驗證迴圈，透過靜態檢查、沙盒執行與驗證集評估來驗證補丁。
- •在 LongMemEval 上透過診斷並修復檢索與協調失敗，顯著提升了準確度。
- •將「提示詞作為發現探針」定位為系統化代理管線優化的方法。
🧠 深度解析
Web-grounded analysis with 17 cited sources.
🔑 增強重點摘要
- •Regimes所利用的ActiveGraph運行時，透過將僅追加事件日誌作為絕對真相來源，顛覆了傳統LLM代理架構，而非將日誌層作為附加組件。
- •此架構實現了「廉價分叉」（cheap forking），允許在任何事件點分支運行，而無需重新執行先前步驟，並提供完整的端到端血緣追蹤，這對於偵錯和自主改進至關重要。
- •「提示詞作為發現探針」的方法是一種系統化的代理管線優化策略，透過多代理提示優化框架，根據資料集層級的效能和可解釋性回饋，迭代地精煉提示詞，以發現可解釋且具區辨性的特徵定義，超越了單樣本監督的限制。
- •LongMemEval基準測試，用於驗證Regimes的效能，專門評估LLM聊天助理的五項核心長期記憶能力：資訊提取、多會話推理、知識更新、時間推理和安全棄權，並採用混合評估協議。
- •ActiveGraph是一個開源（Apache-2.0）專案，被視為BabyAGI的直接後代，它將BabyAGI的循環重新表達為共享圖上的反應式行為，從而將代理的瞬態狀態轉換為持久、可檢查和可重放的工件。
📊 競品分析▸ Show
| 框架名稱 | 核心特點 | 可審計性/可重現性 | 多代理支援 | 偵錯/可觀察性 |
|---|---|---|---|---|
| Regimes (基於 ActiveGraph) | 事件溯源反應式圖、僅追加日誌作為真相來源、行為對圖變化作出反應 | 核心架構：確定性重放、廉價分叉、端到端血緣追蹤 | 透過共享圖協調行為 | 透過事件日誌和圖狀態進行完全可追溯的故障診斷 |
| LangChain/LangGraph | 廣泛採用的代理框架，支援工具使用、記憶體管理和工作流程編排；LangGraph提供有狀態的圖形工作流程 | LangSmith提供追蹤、測試和效能監控；LangGraph具有先進的狀態機功能 | 強 | LangSmith提供深度追蹤和AI驅動的偵錯 |
| AutoGen (Microsoft) | 用於建立多代理AI應用程式的開源框架，擅長對話式多代理模式 | 支援事件驅動架構，有助於追溯 | 強 | 核心層提供追蹤和偵錯工具 |
| CrewAI | 專注於多代理系統，代理透過角色、背景故事和工具協作 | 較少強調內建的可審計性，但可與外部工具整合 | 強 | 可與AgentOps等工具整合進行偵錯 |
| Databricks Agent Bricks | 受管代理執行時，用於企業級AI操作，強調治理和資料血緣 | 強：MLflow追蹤、Unity Catalog治理、Delta Lake時間旅行功能提供歷史資料快照 | 支援多代理部署 | MLflow記錄追蹤、評估和模型版本 |
| AgentOps | 專為自主AI代理設計的開發者導向可觀察性平台 | 提供時間旅行偵錯和會話重放功能 | 支援多種框架，包括多代理框架 | 專注於重現代理行為，事件檢視器顯示工具呼叫、LLM回應和狀態變化 |
| Langfuse | 開源追蹤和提示管理，支援自託管 | 提供追蹤和提示管理，有助於資料控制 | 支援代理行為追蹤 | 開源追蹤和提示管理，可視化追蹤 |
🛠️ 技術深入
- ActiveGraph的核心是僅追加事件日誌，作為系統的絕對真相來源。
- 代理的運作圖是該日誌的確定性投影，透過重放操作重新計算，保證確定性。
- 行為（behaviors）是普通的函數、類別、LLM支援的例程或附加到類型化邊緣的邏輯，它們對圖中的變化作出反應並發出新事件。
- 系統中沒有中央協調器；所有協調完全透過共享圖進行。
- 確定性重放透過內容定址快取實現，該快取記錄模型和工具的回應，確保重放時不會進行新的模型呼叫，從而實現位元組級別的可重現性。
- 分叉（forking）允許在任何歷史事件點分支運行，共享前綴會從快取中重放，避免重複的LLM呼叫。
- 端到端血緣追蹤確保圖中的每個物件都明確連結到其來源，包括事件、行為、證據和LLM呼叫。
- ActiveGraph作為一個Python套件提供，可透過
pip install activegraph安裝。
🔮 前景展望AI analysis grounded in cited sources
AI代理的可靠性和可信度將大幅提升。
Regimes透過事件溯源和可審計的改進迴圈，為AI代理提供了前所未有的透明度和可重現性，這對於高風險應用至關重要。
自我改進型AI代理的開發將加速並變得更安全。
ActiveGraph架構允許代理行為的修改本身也被記錄為事件，使得自我修改的代理能夠被追蹤、審計和回溯，降低了不可預測行為的風險。
AI代理的監管和合規性將更容易實現。
完整的事件日誌和端到端血緣追蹤提供了詳細的審計線索，有助於滿足日益嚴格的AI治理和法規要求。
⏳ 時間線
2023
Yohei Nakajima發布BabyAGI，為自主代理系統奠定基礎
2026-05
ActiveGraph運行時發布，作為「The Log is the Agent」論文的核心，引入事件溯源反應式圖架構
📎 來源 (17)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ArXiv AI ↗