Search

Tag: #auditability8 results

使用 AgentCore Gateway 管理 AI Agent 工具

Amazon Bedrock AgentCore Gateway 為 AI agents 存取企業工具提供受治理且可稽核的方式，無需整合底層基礎架構。文章提出四個範疇的成熟度模型——Connect、Control、Catalog 與 Harden，讓企業依據實際營運需求逐步強化治理。

文章主張，受監管的 RAG 分類系統不應將所有模糊案例直接交給 LLM。級聯架構會先處理可由規則決定的案例，再擷取針對性證據，最後只將未解決的案例升級給模型，以提升可稽核性、一致性、成本效益與延遲表現。

Hypothesis Evolution Protocol (HEP) 為 LLM 代理進行科學研究提供了一個結構化框架。它將非結構化的推理轉化為可審計的操作，從而能夠更好地驗證假設生成、測試和信念更新的過程。

FirstResearch 引入了一種結構化的「研究問題證書」，使 LLM 生成的科學假設具備可檢查性和可審計性。該框架透過強制執行科學發現的明確推導約束，表現優於現有的基準代理。

Adobe 已在 Workfront 正式推出 AI Collaborators，讓使用者能像指派工作給人類團隊成員一樣，將任務交給具備權限的 AI 代理人。此功能包含內建的內容審查與專案協調代理人，也支援連接 Claude、Copilot Studio 和 Writer 等外部代理人。

SemantiClean 是一個模組化框架，旨在從電子商務數據中提取結構化語義訊號，同時優先考慮可審計性和可重現性。它利用四層架構和抗通膨機制，確保高品質且具備辯護性的行為推論。

PBRC 是一種協議級機制，用於多代理系統中嚴格分離開放通訊與可接受的信念變更，透過預註冊證據觸發器避免從眾導致的錯誤收斂。合約固定一階證據觸發、可接受修訂運算子、優先規則與後備政策，每項實質信念變更需提供外部驗證證據。論文證明其安全性，並展示審核性與邏輯規格化。

英國警方行為監察機構正調查一名德比郡高級警探，原因是他涉嫌使用未經批准的 AI 工具建立及維護案件決策日誌。這類日誌用於記錄警方決策背後的理由，並可能在法庭上接受檢視，成為關鍵證據。