Search

Tag: #governance131 results

全新協議提升多代理知識庫的韌性

研究人員提出了一種審議式策劃協議，用於管理協作型 AI 代理，解決了如諂媚行為與無狀態性等問題。該系統利用聲譽加權投票與人工製品生命週期管理，在對抗性條件下維持知識的完整性。

Amazon Bedrock AgentCore Gateway 現已增強對 Model Context Protocol (MCP) 的支援。此更新為企業在生產環境部署 MCP 時，提供了集中化的憑證管理、增強的可觀測性以及穩健的安全控制措施。

AWS Machine Learning BlogOfficial•Jun 1#aws #mcp #agentic-ai

本文探討將城市與國家治理交給 AI 的風險，指出 AI 雖擅長執行層面的優化，但缺乏政治與司法決策所需的道德框架。文章強調必須設立「硬性邊界」，以防止 AI 為追求安全指標而犧牲人類基本權利。

Anthropic 的 Claude 已正式進入企業級 AI Agent 編排市場，標誌著從單純的模型使用轉向整合式 AI 工作流程。儘管目前由 Microsoft 和 OpenAI 主導，但 Anthropic 的加入預示著 AI 基礎設施領域的新競爭格局。

AWS 與 Cisco 合作解決企業 AI 安全挑戰，重點在於 MCP 與 A2A 部署中的可視性差距、安全瓶頸與合規風險。

AWS Machine Learning BlogOfficial•May 13#ai-security #governance #compliance

OpenAI 執行長 Sam Altman 作證表示，Elon Musk 曾考慮將 OpenAI 交給他的子女。他形容與 SpaceX 創辦人的對話「特別驚心動魄」。這發生在 Musk 與 OpenAI 的持續法律糾紛中。

OpenAI 執行長 Sam Altman 作證表示，對 Elon Musk 在 2017 年要求完全控制 OpenAI 擬議營利子公司感到「極度不舒服」。該對話在 AI 安全背景下被形容為「駭人聽聞」。突顯 AI 領導層早期緊張關係。

Bloomberg TechnologyMedia•May 12#ai-safety #governance #testimony

Page 6 of 14