🗾ITmedia AI+ (日本)•較早收集於 52m
IBM 發表大規模 AI 代理治理框架
💡了解在企業生產環境中擴展至數千個 AI 代理時，如何維持控制權與治理能力。
⚡ 30-Second TL;DR
有什麼變化
引入用於代理協調的結構化 AI 營運模型
為什麼重要
這為企業提供了一種標準化方式來擴展 AI 代理部署，同時不失去監督能力，降低了代理行為失控的風險。
下一步行動
根據 IBM 的新治理框架評估您當前的代理協調層，以找出多代理策略執行中的潛在缺口。
誰應關注：Enterprise & Security Teams
關鍵要點
- •引入用於代理協調的結構化 AI 營運模型
- •專注於大規模代理部署的治理與控制
- •解決管理數千個並發 AI 代理的複雜性
🧠 深度解析
Web-grounded analysis with 25 cited sources.
🔑 增強重點摘要
- •IBM 的新框架是其「AI 營運模式」藍圖的一部分，該藍圖由代理、數據、自動化和混合雲四大整合系統組成，旨在以與關鍵基礎設施相同的嚴謹性、治理和規模來管理 AI 系統。
- •此解決方案包含新一代的 IBM watsonx Orchestrate，專為多代理編排而設計，以及 watsonx.governance，用於對機器學習和生成式 AI 模型（包括代理）進行端到端的監控和風險管理。
- •該框架旨在解決企業在擴展 AI 時面臨的挑戰，例如數據孤島、治理定義不清以及基礎設施不一致等問題，這些問題阻礙了 AI 的規模化應用。
- •watsonx.governance 透過將負責任 AI 的實踐從預測性機器學習模型擴展到生成式 AI，確保可解釋性，並減輕與模型、用戶和數據集相關的風險，從而支持負責任的 AI 應用。
🛠️ 技術深入
- IBM watsonx.governance 整合了 Watson OpenScale（用於根據公平性和漂移等閾值評估已部署資產）和 AI Factsheets（用於收集機器學習模型和提示模板的元數據），並納入 OpenPages 的模型風險治理功能。
- AI 營運模式建立在 Red Hat OpenShift 和 Red Hat AI 等開放、企業級技術之上。
- watsonx Orchestrate 被描述為企業環境中管理大量 AI 代理的多代理控制平面。
- IBM Bob 是一個代理型開發夥伴，旨在內建安全和成本控制來構建代理，支持多模型協作（例如 IBM Granite、Claude、Mistral），並能理解 COBOL 等傳統程式語言。
- 該框架強調端到端的風險管理，包括推論追蹤、生產前壓力測試，以及針對越獄、提示注入和中毒等問題的獨立安全防護措施。
- 它還包含嚴格的安全要求，如基於角色的存取控制、工具允許列表、輸入驗證、記憶體治理和鑑識級日誌記錄。
🔮 前景展望AI analysis grounded in cited sources
企業將從單點 AI 工具應用轉向全面的 AI 營運模式重塑。
IBM 及其他機構的研究顯示，多數企業 AI 專案失敗的原因在於缺乏整合的營運框架，而非 AI 技術本身，這將驅使企業採用更全面的 AI 營運模式。
AI 代理的治理與安全將成為企業導入 AI 的關鍵瓶頸。
隨著 AI 代理自主性提高，企業面臨如何檢視 AI 決策、劃定權限邊界、確保合規性及應對新型資安威脅的挑戰，促使治理框架成為核心需求。
企業將更重視 AI 系統的「可觀測、可控制、可信任」能力。
代理型 AI 的黑盒子特性和自主學習能力，使得企業需要更清晰地掌握 AI 代理的執行過程、監控用量並整合工具，以建立信任和確保責任歸屬。
⏳ 時間線
1955
「人工智慧」一詞誕生，IBM 的 Nathaniel Rochester 共同提交達特茅斯研討會提案。
2016
IBM 引入 AI 助理以協助人力資源部門，展現早期內部 AI 應用。
2024-09
IBM 發布「企業 AI 治理手冊」，旨在加速 AI 治理的實施。
2025-05
IBM 的生成式 AI 相關產品累計營收突破 125 億美元，諮詢業務積壓訂單龐大。
2026-03
玉山銀行與 IBM 合作，建立領先台灣業界的企業級 AI 治理框架，參考歐盟 AI 法案和 ISO 42001 等國際標準。
2026-05
IBM 在年度 Think 大會上發布「AI 營運模式」藍圖，並全面擴展企業 AI 和混合雲管理能力，包括新一代 watsonx Orchestrate 和 IBM Bob。
📎 來源 (25)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ITmedia AI+ (日本) ↗