全球AI治理難題即將浮現
全球多國AI治理方案呼之欲出。這不僅顯示AI技術解放生產力的同時，也帶來全球安全挑戰，並預示AI治理規則的全球博弈即將展開。
Search
Tag: #ai-governance244 results
Nvidia 代理式 AI 堆疊首度推出即內建安全
Nvidia 的代理式 AI 堆疊是首個主要平台在推出時即整合安全功能，與 CrowdStrike 和 Palo Alto Networks 等五家供應商合作。五家安全供應商宣布保護措施，其中四家已積極部署。治理缺口仍存，透過 OWASP Agentic Top 10 的五層框架進行映射。
微軟推出 Agent 365 治理 AI 代理
微軟宣布 Agent 365 和 Microsoft 365 Enterprise 7 正式上市，用於保護和治理企業 AI 代理，將於 5 月 1 日與 Microsoft 365 Copilot Wave 3 同步推出。Agent 365 每月每用戶 15 美元作為控制平面，而 Enterprise 7 套件每月每用戶 99 美元。超過 80% 的財富 500 強企業使用 AI 代理，但 29% 未經 IT/安全團隊批准即運行，帶來風險。
Qodo 2.1 解決 AI 編碼代理「失憶」問題，提升 11% 精準度
Qodo 推出 2.1 版，內建智慧規則系統，為 AI 程式碼審核提供持久記憶，取代檔案式的臨時解決方案。此系統從程式碼模式與過往審核自動產生規則，並在每個審核中強制標準。執行長 Itamar Friedman 稱這是轉向有狀態 AI 編碼工具的關鍵一步。
Rust 為 AI Coding 劃下界線
文章介紹 Rust 相關的 AI 程式設計使用規範：AI 可以協助檢視程式碼，但不應取代人類撰寫程式。規範也暗示當 AI 輔助使用過度時，可能觸發「熔斷」機制。
AI 為何卡在組織效益之前
企業正在大量試用 AI Agents，但局部效率提升尚未穩定轉化為成本、收入或利潤。實踐者認為，企業必須選擇可量化的高價值場景，並將少數 AI 超級個體的方法沉澱為可複製的組織能力。
打造多代理程式 M&A 盡職調查系統
AWS 展示一套建構於 Amazon Bedrock AgentCore 上的多代理程式 M&A 盡職調查系統。此參考架構結合代理程式協調、知識檢索與治理控制，並提供可部署至 AWS 帳戶的完整範例。
AI Agents 造成傷害時，誰須負責？
法律專家表示，AI agents 本身無法為其造成的傷害承擔法律責任。責任通常落在部署該代理的人員或組織身上，而開發者也可能視情況面臨法律責任。
在 AWS 上部署 Claude 治理層
AWS 提供 Claude apps gateway 的生產環境參考部署方案，這是一個連接 Claude Code、Claude Desktop 與 Amazon Bedrock 或 AWS 上 Claude Platform 的自託管治理層。指南涵蓋架構、企業部署模式、成本與實作資源。
📰
挑戰大型科技公司控制的開放式 AI
一名 xAI 共同創辦人正投入開發一家開源 AI 新創公司，專注於讓任何人都能訓練與調整模型。這項計畫旨在讓開發者與組織更能掌控 AI 如何依照自身需求發展。