AI 治理最新動態

企業政策、安全框架，以及試圖引導強大 AI 系統的制度建設。

310 篇文章

商業

成功的 AI 代理知道何時該停止

企業發現，在實際生產環境中，職責明確且受規則約束的 AI 代理，往往比高度自主的系統表現更好。隨著成本、投資報酬率不明與治理不足威脅 Agentic AI 專案，競爭優勢正轉向可信度、可稽核性，以及取得風險與合規團隊核准的能力。

VentureBeat · 28 天前

SetupAI應用

應用

上海法院重罰 AI 偽造證據

上海智慧財產權法院維持對一家公司的 10 萬元人民幣罰款，該公司故意操縱 Baidu 的 AI 搜尋關聯，為商標侵權訴訟捏造證據。此案被稱為中國首宗因利用 AI 幻覺惡意取證而受到民事司法制裁的案件。

虎嗅 · 29 天前

研究

控制 API 型 AI 的隱性成本

這篇 arXiv 論文提出「受限主權」框架，用於評估組織透過受管理 API 使用模型、卻不擁有模型權重或基礎設施時的 AI 監督能力。合成實驗顯示，日誌、介入閘道、追蹤存取權與模型版本控制，會直接影響安全性、診斷能力及事故後問責。

ArXiv AI · 29 天前

商業

Velatir 募得 500 萬歐元，助企業掌控 AI

Odense 新創公司 Velatir 在完成前種子輪六個月後，募得 500 萬歐元種子輪資金。該公司協助企業掌握員工已在使用的 AI 工具，這輪融資由 Spintop Ventures 與 Ugly Duckling Ventures 共同領投。

The Next Web (TNW) · 30 天前

研究

為何 AI 排行榜忽視全球南方

這篇立場論文指出，AI 排行榜忽視全球南方，主因是治理薄弱、利益衝突與指標缺乏彈性，而非資料不足。論文以印度為案例，建議建立具獨立治理機制的區域排行榜，納入 IndicSUPERB、MILU 與 LAHAJA 等基準。

ArXiv AI · 30 天前

開源

僅靠模型卡片無法治理開放權重 AI

一篇分析 500 份 Hugging Face 模型卡片的立場論文指出，單靠模型卡片不足以治理開放權重基礎模型。論文建議結合模型卡片、可接受使用政策與授權條款，以處理安全性、來源、行為與執行方面的缺口。

ArXiv AI · 30 天前

商業

OpenAI 提高企業 AI 隱私防護競爭門檻

OpenAI 正透過更強的企業客戶隱私保護，尋求與 Anthropic 展開更直接的競爭。兩家公司正日益聚焦於如何更安全地處理客戶資料。

TechCrunch AI · 31 天前

SetupAI商業

商業

OpenAI 推出民主 AI 監督倡議

OpenAI 推出一項倡議，旨在強化國家安全領域 AI 的民主監督。該計畫將透過工具、培訓與專業知識支援政府機構。

OpenAI News · 32 天前

商業

Gemini 預設可存取 Workspace 資料

Gemini 預設可以存取 Gmail、Docs、Calendar、Chat 及其他 Google Workspace 服務中的資料。管理員應檢視相關設定；若不符合組織的隱私或治理要求，便應停用存取權限。

ZDNet AI · 32 天前

編程

Vibe coding 擴大企業全新攻擊面

分析師警告，透過與生成式 AI 對話建立應用程式的 vibe coding，可能暴露硬編碼密鑰、敏感檔案與智慧財產。其快速且易於使用的特性，也可能促使員工大量建立應用程式，卻缺乏一致的審查、掃描與安全控管。

Computerworld · 32 天前

研究

AI 治理需要可互通標準

這篇立場論文主張，AI 治理除了各司法管轄區的法律之外，也應採用類似 ISO 的互通協議。論文提出涵蓋偏誤、能源使用量與資料來源的機器可讀 AI 營養標籤，以簡化跨境合規並提升公眾信任。

ArXiv AI · 32 天前

商業

一站式追蹤 AI 用量與成本，企業免費使用

Money Forward 推出 Cloud AI Token Management，協助企業集中管理 ChatGPT、Claude 等 AI 服務的使用量與成本。取得 Money Forward ID 的使用者即可免費使用此服務。

ITmedia AI+ (日本) · 33 天前

開源

Rust 為 AI Coding 劃下界線

文章介紹 Rust 相關的 AI 程式設計使用規範：AI 可以協助檢視程式碼，但不應取代人類撰寫程式。規範也暗示當 AI 輔助使用過度時，可能觸發「熔斷」機制。

InfoQ中国 · 36 天前

應用

AI 為何卡在組織效益之前

企業正在大量試用 AI Agents，但局部效率提升尚未穩定轉化為成本、收入或利潤。實踐者認為，企業必須選擇可量化的高價值場景，並將少數 AI 超級個體的方法沉澱為可複製的組織能力。

虎嗅 · 36 天前

商業

打造多代理程式 M&A 盡職調查系統

AWS 展示一套建構於 Amazon Bedrock AgentCore 上的多代理程式 M&A 盡職調查系統。此參考架構結合代理程式協調、知識檢索與治理控制，並提供可部署至 AWS 帳戶的完整範例。

AWS Machine Learning Blog · 37 天前

應用

AI Agents 造成傷害時，誰須負責？

法律專家表示，AI agents 本身無法為其造成的傷害承擔法律責任。責任通常落在部署該代理的人員或組織身上，而開發者也可能視情況面臨法律責任。

The Guardian Technology · 38 天前

基建

在 AWS 上部署 Claude 治理層

AWS 提供 Claude apps gateway 的生產環境參考部署方案，這是一個連接 Claude Code、Claude Desktop 與 Amazon Bedrock 或 AWS 上 Claude Platform 的自託管治理層。指南涵蓋架構、企業部署模式、成本與實作資源。

AWS Machine Learning Blog · 39 天前

SetupAI開源

開源

挑戰大型科技公司控制的開放式 AI

一名 xAI 共同創辦人正投入開發一家開源 AI 新創公司，專注於讓任何人都能訓練與調整模型。這項計畫旨在讓開發者與組織更能掌控 AI 如何依照自身需求發展。

New York Times Technology · 39 天前

商業

Anthropic 路演爭取投資者，瞄準史詩級 IPO

Anthropic 正密集會見潛在投資者，為可能創下史上最大規模的 IPO 提振信心。公司承諾維持高速增長，並推出新措施以回應社會對 AI 日益升高的疑慮。

cnBeta (Full RSS) · 39 天前

研究

不評判內容也能治理 AI 輸出

Flow-by-Flow 提出一種在高損失領域治理 AI 輸出的方法，不要求人類或 AI 系統逐項判斷內容是否正確。該方法透過形式化認知成本評分、機構容量上限、與身分綁定的摩擦機制，以及禁止批次放行來控制監督負荷。

ArXiv AI · 39 天前

商業

南澳宣布成立人工智慧皇家委員會

南澳政府計畫於今年稍晚就人工智慧舉行皇家委員會。這項宣布顯示南澳將正式檢視該州與 AI 相關的議題。

iTNews Australia · 40 天前

應用

Salesforce 團隊面臨 AI 導入障礙

Copado 的調查發現，近九成 Salesforce 客戶認為業務過度依賴個人及流程屬人化是重要課題。超過八成受訪者期待 AI 能讓工作流程標準化，但已使用 AI 的企業也面臨缺乏驗證機制的新障礙。

ITmedia AI+ (日本) · 40 天前

研究

揭露 XAI 與歐盟解釋權之間的落差

這項系統性文獻回顧探討 Explainable AI 是否能依據 GDPR 第 15(1)(h) 條、AI Act 第 86 條及相關規範，實際落實歐盟的解釋權。在 2,643 筆初始紀錄中，僅 57 篇進入全文審查，且只有 19 篇真正整合法律與技術觀點，顯示合規與實作仍存在重大落差。

ArXiv AI · 45 天前

基建

Serverworks 推出 AWS 生成式 AI 治理服務

Serverworks 推出協助企業在 AWS 環境中建立生成式 AI 使用規範的服務。方案包含最快一個月完成規範制定的選項。

ITmedia AI+ (日本) · 45 天前

SetupAI研究

研究

讓 AI 成為組織中的持續異議者

文章主張，AI 應持續揭露風險並質疑組織偏差，而不應成為最終決策者。作者建議將 AI 的風險偵測與解釋權，和批准不可逆行動的權力分離。

虎嗅 · 45 天前

SetupAI商業

商業

Amazon AI 專案超支數百萬美元，五個月後才被發現

Amazon 發現多起因 AI 部署失誤與成本控管不足而導致的嚴重預算超支案例。其中一個使用 Claude Sonnet 的專案支出180萬美元，超出預算860%，其他專案也產生了意外成本。

IT之家 · 46 天前

影片

中國清理逾 1.33 萬條 AI 魔改影片

中國國家廣播電視總局公布，7 月清理逾 13,300 條違規 AI 魔改影片，並處置超過 30 個帳號。治理工作聚焦於扭曲經典作品、歷史、文化符號或兒童動畫形象的 AI 生成內容。