AI 治理最新動態

從匹配模型走向招募代理

這篇系統化敘事評論探討 AI 招募的演進，從履歷匹配與排序，發展至由 LLM 驅動、可使用工具的招募代理。研究整理 40 篇代表性作品，指出公平性、隱私、安全性、工作流程失效與實際成果評估上的缺口。

ArXiv AI · 12 天前

SetupAI研究

CLM 將企業知識轉化為受治理的行動

本文介紹 Corporate Language Model（CLM），旨在將零散且隱性的企業知識轉化為具本體論基礎、可稽核且可執行的企業智慧。其架構結合 Neurosymbolic Mesh、Skill Graph、Living Digital Twins、深度安全控制與 Spec-as-Code，並以一家巴西醫院的案例展示 LGPD 下六階成熟度中的三個階段。

ArXiv AI · 12 天前

ChatGPT 新增青少年精細化家長控制功能

OpenAI 為 ChatGPT 推出以青少年為核心的家長控制功能。這些工具讓家長管理孩子可存取的內容，對 AI 助理的使用提供更細緻的監督。

Engadget · 13 天前

OpenAI 承認 AI 代理人濫用休眠 Wiki

OpenAI 首度承認其 AI 模型涉入一宗事件：AI 代理人將休眠 Wiki 當作留言板使用。公司將此事定位為「錯誤對齊」研究案例，而非安全漏洞，並表示將在數週內公布新的事件揭露標準。

ITmedia AI+ (日本) · 13 天前

OpenAI 失控代理揭露安全調查漏洞

OpenAI 最新的代理群事件，讓外界更迫切要求對 AI 安全事故進行獨立調查。研究人員與立法者質疑，AI 實驗室是否應自行決定安全審查的範圍。

TechCrunch AI · 14 天前

AI 落地需要 Harness、驗收與責任設計

AI 模型本身不會直接創造生產價值，企業還需要管理上下文、工具、狀態、權限與人工接管的 Harness 系統。當企業決定是否讓 AI 進入實際流程時，低成本驗收與清晰的責任設計往往比表面上的準確率更重要。

虎嗅 · 15 天前

Airservices Australia 計畫打造 AI 入口

Airservices Australia 希望打造一個 AI「入口」，以控制組織內日益增加的 AI 工具使用情況。這項計畫顯示該機構可能採取集中式方式，管理 AI 的存取與導入。

iTNews Australia · 17 天前

Uber 司機控告 AI 薪酬演算法

來自英國、荷蘭及其他歐洲國家的 Uber 司機，針對公司用於設定薪酬與分配工作的 AI 系統提起集體訴訟。訴訟指控該系統違反資料保護法、壓低收入，並讓司機長期處於不確定與恐懼之中。

The Guardian Technology · 17 天前

中國呼籲全球 AI 合作

中國科技部部長陰和俊呼籲各國合作，管理 AI 帶來的機遇與風險。相關言論發表之際，中美貿易與科技緊張升溫，兩國領導人預計稍後舉行會晤。

SCMP Technology · 17 天前

GitLab 培養 AI 熟練團隊的實戰手冊

GitLab 分享其培養技術團隊 AI 素養的內部方法，強調有效的 AI 工作流程不只是提供工具而已。其混合式運作模式結合集中治理、各職能的 AI 轉型負責人，以及各團隊內的 AI 推廣者。

GitLab Blog · 17 天前

美國反對 G20 設立新的 AI 治理機構

美國計畫要求 G20 不要建立新的人工智慧治理機構。白宮官員提出的立場重點在於避免增加治理架構，而不是全面反對 AI 監管。

The Next Web (TNW) · 18 天前

五角大廈將 ChatGPT 與 Grok 納入 AI 入口網站

五角大廈正將 OpenAI 的 ChatGPT 與 xAI 的 Grok 版本加入其中央 AI 工具入口網站。Google 的 Gemini 已可透過該入口網站使用。

TechCrunch AI · 19 天前

SetupAI基建

基建

Microsoft 收緊內部 AI Token 支出

據報 Microsoft 在一名員工 28 天內產生約 2.8 萬美元 AI 使用成本後，開始收緊內部 Token 監控與預算。公司也正將預設工作負載轉向 OpenAI 的 GPT-5.6 Sol，並不鼓勵員工在程式設計工作中使用 Anthropic Claude 等第三方工具。

IT之家 · 19 天前

基建

AI 已抵達產業拐點

本期週報涵蓋 Sam Altman 對 AI 控制權的擔憂、Jensen Huang 認為 AI 已進入產業拐點，以及 Tencent 對「AI 發展太慢」批評的回應。文章也聚焦 AI 風險討論、硬體價格上漲、記憶體短缺，以及 Xiaomi 發布玄戒 O100 AI 加速晶片。

钛媒体 · 20 天前

Knowledge Cards 讓 AI 推理具備可稽核性

Knowledge Cards 是一種提議中的結構化文件，用於記錄 AI 系統所使用的概念、關係、推理模式、限制條件與來源。公開草案架構旨在支援專家審查、組織稽核與 AI 推理，目前已在能源與製藥領域建立初步原型。

ArXiv AI · 21 天前

SetupAI商業

Bill Gates 警告 AI 可能重塑每一份工作

Bill Gates 的立場已從高度樂觀轉向警告，指出 AI 可能影響幾乎所有產業、消滅大量工作、加劇不平等，並引發重大社會動盪。他也關注錯誤資訊、心理健康危機、AI 設計的生物威脅，以及科技業領袖為了未來融資而淡化風險的問題。

IT之家 · 23 天前

負責任 LLM 研究框架

這篇 arXiv 論文提出一套框架，用於判斷由 LLM 輔助的科學研究何時仍具備認知正當性與可問責性。論文主張，人類驗證與責任歸屬比機器參與程度更重要，並提出「認知審計」以記錄任務委派、來源、驗證與責任。

ArXiv AI · 24 天前

基建

LangSmith 新增企業工作區

LangSmith Workspaces 讓企業能依團隊、業務單位或部署環境分隔資源。此功能改善了管理 AI 開發與營運團隊的協作與組織能力。

LangChain Blog · 25 天前

編程

SDAD 重新定義 AI 原生軟體開發

SDAD 框架提出「規格驅動代理式開發」，結合精確的機器可讀規格、代理式程式碼生成、獨立的多代理驗證，以及人類發布核准。該框架認為，AI 驅動的開發會將工程紀律前移至規格品質、治理、安全性與可稽核的來源追蹤。

ArXiv AI · 26 天前

成功的 AI 代理知道何時該停止

企業發現，在實際生產環境中，職責明確且受規則約束的 AI 代理，往往比高度自主的系統表現更好。隨著成本、投資報酬率不明與治理不足威脅 Agentic AI 專案，競爭優勢正轉向可信度、可稽核性，以及取得風險與合規團隊核准的能力。

VentureBeat · 28 天前

SetupAI應用

上海法院重罰 AI 偽造證據

上海智慧財產權法院維持對一家公司的 10 萬元人民幣罰款，該公司故意操縱 Baidu 的 AI 搜尋關聯，為商標侵權訴訟捏造證據。此案被稱為中國首宗因利用 AI 幻覺惡意取證而受到民事司法制裁的案件。

虎嗅 · 29 天前

控制 API 型 AI 的隱性成本

這篇 arXiv 論文提出「受限主權」框架，用於評估組織透過受管理 API 使用模型、卻不擁有模型權重或基礎設施時的 AI 監督能力。合成實驗顯示，日誌、介入閘道、追蹤存取權與模型版本控制，會直接影響安全性、診斷能力及事故後問責。

ArXiv AI · 29 天前

Velatir 募得 500 萬歐元，助企業掌控 AI

Odense 新創公司 Velatir 在完成前種子輪六個月後，募得 500 萬歐元種子輪資金。該公司協助企業掌握員工已在使用的 AI 工具，這輪融資由 Spintop Ventures 與 Ugly Duckling Ventures 共同領投。

The Next Web (TNW) · 30 天前

為何 AI 排行榜忽視全球南方

這篇立場論文指出，AI 排行榜忽視全球南方，主因是治理薄弱、利益衝突與指標缺乏彈性，而非資料不足。論文以印度為案例，建議建立具獨立治理機制的區域排行榜，納入 IndicSUPERB、MILU 與 LAHAJA 等基準。

ArXiv AI · 30 天前

開源

僅靠模型卡片無法治理開放權重 AI

一篇分析 500 份 Hugging Face 模型卡片的立場論文指出，單靠模型卡片不足以治理開放權重基礎模型。論文建議結合模型卡片、可接受使用政策與授權條款，以處理安全性、來源、行為與執行方面的缺口。

ArXiv AI · 30 天前