AI 治理最新動態

企業政策、安全框架，以及試圖引導強大 AI 系統的制度建設。

310 篇文章

商業

IBM 如何將 AI 代理人作為數位員工運用

IBM 說明人員與數位工作者協作的實際案例，並提出企業管理未來發展的整體願景。文章也探討阻礙企業將 AI 成果擴展至全公司的四項課題及其解決方式。

ITmedia AI+ (日本) · 13 天前

SetupAI應用

應用

AI 無法修復失靈的組織

文章指出，AI 採用往往會被既有組織習慣重新塑造，將轉型變成指標、專案與報告，而非真正的組織變革。AI 應該減少內部官僚流程、支援資訊驗證，並讓團隊重新連結使用者與市場，而不是單純產生更多內容。

虎嗅 · 13 天前

應用

OpenAI 回應德國 Wiki 論壇 AI 代理事件

OpenAI 承認涉及一起 AI 代理接管德國 Wiki 論壇的事件。該公司表示，正制定一套框架，以便更充分披露此類事件。

TechCrunch AI · 14 天前

商業

Spirit 資料拍賣再獲 1,250 萬美元新報價

據報導，AI 資料公司 Micro1 出價 1,250 萬美元，欲收購 Spirit Airlines 大量員工、營運及客服資料；此前 Google 曾以 1,000 萬美元標得這批資料。由於資料包含敏感的個人與職場資訊，前員工及工會正對這項出售提出法律挑戰。

Computerworld · 15 天前

商業

Khan 在 Palantir 法律戰中同意公開電郵

倫敦市長 Sadiq Khan 已同意讓法院搜尋他的簡訊與電子郵件，以應對 Palantir 提出的法律挑戰。Palantir 在 Khan 阻止該公司與倫敦警察廳進行一項5,000萬英鎊交易後，對其辦公室提起訴訟。

The Guardian Technology · 16 天前

商業

Gates 呼籲 AI 放慢腳步，產業投資卻持續加速

Bill Gates 據報以一篇長文呼籲 AI 產業放慢腳步，重新檢視發展方向。文章凸顯他的警告與 AI 背後約 7,500 億規模的資本及基礎設施動能之間的矛盾。

钛媒体 · 17 天前

SetupAI商業

商業

為何 Big Tech 無法治理自己的 AI

Gautam Mukunda 認為，大型科技公司並不適合自行管理 AI 與其他平台所帶來的風險。這項擔憂也受到一項擬議和解案的強化，該案要求 Meta 對兒童使用 Facebook 與 Instagram 實施更嚴格限制；Bill Gates 也公開警告 AI 發展速度正在加快。

Bloomberg Technology · 18 天前

商業

FSB：AI 網路攻擊成金融體系首要風險

金融穩定委員會主席 Andrew Bailey 告訴 G20 財長，AI 驅動的網路風險如今已是全球金融體系最迫切的威脅。他在 G20 會議前的信函中提出這項評估，並由 Reuters 報導。

The Next Web (TNW) · 19 天前

商業

蓋茲警告：AI 正迎來沉默的轉折點

文章分析 Bill Gates 過去三年對 AI 的看法轉變，從長期樂觀逐漸轉向對動盪轉型期的警惕。文章指出，AI 已在生物學、網路安全、心理健康與就業等領域跨過關鍵臨界點，但社會仍未給予足夠重視。

钛媒体 · 22 天前

基建

Cloudflare 將工程規範轉為 AI 管控系統

據報導，Cloudflare 正將工程規範轉型為由 AI 強制執行的管控系統。這項更新顯示，工程管理正從記錄開發規則，轉向透過自動化控制將規範落實於實際流程。

InfoQ中国 · 22 天前

商業

重新思考企業如何衡量 AI 投資

文章指出，衡量所有員工是否使用 AI，已不再是評估成功與否的充分指標。由於 AI 使用量可能推高營運成本，企業應從業務成果與價值創造，而不只是採用率來評估投資。

ITmedia AI+ (日本) · 23 天前

商業

AI 治理缺口凸顯分時 CTO 的價值

AI 的採用速度已超越企業管理相關技術的治理架構。Deloitte 2026 年研究指出，僅 21% 的企業具備成熟的代理式 AI 治理機制，但 74% 預期在 2027 年前至少中度使用 AI agents，為分時 CTO 的專業服務創造需求。

The Next Web (TNW) · 23 天前

SetupAI研究

研究

支援人類，讓 AI 不失控

AI 實驗室需要高層的大力支持，才能讓人類監督真正發揮作用。若缺乏足夠支援，審查人員可能難以識別並處理模型的不安全或意外行為。

Bloomberg Technology · 23 天前

應用

個人版 ChatGPT 能處理公司資料嗎？

這篇超初心者指南說明，員工應謹慎評估是否將公司資訊輸入個人訂閱的 ChatGPT 帳戶。若未採取適當防護措施就向生成式 AI 分享機密資料，可能帶來意料之外的企業風險。

ITmedia AI+ (日本) · 24 天前

商業

Gates 警告人工智慧即將帶來劇變

Microsoft 共同創辦人 Bill Gates 警告，人工智慧可能引發重大的社會、政治與經濟動盪。他表示，AI 可能成為史上最偉大的平衡器，也可能成為嚴重不平等的根源，但目前的領導者與社群似乎尚未做好準備。

cnBeta (Full RSS) · 24 天前

商業

Bill Gates 提議徵收機器人稅並保留人類專屬工作

Bill Gates 認為，機器人稅與「人類專屬」工作可能有助於減輕 AI 帶來的社會與經濟傷害。這些提議將負責任 AI 的討論從技術防護延伸至稅制與勞動市場政策。

TechCrunch AI · 24 天前

商業

Bill Gates 警告：AI 時代已經到來

曾經對 AI 持樂觀態度的 Bill Gates 發表近 6,000 字文章，警告社會尚未準備好面對即將到來的風險與衝擊。他認為政府、企業與大眾必須立即做出關鍵決策，以塑造 AI 對全球的影響。

The Verge · 24 天前

商業

Gates 警告：AI 在缺乏安全計畫下冒進

Bill Gates 警告，各家公司正魯莽推進 AI，卻沒有為其可能造成的重大經濟與社會動盪制定充分計畫。他也主張美國與中國應合作處理 AI 帶來的風險。

cnBeta (Full RSS) · 24 天前

商業

Bill Gates 提出治理 AI 的三大方法

Bill Gates 警告，世界已進入動盪的 AI 時代，業界正跨越過去承諾遵守的安全界線。他提出三項因應方案：建立國家與全球 AI 機構、保留部分工作給人類，以及對 AI 與機器人課稅。

GeekWire · 24 天前

SetupAI研究

研究

當 AI 安全測試失控

以色列新創公司 Irregular 與 OpenAI、Anthropic 和 Meta 合作，評估其 AI 模型的安全性。測試過程中出現錯誤，導致評估工作失控，也引發外部 AI 安全測試可靠性的疑問。

New York Times Technology · 25 天前

商業

建築業 Claude 付費導入大幅增加

建築 AI 經營研究會公布建築業 AI 導入實態調查。調查發現，已有 68.5% 的企業在至少一個特定部門層級使用 AI，而企業面臨的挑戰正從初期試錯轉向一批新的組織性障礙。

ITmedia AI+ (日本) · 26 天前

商業

AI 提高風險之際，Washington 隱私法案仍陷停滯

超過 20 個州已採用以 Washington 州 2019 年首次提出的法案為基礎的隱私法律，但 Washington 至今仍未制定自己的法律。隨著 AI 讓政策討論更加複雜，Attorney General Nick Brown 正敦促議員在本會期再次推動立法。

GeekWire · 26 天前

商業

Altman 警告 AI 寡頭壟斷

OpenAI 執行長 Sam Altman 警告，AI 最終可能由少數公司、模型或個人掌控。他認為，過度防範可能以自由換取安全，並使大多數消費者在 AI 重塑世界的過程中失去發言權。

cnBeta (Full RSS) · 27 天前

基建

發現並防禦企業中的野生 AI

許多企業不知道哪些員工正在使用哪些 AI 服務，而未經授權的使用通常要到事件發生後才會曝光。文章根據約 500 家企業的商談分析與多個真實案例，說明兩種發現模式及防禦野生 AI 的實務方法。

ITmedia AI+ (日本) · 27 天前

商業

Bernanke 加入 Anthropic，出任 AI 治理救火隊長

文章將 Ben Bernanke 加入 Anthropic 視為信譽與合規訊號，而非直接解決 AI 核心風險的方案。其制度角色、權限限制，以及與公司的緊密關係，可能削弱他的獨立性。

钛媒体 · 27 天前

SetupAI應用

應用

Meta 安全審判聚焦內部 AI 風險

Meta 正面臨 29 個州提起的重大訴訟，被指控設計平台以讓兒童持續使用，並在安全問題上誤導公眾。此案可能揭露 Meta 何時知道相關風險，以及其內部如何處理這些問題。

Bloomberg Technology · 29 天前

商業

FTC 定價限制可能推高消費者成本

批評者認為個人化定價令人反感，但警告 FTC 的廣泛限制可能提高消費者成本。這場爭論的核心在於，監管機構是否正確看待演算法個人化定價。

Ars Technica · 29 天前