SetupAI商業
商業
AI 時代的「奧本海默」：創新背後的驅動力
作者 Sebastian Mallaby 探討了像 Demis Hassabis 這樣的 AI 領袖背後的複雜動機，平衡了科學好奇心與商業及政治壓力。本文強調了在快速發展的 AI 領域中，資本與研究之間的緊張關係。
Bloomberg Technology · 126 天前
AI 治理最新動態
企業政策、安全框架，以及試圖引導強大 AI 系統的制度建設。
310 篇文章
商業
百度成立模型委員會以管理 AI 發展
百度正式成立模型委員會 (BMC) 以監管其 AI 模型策略與治理。此舉標誌著該公司在管理大規模 AI 研究與部署方面的策略轉變。
Ifanr (爱范儿) · 127 天前
商業
警視廳警示「影子 AI」風險
東京都警視廳網路安全單位針對「影子 AI」—員工在工作中使用公司未管理 AI 服務—發出警示。警示透過官方 X 帳號發布，並以輕鬆圖解說明風險。
ITmedia AI+ (日本) · 130 天前
商業
Sutskever 堅守 Altman OpenAI 趕下台角色
Ilya Sutskever，前 OpenAI 首席科學家，於週一作證，堅守其在 Sam Altman 下台事件中的角色。他表示「我不希望它被毀滅」，指的是公司。
Wired AI · 131 天前
開源
開源商業化破解AI知識公地悲劇
探討AI時代知識公地的全新特質，如模組化、動態演化、資料偏見與算力差距。辨識悲劇形式包括資料濫用、模型污染與注意力稀釋。
虎嗅 · 137 天前
SetupAI應用
應用
AI推動智慧城市轉向自主時代
探討從空間性智慧城市轉向時間性自主城市，透過AI治理。強調對AI倫理、制度及數位公民的建設性視角。
虎嗅 · 141 天前
基建
AI 工廠實現規模主權
企業掌控自身資料以客製化 AI。挑戰在於平衡所有權與安全、高品質資料流。
MIT Technology Review · 141 天前
商業
CIO 準備因代理式 AI 混亂轉型執法者
Forrester 預測到本十年末，代理式 AI 熱潮將變得混亂，迫使 CIO 轉型為秩序執法者。若軟體自行撰寫軟體，風險將是「大規模系統性失效」。
The Register - AI/ML · 141 天前
商業
企業掙扎應對「無控」AI執行
新報告指出，AI採用不再是挑戰，執行才是。企業正面臨日益嚴重的「無控」AI使用問題。
TechRadar AI · 144 天前
應用
77% IT 經理：AI 代理失控
77% 的 IT 經理表示其 AI 代理失控。AI 代理的無節制擴散導致大量未經授權的 AI 應用程式湧現。
ZDNet AI · 145 天前
商業
72% 企業缺乏 AI 控制的幻象
VentureBeat 調查顯示，72% 企業聲稱擁有多个主要 AI 平台，暴露安全缺口並擴大攻擊面。Mass General Brigham 為 Microsoft Copilot 建置自訂安全包裝，以防止 PHI 外洩至 OpenAI。
VentureBeat · 151 天前
SetupAI研究
研究
中國 16 家科技社團聯合倡議全球 AI 治理
中國科協組織下，中國人工智能學會等 16 家單位共同起草《全球人工智能治理科技社團倡議》，強調有益民生、安全防範、公平參與及合作交流。倡議要求將安全作為底線、嵌入倫理全生命週期、尊重各國路徑，並建立跨界機制。
IT之家 · 159 天前
商業
OpenAI 與 Musk 再度爭執於播客
Wired 的「Uncanny Valley」播客集數討論 OpenAI 與 Elon Musk 的持續爭鬥。另涵蓋 DOJ 選民資料處理不當及 NASA Artemis II 任務返航。
Wired · 162 天前
基建
Orica 部署 AI 治理控制塔
Orica 建立 AI 治理框架以擴展 AI 計畫。該框架採用 ServiceNow 驅動的「控制塔」進行集中監督。
iTNews Australia · 173 天前
商業
英國企業不知AI危機停止速度
超過一半英國企業不知危機中能多快停止AI系統。這顯示AI問責制表現不佳。
TechRadar AI · 180 天前
基建
AI 工作負載首度 5 年內增加雲端浪費支出
AI 工作負載在五年內首度增加雲端浪費支出，伴隨著 AI 和雲端預算上升。公司擴張但效率不彰，導致資源浪費。
TechRadar AI · 183 天前
商業
Gartner 建議週五下午禁 Copilot 以防懶驗錯
Gartner 分析師 Dennis Xu 半開玩笑建議週五下午禁止使用 Microsoft Copilot，擔心用戶太疲憊懶得驗證其可能具冒犯性或錯誤的輸出。他指出確保此 AI 助手的安全並非簡單任務，需要高度警覺。
The Register - AI/ML · 187 天前
商業
修復企業 AI 失敗：三項立即變革
近期 AI 專案失敗多源自文化問題而非技術，如孤島團隊建置無人使用的模型。成功組織促進跨部門合作與共享責任。
VentureBeat · 188 天前
應用
小紅書向龍蝦AI發動保衛戰
小紅書針對平台上肆虐的「龍蝦」AI發起反擊。文章探討社群平台在AI威脅下的治理策略。
钛媒体 · 191 天前
應用
2026：治理型網路安全 AI 之年
全球資料外洩平均成本在 2025 年降至 444 萬美元，下滑 9%，為五年來首次下降，IBM 報告指出這得益於安全 AI 和自動化縮短偵測時間。文章預測 2026 年將成為治理型網路安全 AI 的元年。
The Next Web (TNW) · 193 天前
商業
Block裁員40%股價飆25%，AI效率論
Block在獲利創新高下裁員近40%，以AI小團隊協作創造更高價值為由。股價單日暴漲超25%。
虎嗅 · 200 天前
商業
Anthropic 自設的治理陷阱
Anthropic、OpenAI、Google DeepMind 等公司承諾負責任的自我治理。在缺乏外部規則下，幾乎無物能保護他們免於風險。
TechCrunch AI · 203 天前
商業
AI 審計員監控模型行為
AI 領域興起新職位 AI 審計員。類似財務審計員，他們觀察並報告 AI 模型行為與交易，而非金錢。
ZDNet AI · 203 天前
應用
撤下 Flock 攝影機仍無法終結監控
科羅拉多州 Longmont 市民曾因市政府讓 Flock Safety 的合約到期而反對其自動車牌辨識器。然而，當地議員之後批准了新的供應商，顯示即使成功抵制特定廠商，自動化監控仍可能持續。
The Guardian Technology · 30 天前
應用
Berkeley 教授承認使用 AI 編輯評論文章
UC Berkeley 數學教授 Zvezdelina Stankova 承認使用 AI 協助編輯一篇批評學生數學準備程度的評論文章。這項披露引發了對學術與公共寫作中透明度、作者身份及 AI 合理使用範圍的討論。
The Guardian Technology · 31 天前
商業
LeCun：AI 信任危機源於權力集中
文章聚焦 Dario 發布的公開長文引發廣泛關注，以及 LeCun 對其中 AI 信任危機問題的回應。LeCun 將信任危機歸因於權力集中，形成圍繞 AI 產業治理與權力結構的公開爭論。
InfoQ中国 · 32 天前
SetupAI商業
商業
年輕人不信任科技 CEO 的 AI 責任感
CNBC 與 Generational Lab 的調查發現，18 至 34 歲受訪者普遍不信任科技高管能在 AI 領域採取負責任的行動。在受訪的九位科技高管中，即使信任度最高者，也有至少 65% 的受訪者表示不信任；Palantir 高管受到的負面評價尤其明顯。
cnBeta (Full RSS) · 33 天前
商業
Semafor 的反規模化媒體實驗
The Verge 訪問 Semafor 總編輯 Ben Smith，討論該公司不斷演變的商業模式，以及現代新聞業面臨的倫理挑戰。訪談涵蓋 Semafor 對 AI 的態度、活動贊助、新聞編輯室獨立性，以及其作為「反規模化」媒體公司的策略。
The Verge · 33 天前
商業
Jill Lepore 警告機器治理民主的風險
歷史學家 Jill Lepore 認為，Silicon Valley 經常誤讀科幻作品，並以此合理化過度科技中心的治理願景。她在 Equity 訪談中討論「由機器治理」的概念，並批評 Elon Musk 對科幻作品的理解。
TechCrunch AI · 41 天前
商業
Jill Lepore 談 Silicon Valley 的「人工國家」
歷史學家 Jill Lepore 認為，科技公司經常以宏大且近似政府的語言描述其產品與平台。她將 Twitter 的「口袋中的市政廳」及 Anthropic 的 Claude constitution 等例子，與 Silicon Valley 對科幻小說理解有限的問題連結起來。
TechCrunch AI · 43 天前