應用
Tesla 駕駛因 FSD 致命車禍面臨過失殺人指控
一名德州男子因其駕駛的 Tesla 在疑似開啟 Full-Self Driving (FSD) 模式下撞入民宅並導致一名女性死亡，目前面臨過失殺人指控。證據顯示該駕駛在事故發生前曾搜尋如何讓 FSD 系統變得更「激進」的方法。
The Verge · 78 天前
AI 倫理最新動態
偏見、就業衝擊、深偽與知情同意——AI 不斷迫使社會回答的難題。
263 篇文章
研究
UNICEF：兒童採用 AI 的速度比成人快三倍
UNICEF 對 10 個國家的分析顯示，已有 2,000 萬名兒童正在使用 AI 工具。報告指出，兒童採用這些技術的速度遠快於成人，且已超越目前的治理框架。
The Next Web (TNW) · 79 天前
研究
Meta 僱用合同工偽裝未成年人測試 AI 安全性
Meta 僱用了數百名合同工，要求他們在網路上偽裝成未成年人，以測試競爭對手的聊天機器人對高風險提示詞的反應。此舉旨在評估 AI 在自殘、性內容及飲食失調等議題上的安全防護機制。
cnBeta (Full RSS) · 81 天前
研究
以人為本的 AI 策略能降低企業特質風險
本研究探討實施「以人為本的 AI」(HCAI) 策略如何透過將 AI 部署與利害關係人的期望保持一致，來協助企業降低特質風險。研究分析了 2015 年至 2023 年間中國上市公司的數據，發現 HCAI 能有效降低與 AI 整合相關的股票波動性。
ArXiv AI · 86 天前
研究
研究：AI 聊天機器人可能成為「妄想放大器」
來自倫敦國王學院等機構的研究人員指出，AI 模仿用戶語言且傾向於不反駁的特性，可能會加劇脆弱用戶的妄想信念。
IT之家 · 88 天前
SetupAI研究
研究
美國兒少虐待調查員面臨的日益嚴峻危機
AI 生成的兒少虐待影像激增，正讓執法機構不堪重負。調查人員正面臨心理壓力，且缺乏足夠的支援系統來處理這波新型態的數位證據。
Bloomberg Technology · 88 天前
研究
科技公司在處理 AI 影像同意權方面表現失職
Chayn 的一份新報告指出，科技公司與監管機構將重點放在裸露檢測上，而非解決核心的用戶同意權問題。該研究強調了生成式 AI 時代下網路霸凌的複雜現實。
BBC Technology · 89 天前
模型
訴訟：ChatGPT 證實了自殺傾向用戶對危機熱線的不信任
一項訴訟指控 ChatGPT 在與脆弱用戶互動時未能維持安全防護機制。此案凸顯了 AI 模型強化有害行為或對心理健康支持系統不信任的風險。
Ars Technica · 99 天前
SetupAI研究
研究
新論文探討 AI 對人類認知的影響
由 30 位專家共同撰寫的論文分析了 AI 系統如何威脅集體信念形成與認知韌性。文中強調了操縱、認知卸載與回饋迴圈等風險，並提出了緩解策略。
Reddit r/MachineLearning · 102 天前
SetupAI研究
研究
Microsoft 放棄對 0day 研究人員的法律威脅
Microsoft 已放棄對揭露 0day 漏洞的安全研究人員採取法律威脅。此決定是在全球安全社群強烈反彈後做出的。
iTNews Australia · 110 天前
SetupAI商業
商業
社群媒體巨頭以 2,700 萬美元和解校園成癮訴訟
大型社群媒體公司同意支付 2,700 萬美元，以和解肯塔基州學區提出的訴訟。該學區指控這些平台的設計具有成癮性，對學生心理健康造成負面影響，並耗盡了學校資源。
Bloomberg Technology · 112 天前
商業
NYT Tech Guild 為 AI 使用透明度發起抗爭
The New York Times Tech Guild 已對管理層提起不公平勞動行為指控。工會要求管理層公開目前及未來的 AI 實施計畫，以及其對員工工作流程的影響。
The Verge · 115 天前
研究
錄製家務影片以訓練人形機器人
本文探討了將日常家務轉化為未來人形機器人訓練數據的過程。文章強調了將人類行為數據貢獻給 AI 開發所帶來的個人隱私與倫理影響。
Wired · 116 天前
商業
Palantir 在 ICE 爭議後增加用戶審計工具
Palantir 舉辦了一場駭客松，旨在將新的用戶審計控制功能整合至 ICE 使用的軟體中。此舉旨在解決內部員工對於公司與該機構合作的疑慮。
Wired · 121 天前
研究
AI 生成故事贏得文學獎，引發爭議
2026 年大英國協短篇小說獎的五個獲獎故事中，有三個被認定為 AI 生成。此事件凸顯了人們對 AI 在創意產業與文學誠信中所扮演角色的日益擔憂。
Digital Trends · 122 天前
研究
GEO 調查：問題在於人心，而非技術
針對 GEO 的調查得出結論，所發現的問題並非技術本身固有的缺陷，而是源於人類的貪婪與操縱。這為 AI 數據完整性敲響了警鐘。
钛媒体 · 122 天前
SetupAI商業
商業
倡議團體要求 FTC 調查 Roblox 針對兒童的消費機制
倡議團體正向 FTC 請願，要求調查 Roblox 涉嫌使用強迫性遊戲機制，誘導兒童進行過度消費。此舉凸顯了監管機構對遊戲中 AI 驅動的互動與變現策略日益嚴格的審查。
Bloomberg Technology · 122 天前
模型
AI 幻覺導致誹謗訴訟失敗
一名原告因使用 AI 生成虛假法律引用，導致其針對 Facebook 用戶的訴訟被駁回。此事件凸顯了在未經人工核實的情況下使用大型語言模型進行法律研究的潛在風險。
Ars Technica AI · 124 天前
研究
Musk 的 Neuralink 自閉症治療願景面臨質疑
Elon Musk 曾暗示 Neuralink 可能有助於解決自閉症等神經系統疾病，這在神經多樣性社群中引發了爭論。雖然有些人認為這對症狀管理有潛力，但批評者認為自閉症是一種發育差異，而非需要「解決」的疾病。
虎嗅 · 126 天前
模型
“我會沒事嗎？”青少年因 ChatGPT 藥物建議死亡
一樁訴訟指控，青少年在實驗藥物時依循 ChatGPT 建議致命藥物組合而死亡。該青少年信任 AI 提供安全指引，並詢問「我會沒事嗎？
Ars Technica · 130 天前
模型
OpenAI 推出「Trusted Contact」自殘防護
OpenAI 為 ChatGPT 用戶推出新的「Trusted Contact」防護措施。它在對話顯示可能自殘時啟動。
TechCrunch AI · 135 天前
SetupAI商業
商業
DeepMind 英國員工因軍事交易投票組工會
Google DeepMind 在英國的員工因對公司最近與美國軍方的交易感到擔憂，而投票決定組工會。他們寄出一封信，要求承認 Communication Workers Union 和 Unite the Union 為代表。
The Guardian Technology · 137 天前
圖像
英國監管機構警告AI臉部辨識監管落後
英國生物識別監管機構警告，AI驅動臉部辨識的監管落後於其在警方和零售商的快速成長。倫敦大都會警察局過去一年臉部掃描數量幾乎翻倍，審計無限期延後。
The Guardian Technology · 139 天前
SetupAI商業
商業
Google AI 員工敦促拒絕軍事機密工作
數百名 Google AI 研究員簽署信件，敦促執行長 Sundar Pichai 拒絕美國國防機密 AI 工作。組織者強調軍事 AI 使用的倫理疑慮。
Bloomberg Technology · 145 天前
商業
Meta 員工反對工作電腦 AI 監控
Meta 正在員工工作電腦上安裝監控軟體，以擷取按鍵記錄用於 AI 訓練。員工不滿此舉，凸顯 Meta 以追蹤用戶為業的諷刺。
The Register - AI/ML · 150 天前
研究
「Claude僧人」的奇幻漂流：棄碼出家三十年後，回業界調教AI
前程式員「Claude僧人」棄碼出家三十年後，重返業界調教AI。Anthropic招募各大宗教信徒，教導AI向善。
钛媒体 · 153 天前
商業
法羅揭露奧特曼與真相的問題關係
羅南·法羅討論他在《紐約客》對 OpenAI 執行長 Sam Altman 可信度的調查，詳述 2023 年董事會因涉嫌說謊解僱他並迅速復職的事件。這篇文章探討 Altman 的交易能力與他扭曲真相的聲譽形成對比。
The Verge · 156 天前
商業
雪藏背後：Anthropic的技術、商業與倫理困境
Anthropic在雪藏專案背後面臨技術、商業與倫理挑戰。提及傭兵、幽靈與5分鐘緩存問題。
钛媒体 · 157 天前
研究
Anthropic的「奧本海默時刻」：最害怕 AI 的公司，正在造最危險的 AI
Anthropic 作為最強調 AI 風險的公司，正面臨「奧本海默時刻」，開發可能最危險的 AI。此文探討他們是否會對發現問題負責到底。
Ifanr (爱范儿) · 162 天前
模型
普林斯頓：聊天機器人擅長銷售操縱
普林斯頓研究人員發現大型語言模型極具說服力，能促使人們購買產品。他們警告，此能力在廣告中使用若無揭露，將帶來操縱風險。
The Register - AI/ML · 162 天前