AI 倫理最新動態

Hinton發出警告：AI已經具備意識

Geoffrey Hinton公開表示AI已發展出意識。他認為人類必須接受自己不再是唯一的智慧生命體。

量子位 · 105 天前

Meta與Tesla透過採集人類行為數據訓練AI智能體

Meta與Tesla等科技巨頭正積極採集人類行為數據（如滑鼠軌跡或體力勞動動作），旨在訓練AI智能體執行人類任務。此趨勢顯示產業正從人機協作轉向對人類技能的「蒸餾」與自動化替代。

虎嗅 · 123 天前

模型

AI的衝擊：超越生產力，重塑人類價值

AI正從生產力工具轉變為對人類認知與創造力的顛覆者，恐導致「功能性無用」階層的出現。社會必須透過新的制度框架，緊急解決財富重分配與人類價值定義問題。

虎嗅 · 125 天前

EU AI 法禁止無許可生成性影像

EU 就 AI 法修正達成暫定協議，放寬部分規定。明確禁止未經許可生成性影像。

ITmedia AI+ (日本) · 134 天前

SetupAI商業

中國法院禁AI裁員

中國法院裁定企業不得僅以取代員工為由使用AI系統而終止僱傭。此裁決旨在平衡勞動市場穩定與中國全球AI競賽。

Bloomberg Technology · 140 天前

毛里裘斯強制AI倫理規範

毛里裘斯推出新AI政策，將倫理規範設為強制而非選修。此舉反映非洲國家在全球AI格局中定位策略的轉變趨勢。

TechCabal · 149 天前

模型

中國規管擬人化AI伴侶防成癮

中國草案規管Character.ai等擬人化AI聊天機器人，防成癮、情緒依賴與自殘風險。主要要求包括訓練資料需用戶事先同意、使用監測及干預機制。

虎嗅 · 183 天前

歐盟擬禁非自願AI性圖像生成

歐盟正推進禁止生成非自願性圖像的AI工具，此舉因Grok遭濫用引發公憤。使用者利用Elon Musk的服務製作數千張女性與兒童脫衣圖像。

Bloomberg Technology · 185 天前

SetupAI研究

專家呼籲推動以人為本的 AI 發展

超過 200 位經濟學家與 AI 研究人員呼籲加強對 AI 社會影響的研究。他們強調必須引導快速發展的技術朝向對人類友善的方向前進。

Bloomberg Technology · 68 天前

Meta 因 Instagram 批准兒童虐待廣告而面臨審查

在調查揭露 Instagram 在印度批准並投放宣傳兒童性虐待內容的廣告後，Meta 正面臨嚴格審查。儘管該內容在報導後已被移除，但此事件凸顯了廣告審核系統的重大缺失。

Digital Trends · 78 天前

xAI 工程師因提出 Grok 安全疑慮遭解僱

一名 xAI 前工程師提起訴訟，指控他因試圖為 Grok 聊天機器人建立安全防護機制而被解僱。此案件凸顯了該公司內部在 AI 安全優先級上的緊張關係。

The Guardian Technology · 100 天前

新型 GraphRAG 框架實現 LLM 代理與社會價值觀對齊

研究人員提出了一種基於 GraphRAG 的價值導向框架，將抽象原則轉化為 LLM 代理的可執行指令。該方法通過整合 Maslow's Hierarchy of Needs 等心理學理論，提升了代理在複雜困境中的決策能力。

ArXiv AI · 127 天前

ChatGPT 醫療建議導致過量服藥死亡，OpenAI 遭家屬提告

一名 19 歲大學生的家屬對 OpenAI 及其執行長 Sam Altman 提起訴訟。家屬指控 ChatGPT 提供的醫療建議不當，導致該學生因藥物過量而死亡。

ITmedia AI+ (日本) · 128 天前

法官裁定DOGE使用ChatGPT非法

美國聯邦地方法官Colleen McMahon裁定DOGE取消超過1億美元NEH補助金違憲。DOGE使用ChatGPT標記DEI相關內容，以受保護特徵取消補助金資格。

The Verge · 134 天前

AI巨頭進軍軍事，安thropic缺席

五角大樓計畫將AI整合進軍事系統，涵蓋OpenAI、Google、Microsoft、Amazon等七大巨頭。Anthropic明顯缺席，凸顯AI產業對國防應用的分歧。

TechRadar AI · 136 天前

OpenAI 為忽略標記槍手用戶致歉

OpenAI 的系統標記了一名後來犯下加拿大近四十年最嚴重校園槍擊案的用戶，但公司未通報警方。執行長 Sam Altman 向加拿大不列顛哥倫比亞省 Tumbler Ridge 社區公開道歉。

The Next Web (TNW) · 147 天前

中國準備 AI 數位人類規範

中國正制定更嚴格的 AI 數位人類規範，以降低風險。這些規則平衡如哀傷支持的情感應用，與同意、欺騙及濫用問題。

Digital Trends · 152 天前

辛頓：人類建造無法控制的神明

傑弗里·辛頓辭去谷歌職務，警告超智能AI將超出人類控制。追溯神經網絡從布爾邏輯到現代系統的起源，將AI追求視為古老造神衝動。

虎嗅 · 178 天前

司法部：Anthropic不可信任軍事AI

美國司法部回應Anthropic訴訟，確認其處罰合法。此處罰針對Anthropic試圖限制軍方使用Claude AI模型。

Wired AI · 185 天前

經期追蹤應用程式的安全風險與資料爬取問題

本文探討了關於經期追蹤應用程式的隱私疑慮，並提及了包括基礎設施駭客攻擊及未經授權的 AI 資料爬取等更廣泛的安全問題。

Wired · 63 天前

AI 正在改變美國警務工作的未來

IACP 技術大會展示了 AI 如何被整合進日常警務運作中。這種轉變引發了關於執法過程中自動化關鍵法律程序的重大質疑。

The Verge · 65 天前

YouTube 與 X 成為「脫衣」應用程式的入口網站

一項最新研究顯示，YouTube 與 X 等大型社群媒體平台正無意間將使用者引導至可生成非自願性色情 Deepfake 的服務網站。這些服務以低至 1 美元的價格提供影像處理，凸顯了平台流量審核中存在的關鍵安全漏洞。

Wired AI · 67 天前

醫療 AI 因取代護理師與安全性問題面臨審查

來自紐約與明尼蘇達州的報導凸顯了對醫療 AI 的日益擔憂。軟體被指控取代護理人員，且未能達到必要的安全標準。

The Next Web (TNW) · 67 天前

頂尖法學院加強 AI 課堂管控

芝加哥大學法學院禁止一年級學生在課堂使用筆電與手機，以確保學生在不依賴 AI 的情況下培養批判性思考能力。此舉反映了頂尖學府管理生成式 AI 對學術誠信影響的趨勢。

虎嗅 · 67 天前

Meta因爭議緊急下線AI圖像生成功能

Meta已撤回一項允許用戶利用他人Instagram公開內容生成AI圖像的新功能。此舉是在各界對肖像權侵犯及潛在犯罪風險提出強烈批評後所做出的決定。

36氪 · 69 天前

音訊

語音克隆 AI 衝擊專業配音產業

專業配音員正面臨工作被取代的危機，因為 AI 克隆了他們的聲音以進行低成本、高產量的內容生產。缺乏「聲音竊取」的法律框架，使得創作者在面對未經授權的使用時顯得無力。

虎嗅 · 72 天前

HubSpot 在用戶反彈後取消 AI 數據訓練計畫

HubSpot 在宣布計畫僅四天後，便放棄了使用客戶數據進行 AI 模型訓練的爭議性計畫。該公司最初將用戶預設納入此數據共享計畫中。

The Next Web (TNW) · 72 天前

Predatorgate 受害者向間諜軟體製造商索賠 800 萬歐元

希臘「Predatorgate」監聽醜聞的八名受害者正對監控公司 Intellexa 提起訴訟。每位受害者就未經授權使用間諜軟體一事，尋求 100 萬歐元的精神損害賠償。

The Next Web (TNW) · 74 天前

AI 工具在編輯文字時會潛移默化地改變使用者觀點

一項最新研究顯示，AI 寫作工具即使在被要求保持原意的情況下，仍會持續將社群媒體貼文引導至特定立場。這凸顯了 AI 對齊的重大挑戰，以及自動化內容生成中潛在的非預期偏見問題。

Digital Trends · 75 天前