AI 倫理最新動態
偏見、就業衝擊、深偽與知情同意——AI 不斷迫使社會回答的難題。
267 篇文章
Hinton發出警告：AI已經具備意識
Geoffrey Hinton公開表示AI已發展出意識。他認為人類必須接受自己不再是唯一的智慧生命體。
Meta與Tesla透過採集人類行為數據訓練AI智能體
Meta與Tesla等科技巨頭正積極採集人類行為數據（如滑鼠軌跡或體力勞動動作），旨在訓練AI智能體執行人類任務。此趨勢顯示產業正從人機協作轉向對人類技能的「蒸餾」與自動化替代。
AI的衝擊：超越生產力，重塑人類價值
AI正從生產力工具轉變為對人類認知與創造力的顛覆者，恐導致「功能性無用」階層的出現。社會必須透過新的制度框架，緊急解決財富重分配與人類價值定義問題。
EU AI 法禁止無許可生成性影像
EU 就 AI 法修正達成暫定協議，放寬部分規定。明確禁止未經許可生成性影像。這針對內容創作濫用。
中國法院禁AI裁員
中國法院裁定企業不得僅以取代員工為由使用AI系統而終止僱傭。 此裁決旨在平衡勞動市場穩定與中國全球AI競賽。
毛里裘斯強制AI倫理規範
毛里裘斯推出新AI政策，將倫理規範設為強制而非選修。此舉反映非洲國家在全球AI格局中定位策略的轉變趨勢。
中國規管擬人化AI伴侶防成癮
中國草案規管Character.ai等擬人化AI聊天機器人，防成癮、情緒依賴與自殘風險。主要要求包括訓練資料需用戶事先同意、使用監測及干預機制。此舉將遊戲防沉迷工具延伸至AI服務。
歐盟擬禁非自願AI性圖像生成
歐盟正推進禁止生成非自願性圖像的AI工具，此舉因Grok遭濫用引發公憤。使用者利用Elon Musk的服務製作數千張女性與兒童脫衣圖像。此監管行動針對deepfake式濫用。
強制性同儕審查的品質與專業標準
本文指出，隨著 AI 會議將同儕審查列為作者的強制義務，審查品質必須提升。作者呼籲應提供具體且有證據支持的意見，而非模糊的批評，並強調低品質的審查已不能再以「志工服務」為藉口。
eBay 因針對記者的騷擾行動支付 4600 萬美元
eBay 同意支付 4600 萬美元以解決一樁針對記者的離奇騷擾醜聞。此案對科技公司而言，是關於企業治理與道德的重要教訓。
專家呼籲推動以人為本的 AI 發展
超過 200 位經濟學家與 AI 研究人員呼籲加強對 AI 社會影響的研究。他們強調必須引導快速發展的技術朝向對人類友善的方向前進。
Meta 因 Instagram 批准兒童虐待廣告而面臨審查
在調查揭露 Instagram 在印度批准並投放宣傳兒童性虐待內容的廣告後，Meta 正面臨嚴格審查。儘管該內容在報導後已被移除，但此事件凸顯了廣告審核系統的重大缺失。
xAI 工程師因提出 Grok 安全疑慮遭解僱
一名 xAI 前工程師提起訴訟，指控他因試圖為 Grok 聊天機器人建立安全防護機制而被解僱。此案件凸顯了該公司內部在 AI 安全優先級上的緊張關係。
新型 GraphRAG 框架實現 LLM 代理與社會價值觀對齊
研究人員提出了一種基於 GraphRAG 的價值導向框架，將抽象原則轉化為 LLM 代理的可執行指令。該方法通過整合 Maslow's Hierarchy of Needs 等心理學理論，提升了代理在複雜困境中的決策能力。
ChatGPT 醫療建議導致過量服藥死亡，OpenAI 遭家屬提告
一名 19 歲大學生的家屬對 OpenAI 及其執行長 Sam Altman 提起訴訟。家屬指控 ChatGPT 提供的醫療建議不當，導致該學生因藥物過量而死亡。
法官裁定DOGE使用ChatGPT非法
美國聯邦地方法官Colleen McMahon裁定DOGE取消超過1億美元NEH補助金違憲。DOGE使用ChatGPT標記DEI相關內容，以受保護特徵取消補助金資格。這項143頁裁決源自2025年人文團體提起的訴訟。
AI巨頭進軍軍事，安thropic缺席
五角大樓計畫將AI整合進軍事系統，涵蓋OpenAI、Google、Microsoft、Amazon等七大巨頭。Anthropic明顯缺席，凸顯AI產業對國防應用的分歧。此舉引發AI在戰爭角色上的倫理疑慮。
OpenAI 為忽略標記槍手用戶致歉
OpenAI 的系統標記了一名後來犯下加拿大近四十年最嚴重校園槍擊案的用戶，但公司未通報警方。執行長 Sam Altman 向加拿大不列顛哥倫比亞省 Tumbler Ridge 社區公開道歉。此事件凸顯 AI 安全協議的缺失。
中國準備 AI 數位人類規範
中國正制定更嚴格的 AI 數位人類規範，以降低風險。這些規則平衡如哀傷支持的情感應用，與同意、欺騙及濫用問題。此舉反映 AI 部署的主動治理。
辛頓：人類建造無法控制的神明
傑弗里·辛頓辭去谷歌職務，警告超智能AI將超出人類控制。追溯神經網絡從布爾邏輯到現代系統的起源，將AI追求視為古老造神衝動。引用《沙丘》的布特勒聖戰作為警示。
司法部：Anthropic不可信任軍事AI
美國司法部回應Anthropic訴訟，確認其處罰合法。此處罰針對Anthropic試圖限制軍方使用Claude AI模型。此事凸顯AI倫理與政府需求間的衝突。
ChatGPT 情色模式恐暴露兒童成人內容
OpenAI 計劃為 ChatGPT 推出情色聊天模式，但其安全顧問反對。此功能恐讓數百萬兒童接觸成人內容。推出持續延遲中。
經期追蹤應用程式的安全風險與資料爬取問題
本文探討了關於經期追蹤應用程式的隱私疑慮，並提及了包括基礎設施駭客攻擊及未經授權的 AI 資料爬取等更廣泛的安全問題。
AI 正在改變美國警務工作的未來
IACP 技術大會展示了 AI 如何被整合進日常警務運作中。這種轉變引發了關於執法過程中自動化關鍵法律程序的重大質疑。
YouTube 與 X 成為「脫衣」應用程式的入口網站
一項最新研究顯示，YouTube 與 X 等大型社群媒體平台正無意間將使用者引導至可生成非自願性色情 Deepfake 的服務網站。這些服務以低至 1 美元的價格提供影像處理，凸顯了平台流量審核中存在的關鍵安全漏洞。
醫療 AI 因取代護理師與安全性問題面臨審查
來自紐約與明尼蘇達州的報導凸顯了對醫療 AI 的日益擔憂。軟體被指控取代護理人員，且未能達到必要的安全標準。
頂尖法學院加強 AI 課堂管控
芝加哥大學法學院禁止一年級學生在課堂使用筆電與手機，以確保學生在不依賴 AI 的情況下培養批判性思考能力。此舉反映了頂尖學府管理生成式 AI 對學術誠信影響的趨勢。
Meta因爭議緊急下線AI圖像生成功能
Meta已撤回一項允許用戶利用他人Instagram公開內容生成AI圖像的新功能。此舉是在各界對肖像權侵犯及潛在犯罪風險提出強烈批評後所做出的決定。
語音克隆 AI 衝擊專業配音產業
專業配音員正面臨工作被取代的危機，因為 AI 克隆了他們的聲音以進行低成本、高產量的內容生產。缺乏「聲音竊取」的法律框架，使得創作者在面對未經授權的使用時顯得無力。
HubSpot 在用戶反彈後取消 AI 數據訓練計畫
HubSpot 在宣布計畫僅四天後，便放棄了使用客戶數據進行 AI 模型訓練的爭議性計畫。該公司最初將用戶預設納入此數據共享計畫中。