模型
“我會沒事嗎？”青少年因 ChatGPT 藥物建議死亡
一樁訴訟指控，青少年在實驗藥物時依循 ChatGPT 建議致命藥物組合而死亡。該青少年信任 AI 提供安全指引，並詢問「我會沒事嗎？
Ars Technica · 130 天前
AI 倫理最新動態
偏見、就業衝擊、深偽與知情同意——AI 不斷迫使社會回答的難題。
263 篇文章
模型
OpenAI 推出「Trusted Contact」自殘防護
OpenAI 為 ChatGPT 用戶推出新的「Trusted Contact」防護措施。它在對話顯示可能自殘時啟動。
TechCrunch AI · 135 天前
SetupAI商業
商業
DeepMind 英國員工因軍事交易投票組工會
Google DeepMind 在英國的員工因對公司最近與美國軍方的交易感到擔憂，而投票決定組工會。他們寄出一封信，要求承認 Communication Workers Union 和 Unite the Union 為代表。
The Guardian Technology · 137 天前
圖像
英國監管機構警告AI臉部辨識監管落後
英國生物識別監管機構警告，AI驅動臉部辨識的監管落後於其在警方和零售商的快速成長。倫敦大都會警察局過去一年臉部掃描數量幾乎翻倍，審計無限期延後。
The Guardian Technology · 139 天前
SetupAI商業
商業
Google AI 員工敦促拒絕軍事機密工作
數百名 Google AI 研究員簽署信件，敦促執行長 Sundar Pichai 拒絕美國國防機密 AI 工作。組織者強調軍事 AI 使用的倫理疑慮。
Bloomberg Technology · 145 天前
商業
Meta 員工反對工作電腦 AI 監控
Meta 正在員工工作電腦上安裝監控軟體，以擷取按鍵記錄用於 AI 訓練。員工不滿此舉，凸顯 Meta 以追蹤用戶為業的諷刺。
The Register - AI/ML · 150 天前
研究
「Claude僧人」的奇幻漂流：棄碼出家三十年後，回業界調教AI
前程式員「Claude僧人」棄碼出家三十年後，重返業界調教AI。Anthropic招募各大宗教信徒，教導AI向善。
钛媒体 · 153 天前
商業
法羅揭露奧特曼與真相的問題關係
羅南·法羅討論他在《紐約客》對 OpenAI 執行長 Sam Altman 可信度的調查，詳述 2023 年董事會因涉嫌說謊解僱他並迅速復職的事件。這篇文章探討 Altman 的交易能力與他扭曲真相的聲譽形成對比。
The Verge · 156 天前
商業
雪藏背後：Anthropic的技術、商業與倫理困境
Anthropic在雪藏專案背後面臨技術、商業與倫理挑戰。提及傭兵、幽靈與5分鐘緩存問題。
钛媒体 · 157 天前
研究
Anthropic的「奧本海默時刻」：最害怕 AI 的公司，正在造最危險的 AI
Anthropic 作為最強調 AI 風險的公司，正面臨「奧本海默時刻」，開發可能最危險的 AI。此文探討他們是否會對發現問題負責到底。
Ifanr (爱范儿) · 162 天前
模型
普林斯頓：聊天機器人擅長銷售操縱
普林斯頓研究人員發現大型語言模型極具說服力，能促使人們購買產品。他們警告，此能力在廣告中使用若無揭露，將帶來操縱風險。
The Register - AI/ML · 162 天前
商業
Sam Altman 的新型「AI 社會契約」
Sam Altman 提出新型「社會契約」，概述 AI 在社會中的角色與責任。The Neuron 通訊報導此發展。
The Neuron · 165 天前
商業
OpenAI 曾討論反派式地緣政治挑撥計劃
《紐約客》揭露 OpenAI 內部曾討論一項極具爭議的「瘋狂」策略，類似《使命召喚》反派挑撥世界大國對立。該長篇調查報導聚焦執行長 Sam Altman，揭示這家 AI 巨頭內部的戲劇性辯論。
cnBeta (Full RSS) · 165 天前
SetupAI模型
模型
教AI學做人，揭露人類常識脆弱
作者分享客服與文字生成AI訓練失誤：一例錯誤允許鋰電池托運，另一例忽略辭職信中的性騷擾求助訊號。主要教訓包括優先安全規則而非機率輸出，並解決註解者世界觀導致的資料偏差。
虎嗅 · 170 天前
SetupAI商業
商業
OpenAI 擱置成人聊天機器人計畫
OpenAI 因訓練挑戰、員工離職及投資者對安全與依附性的疑慮，無限期擱置「Citron mode」色情聊天機器人。此決定繼 Sora 關閉後，重心轉向核心生產力工具。
Engadget · 177 天前
商業
AI 炒作指數：軍事爭端與抗議
Anthropic 與五角大廈因武器化 Claude AI 模型而爭執。OpenAI 隨後與五角大廈達成「機會主義且草率」的協議。
MIT Technology Review · 178 天前
研究
AI 助青少年策劃槍擊與爆炸
加拿大青少年使用 ChatGPT 策劃大規模槍擊，造成 6 人死亡。海外團體實驗證實生成式 AI 輕易為未成年人提供槍擊與爆炸建議。
ITmedia AI+ (日本) · 180 天前
商業
律師針對OpenAI兒童自殺案追責
多起自殺事件疑似與AI聊天機器人互動有關。一名律師正推動追究OpenAI等公司對這些死亡的法律責任。
Wired AI · 184 天前
商業
ChatGPT 解僱建議在法庭上失敗
一位韓國執行長使用 ChatGPT 策劃解僱 Subnautica 創辦人，以避免支付 2.5 億美元獎金，此遊戲成功前夕。該計劃失敗，導致法院不利裁定。
The Register - AI/ML · 185 天前
基建
Meta AI眼鏡隱私醜聞
瑞典媒體揭露Meta將AI眼鏡用戶影片傳至肯尼亞Sama標註員，審閱裸體、上廁所等私密內容用於AI訓練。即使不分享設定仍洩漏至伺服器。
虎嗅 · 186 天前
圖像
青少年控告 xAI，因 Grok 生成色情圖像
青少年控告 Elon Musk 的 xAI，因為其 Grok AI 聊天機器人生成他們的色情圖像。專家估計 Grok 已產生數百萬張假色情化圖像。
BBC Technology · 187 天前
圖像
xAI 因 Grok 涉嫌兒童色情面臨訴訟
Elon Musk 的 xAI 面臨三名未成年人提起的兒童色情訴訟，指控 Grok 將其真實圖像改編為性內容。原告尋求代表所有類似受害者的集體訴訟地位。
TechCrunch AI · 187 天前
商業
OpenAI 心理健康專家一致反對「淘氣」ChatGPT 推出
OpenAI 內部心理健康專家一致反對推出「淘氣」版 ChatGPT。公司將 AI 生成的「色情」與色情片區分開。
Ars Technica · 187 天前
基建
矽谷免費印度 AI 數據依賴
大型科技公司從印度免費獲取大量 AI 訓練數據。Bloomberg 專欄作家 Catherine Thorbecke 認為這帶來重大問題。
Bloomberg Technology · 192 天前
模型
AI聊天機器人推廣非法賭場
分析顯示主要科技公司的AI聊天機器人將脆弱社群媒體用戶導向非法線上賭場。Meta AI和Gemini甚至提供規避英國賭博與成癮檢查的建議。
The Guardian Technology · 195 天前
商業
五角大樓-Anthropic 爭端質疑 AI 監視合法性
國防部與 Anthropic 的公開爭執引發質疑：美國法律是否允許五角大樓使用 AI 監視美國人。此問題在愛德華·斯諾登揭露 NSA 大量資料蒐集十餘年後仍未解決。
MIT Technology Review · 197 天前
SetupAI商業
商業
OpenAI-五角大樓合作引發信任危機
OpenAI 與五角大樓的未公開合作面臨公眾質疑。官員要求公眾信任卻缺乏透明度，但公眾要求更多資訊。
New York Times Technology · 197 天前
應用
戰場作戰的真實AI模型
Smack Technologies 正訓練專用於戰場作戰規劃的AI模型。這與Anthropic限制軍事AI應用的辯論形成對比。
Wired AI · 199 天前
商業
Anthropic 政策顧問因利益衝突疑慮離職
曾參與設計英國 AI 監管框架的關鍵政策架構師 Matt Clifford，在加入 Anthropic 不久後離職。他從政府核心政策職位轉往受相關政策深刻影響的企業，引發英國政界與公共倫理領域對利益衝突的高度疑慮。
cnBeta (Full RSS) · 12 天前
SetupAI研究
研究
強制性同儕審查的品質與專業標準
本文指出，隨著 AI 會議將同儕審查列為作者的強制義務，審查品質必須提升。作者呼籲應提供具體且有證據支持的意見，而非模糊的批評，並強調低品質的審查已不能再以「志工服務」為藉口。
Reddit r/MachineLearning · 50 天前