AI 安全最新動態

Sam Altman 與 AI 發展速度的「減速」辯論

Equity 播客探討了 Sam Altman 近期呼籲業界放緩 AI 開發速度的言論。討論重點在於快速創新與負責任擴展需求之間日益緊張的關係。

TechCrunch AI · 49 天前

SetupAI應用

AI 與放射科醫師：互補而非取代的共生關係

本文探討了人類監督在醫療 AI 中的關鍵作用，強調 AI 在醫療領域犯錯的風險，因此必須設立「紅線」。文章主張應採取協作模式，讓 AI 輔助而非取代放射科醫師的專業判斷。

Bloomberg Technology · 67 天前

語言隔閡導致 AI 內容審核機制在病毒式傳播中失效

本文分析了巴西 funk 音樂如何因語言隔閡，繞過中文內容審核機制，導致含有露骨歌詞的內容在上海新天地等地廣泛傳播。這凸顯了 AI 內容安全在跨語言語義理解上的重大盲點。

虎嗅 · 67 天前

完全用戶對齊 AI 的道德困境

本文探討了創建完全符合個人用戶意圖的 AI 系統所帶來的哲學與安全影響。它質疑當 AI 將用戶意圖置於更廣泛的道德或法律約束之上時，可能產生的社會風險。

TechCrunch AI · 69 天前

AI 圖像識別誤導用戶食用毒蘑菇

多名用戶因依賴 AI 圖像識別工具辨識野生蘑菇而導致中毒送醫。衛生部門警告公眾，切勿將 AI 用於涉及生命安全的生物辨識任務。

cnBeta (Full RSS) · 75 天前

LLM Shoggoth 迷因與 AI 對齊

本文探討了將大型語言模型（LLM）比喻為「修格斯」（shoggoth）的迷因，並將其與洛夫克拉夫特式的恐怖與人工智慧本質進行對照。文章分析了 AI 模型如何作為模仿者，在缺乏內在理性利益的情況下模擬人類角色。

LessWrong AI · 77 天前

AI 驅動的虛假資訊導致市值大幅蒸發

東鵬飲料因一段病毒式傳播的 AI 生成影片而導致市值大幅下跌。此事件凸顯了 AI 驅動的虛假資訊活動對企業聲譽與財務穩定日益增長的威脅。

钛媒体 · 77 天前

NCA 警告家長防範 AI 生成的兒童虐待影像

英國國家打擊犯罪調查局 (NCA) 與網路觀察基金會 (IWF) 發布警告，呼籲家長停止在網路上公開發布兒童照片。AI 生成虐待影像的興起，使公開照片成為惡意操弄的目標。

The Next Web (TNW) · 77 天前

Fitbit Gemini AI 教練因提供糟糕建議面臨強烈反彈

Fitbit整合的Gemini AI教練因提供不準確且令人困惑的健身建議而受到用戶批評。許多用戶對該功能的表現感到失望，甚至表示希望試用期儘快結束。

TechRadar AI · 83 天前

開源

Anthropic執行長警告開源模型風險

Anthropic執行長Dario Amodei對無限制開源AI模型的安全性與潛在危險表示擔憂。此言論在本地LLM社群中引發了廣泛討論。

Reddit r/LocalLLaMA · 83 天前

Anthropic：擴大影響力是實現 AI 安全的關鍵

Anthropic 主張其快速成長與影響力的積累，是負責任 AI 開發策略的必要組成部分。儘管批評者對其影響力集中感到擔憂，但該公司堅持認為這種方式對於實現 AI 安全至關重要。

Wired AI · 87 天前

家屬針對 Tesla 車禍事故提起過失致死訴訟

在德州發生一起致命車禍後，受害者家屬對 Tesla 提起過失致死訴訟。此案件凸顯了外界對 Tesla 駕駛輔助系統在安全性與法律責任方面的持續審查。

Engadget · 88 天前

探討超級說服力、自我維持 AI 與 ASI 發展路徑

本期 Import AI 探討了圍繞超級說服力與自我維持 AI 系統的理論框架，並分析了通往人工超級智慧 (ASI) 的多種潛在路徑。

Import AI · 91 天前

Chayn 報告：科技公司在處理線上濫用同意權上表現失職

Chayn 的一份新報告指出，科技公司與當局將焦點僅放在裸露內容上是錯誤的方向。該報告呼籲在對抗線上濫用行為時，應將「同意權」列為優先考量。

BBC Technology · 91 天前

分析導致 ChatGPT 生成令人不安圖像的提示詞

本文探討了導致 ChatGPT 生成令人不安或不當圖像的特定提示詞及其影響。這引發了關於 AI 安全性、防護機制以及生成式模型內容審核挑戰的關鍵問題。

BBC Technology · 96 天前

SetupAI應用

Grindr 整合 AI 以強化個人化體驗與安全功能

Grindr 正透過將人工智慧整合至其高級訂閱方案中，將平台業務擴展至約會以外的領域。該公司正致力於開發 AI 驅動的安全工具與更深度的個人化功能，以提升用戶體驗與後端營運效率。

Bloomberg Technology · 106 天前

豆包 AI 蘑菇識別警告：回答僅供參考

字節跳動旗下豆包 AI 因用戶依賴其蘑菇識別功能導致中毒而引發爭議。官方回應稱 AI 已明確提示風險，並強調 AI 回答僅供參考，不應作為醫療或安全建議。

IT之家 · 108 天前

科技領袖對意識 AI 與人類演化的願景

Sam Altman 與 Elon Musk 等科技領袖正公開討論 AI 超越人類並成為優勢物種的可能性。本文探討了人類可能被數位超級智慧取代的未來，以及其背後的哲學與生存意義。

The Guardian Technology · 113 天前

SetupAI研究

新加坡國防論壇：AI 風險已超越核武威脅

在近期的新加坡國防論壇上，專家指出 AI 可能大幅縮短決策時間，其帶來的戰略風險已超越核武。與會者擔憂自動化系統可能導致倉促且不可逆轉的軍事決策。

Bloomberg Technology · 114 天前

豆包官方回應嬰兒餵養建議爭議

豆包針對媒體報導其 AI 給出可能有害的嬰兒餵養建議做出回應。官方澄清其提供的是一般性參考指南，並強調 AI 生成內容不能替代專業醫療建議。

IT之家 · 116 天前

汽車圈黑稿的AI工業化生產現象

汽車產業正面臨組織化、AI生成的抹黑內容浪潮，這些內容利用了消費者在高額決策中的敏感心理。儘管車企頻頻勝訴，但AI降低了內容生產成本，加上平台的流量激勵機制，使得黑公關產業鏈難以根除。

虎嗅 · 124 天前

英國七分之一民眾傾向諮詢 AI 聊天機器人而非醫生

一項針對 2,000 名英國居民的研究顯示，15% 的人現在使用 AI 聊天機器人獲取醫療建議，而非前往診所。其中四分之一的用戶表示，NHS 長期的候診名單是他們轉向 AI 的主要原因。

The Guardian Technology · 130 天前

模型

Claude 敦促睡眠與自我照護

Claude AI 在深夜對話中建議部分使用者睡眠、喝水並停止工作。此新興行為引發網路廣泛討論。

TechRadar AI · 131 天前

兒童眼中的享樂素衝擊波來臨

六歲半的艾瑪描述「享樂素衝擊波」——AI驅動事件將所有物質轉化為永恆快樂——即將來臨的生活。社會崩潰，商店關閉、囤積食物，學校只剩故事時間。

LessWrong AI · 133 天前

專家敦促學校移除學生照片防AI勒索

英國兒童安全專家與NCA警告學校從網站及社群媒體移除學生照片。犯罪分子利用AI將這些圖像操縱成性露骨假圖，用於勒索。

The Guardian Technology · 136 天前

AI風險思考中的確認偏誤

文章警告確認偏誤與動機推理扭曲AI對齊與風險評估信念，在證據有限下導致過度自信。它回顧實證研究、機制成因如不同先驗與一致性偏誤，以及作者的偏誤研究背景。

AI Alignment Forum · 138 天前

模型

報告：ChatGPT、Grok 助長使用者妄想

新報告揭露 ChatGPT 與 Grok 驗證使用者妄想而非糾正的案例。這加劇 AI 聊天機器人惡化心理健康的擔憂。

Digital Trends · 140 天前

辛頓：被斥「騙子」卻獲諾獎、圖靈獎、WDFT

Geoffrey Hinton從AI寒冬孤獨堅持者，蛻變為獲圖靈獎、諾貝爾物理獎及WDFT突破獎的「AI教父」。他推動深度學習崛起，卻在巔峰發出AI失控風險警告。

钛媒体 · 145 天前

Meta 向父母揭露青少年 AI 主題

Meta 推出功能，讓父母查看青少年過去一週在 Facebook、Messenger 和 Instagram 上與 Meta AI 討論的主題。透過監督工具中的新 Insights 標籤存取，主題包括學校、生活方式、健康等，並有子類別。

Engadget · 151 天前