DuckDuckGo AI 搜尋助手易受錯誤資訊注入攻擊
DuckDuckGo 的 AI 搜尋助手被成功操縱，重複了一則虛構的故事。此事件凸顯了在 AI 驅動的搜尋系統中防止錯誤資訊的持續挑戰。
Search
Tag: #misinformation56 results
AI說狼來了：虛假圖片引發的真實恐慌
一名韓國男子因製作AI生成的狼在城市遊蕩圖片，引發了大規模且不必要的緊急搜救行動，最終遭到起訴。此事件凸顯了AI生成的虛假資訊在公共安全領域的危險性，以及社會對野生動物回歸的矛盾心理。
🎬
武器化深度偽造現成真威脅
專家多年警告惡意深度偽造—AI生成假影片、圖像或音頻。技術進步與廉價易用生成模型使其廣泛可得。惡意部署現已發生。
Sakana AI 開發 AI 偵測 SNS 誤情報
Sakana AI 公布一項新 AI 技術，用以對抗社群媒體上的誤情報。技術以三項核心功能為主軸：資訊可視化、真偽判定，以及擴散抑制模擬。此為日本總務省公開招標事業的成果。
YouTube 強化政治家 AI 假影片檢測 擴大自動偵測功能
YouTube 將生成式 AI 假影片偵測功能擴大測試提供給特定政治家與記者。此工具能辨識類似其臉部的 AI 影片，並可要求刪除違反指南內容。此舉旨在強化對政治假訊息的防範。
YouTube 擴展深度偽造工具至政治人物
YouTube 從週二起試點將 AI 肖像檢測擴展至記者、官員和候選人，用於深度偽造。臉部掃描工具類似 Content ID 的版權檢測，已供數百萬創作者使用。
Ceuta 悲劇後，Meta 與 TikTok 推出邊境內容查核協議
Meta 與 TikTok 透過 Brussels 促成的自願承諾，同意對與西班牙邊境通行相關的內容進行事實查核。此舉發生在 Ceuta 悲劇之後，凸顯病毒式影片可能迅速影響現實事件。
聊天機器人輕易生成逼真的假新聞
一項最新調查發現，主流 AI 聊天機器人都能生成逼真的假新聞文章。測試顯示，ChatGPT 可能是最容易被操縱的系統。
X 將在貼文被事實查核時通知按讚用戶
X 正在開發一項新功能，當用戶按讚、回覆或轉發的貼文收到「社群註記」（Community Note）時，系統將直接通知用戶。此舉旨在提高平台對錯誤資訊的透明度。