應用
印度因 Instagram 有害廣告傳喚 Meta
在 BBC 調查揭露 Instagram 投放推廣兒童性虐待內容的付費廣告後，印度政府正傳喚 Meta 高層。電子與資訊技術部要求該公司提供正式說明。
The Next Web (TNW) · 77 天前
內容審核最新動態
規模化的自動信任與安全：分類器、深偽檢測與政策執行。
266 篇文章
SetupAI商業
商業
印度因兒童性虐待內容傳喚 Meta
印度科技部長已下令官員傳喚 Meta Platforms Inc.，針對 Instagram 上出現兒童性虐待內容的問題進行說明。此舉凸顯了政府對平台安全與內容審核機制的監管力道正日益加強。
Bloomberg Technology · 78 天前
SetupAI研究
研究
研究顯示社交應用程式的兒童安全功能多數失效
一份最新報告指出，熱門社交媒體應用程式的安全功能往往成效不彰。青少年仍能輕易接觸有害內容、與陌生人互動，並繞過家長設定的使用時間限制。
New York Times Technology · 82 天前
應用
Yahoo Japan 推出 AI 驅動的留言摘要功能
Yahoo Japan 推出了一項新功能，利用 OpenAI 的 API 來分析並分類用戶留言。該系統透過 AI 生成的圖表，將 Yahoo 留言區的主要討論焦點進行視覺化呈現。
ITmedia AI+ (日本) · 82 天前
商業
Apple Books 面臨 AI 生成書籍仿冒品激增問題
Apple Books 正面臨大量 AI 生成的現有書籍仿冒品問題。這反映了 Amazon 目前所面臨的內容審核挑戰。
Digital Trends · 84 天前
商業
Kobo 因 AI 問題拒絕了 45% 的自出版書籍
Rakuten Kobo 在 2025 年拒絕了其自出版平台上近一半的投稿。執行長 Michael Tamblyn 指出，超過 80% 的拒絕是因為這些書籍被判定為低品質的 AI 生成內容。
The Next Web (TNW) · 85 天前
圖像
Oversight Board 要求 Meta 加強防範性化 Deepfake
Meta 的 Oversight Board 發布了建議，旨在改善針對非自願性化 AI Deepfake 的舉報與緩解機制。委員會強調目前的流程不足以保護一般用戶。
Engadget · 88 天前
SetupAI研究
研究
美國兒少虐待調查員面臨的日益嚴峻危機
AI 生成的兒少虐待影像激增，正讓執法機構不堪重負。調查人員正面臨心理壓力，且缺乏足夠的支援系統來處理這波新型態的數位證據。
Bloomberg Technology · 88 天前
研究
科技公司在處理 AI 影像同意權方面表現失職
Chayn 的一份新報告指出，科技公司與監管機構將重點放在裸露檢測上，而非解決核心的用戶同意權問題。該研究強調了生成式 AI 時代下網路霸凌的複雜現實。
BBC Technology · 90 天前
研究
研究：TikTok 新用戶看到的內容中 60% 為 AI 垃圾訊息
根據 Kapwing 的報告顯示，TikTok 新帳號所接收的影片中，近 60% 為 AI 生成內容。該研究分析了 20 個類別中超過 10,000 部影片，以評估平台上自動化媒體的普及程度。
The Next Web (TNW) · 90 天前
商業
YouTube 的 AI 內容清理行動波及合法人類創作者
YouTube 加強了對不實內容政策的執行，導致 16 個大型頻道被封禁。此舉旨在遏制 AI 生成的垃圾內容，卻意外波及了未在鏡頭前露面的人類創作者。
The Next Web (TNW) · 96 天前
商業
YouTube 清理 AI 內容，無臉創作者受波及
YouTube 正在對低品質的 AI 生成內容實施更嚴格的措施，這無意中影響了「無臉」創作者。這些未露面但建立起受眾的創作者，因平台的新執法政策正面臨獲利困難。
Digital Trends · 96 天前
研究
澳洲人權委員會呼籲建立數位注意義務以防範種族歧視
澳洲人權委員會（AHRC）正呼籲建立「數位注意義務」，以解決社群媒體演算法如何放大種族歧視內容的問題。此舉源於近期針對原住民的種族歧視影片在平台上快速傳播，造成嚴重心理傷害。
The Guardian Technology · 99 天前
音訊
Deezer 推出適用於外部播放清單的 AI 音樂檢測工具
Deezer 推出了一項新工具，允許用戶掃描任何串流平台的播放清單，以識別 AI 生成或合成音樂。此舉旨在為音樂產業提供透明度，因為其他大型平台尚未採用標準化的 AI 標記系統。
The Verge · 100 天前
研究
全新框架提升對新興多模態迷因的理解能力
「Query Retrieve Conclude」框架透過檢索即時網路證據，解決了解釋動態新興迷因的挑戰。該框架在迷因理解與偵測任務中，表現優於現有的零樣本基準模型。
ArXiv AI · 105 天前
影片
Synthesia 與 Cinder 合作強化 AI 內容審核
Synthesia 已整合 Cinder 的基礎設施以擴展其審核能力。這使得該平台能夠在渲染過程開始前，對 AI 生成的影片內容進行篩選與審核。
The Next Web (TNW) · 107 天前
影片
YouTube 將自動偵測並標記 AI 生成影片
YouTube 正在實施一套自動化偵測系統，以識別並標記由人工智慧生成的內容。此舉旨在提高觀眾對於 AI 生成媒體的透明度。
Engadget · 115 天前
商業
YouTube 更新 AI 內容標籤與自動偵測機制
YouTube 正在強化其 AI 揭露系統，提高標籤的可見度並引入 AI 內容自動偵測功能。這些變更預計於 2026 年 5 月前推出，旨在提升觀眾的透明度。
Digital Trends · 115 天前
影片
YouTube 將自動標記逼真的 AI 生成影片
YouTube 正在實施自動標記功能，針對包含大量逼真 AI 生成內容的影片進行標註。此舉減少了對創作者主動揭露的依賴，並提高了觀眾的透明度。
TechCrunch AI · 115 天前
應用
「小説家になろう」強制要求作者揭露 AI 使用情況
知名網路小說平台「小説家になろう」宣布，自 6 月 9 日起要求作者回報作品中的 AI 使用情況。若未設定相關參數，自 9 月起將無法發布新作品。
ITmedia AI+ (日本) · 115 天前
音訊
UMG 與 TikTok 續約，共同打擊未經授權的 AI 音樂
Universal Music Group 與 TikTok 續簽合作協議，重點在於針對未經授權的 AI 生成音樂實施更嚴格的審核政策。此協議旨在 AI 生成技術普及的時代，保護藝術家權益與智慧財產權。
TechCrunch AI · 116 天前
應用
LinkedIn 實施 AI 生成垃圾內容檢測機制
LinkedIn 正在引入新系統，以識別並限制通用 AI 生成貼文與自動化留言的觸及率。此舉旨在優先考量真實的人際互動，並減少平台上低品質 AI 垃圾內容的氾濫。
Digital Trends · 122 天前
音訊
Spotify 將為 AI 生成音樂引入透明度標籤
Spotify 正在實施新的防護措施，為平台上的 AI 生成內容加上標籤。此舉旨在解決串流媒體時代對於音樂模仿、詐欺以及真實性的日益增長的擔憂。
TechCabal · 123 天前
商業
Google 因搜尋結果出現自殺論壇面臨法律審查
Google 因持續顯示一個美國自殺論壇的搜尋結果，面臨違反英國《線上安全法》(Online Safety Act) 的指控。該網站與英國 164 起死亡案件有關，且先前因未能限制存取權限，已被英國通訊管理局 (Ofcom) 罰款 95 萬英鎊。
The Guardian Technology · 128 天前
圖像
Meta 使用 AI 骨骼分析偵測 FB/IG 兒童
Meta 使用 AI 掃描 Facebook 和 Instagram 上的照片與影片，透過骨骼結構與身高偵測 13 歲以下用戶。此系統避免臉部辨識，專注一般視覺線索，並檢查貼文、留言、個人資料與標題的脈絡線索。
The Verge · 137 天前
影片
YouTube 以 AI 肖像偵測技術打擊名人深度偽造
YouTube 將其 AI 肖像偵測技術擴展至經紀公司、經紀人和名人。此工具有助於辨識並移除使用其肖像的深度偽造內容。
Digital Trends · 151 天前
影片
YouTube 將 AI 肖像檢測工具擴展至娛樂圈名人
YouTube 正在將其肖像檢測技術擴展至娛樂產業。此 AI 工具幫助名人及其團隊辨識並移除平台上的 AI 生成內容與深度偽造影片。
cnBeta (Full RSS) · 151 天前
影片
YouTube AI 擴展至名人深偽偵測
YouTube 將 AI 肖像偵測技術擴展至名人。此工具讓藝人及其代表找出並移除深偽內容。
TechCrunch AI · 151 天前
音訊
Deezer：AI歌曲佔上傳量44%
Deezer 每日收到 75,000 首 AI 生成歌曲，佔所有上傳量的 44%。AI 歌曲僅佔總串流量的 1-3%。
The Verge · 152 天前
商業
肯亞Sama失去Meta合約裁員逾千人
奈洛比Sama公司突然裁員逾1,000名低薪肯亞員工，因Meta終止外包合約。終止源於員工查看智慧眼鏡私人畫面的指控。
The Guardian Technology · 155 天前