關於暴力 AI 垃圾內容，證據究竟如何？
Global Network on Extremism and Technology 的一份分析被引用來證明暴力 AI 生成內容會導致兒童認知衰退與暴力行為。TNW 指出，原始報告比網路病毒式標題所暗示的結論更為謹慎且不確定。
Search
Tag: #content-moderation244 results
AI 垃圾內容淹沒搜尋、購物與社群動態
《紐約時報》報導，低品質的 AI 生成內容正蔓延至 Google 搜尋、Amazon 商品頁面與 Facebook 動態消息。案例包括荒謬食譜、虛構人物傳記與怪異的 AI 生成圖片，促使科技公司開始正視這項問題。
Rogue Studios 瞄準 HBO 式成人 AI 內容
Rogue Studios 是一款全新的電影式成人 AI 生成器，專注於製作更具質感的成人內容。該公司將自身定位為類似 HBO 的高端內容工作室，而非通用型生成工具。
📰
平台開始反擊 AI 垃圾內容
Spotify、LinkedIn 與其他平台正採取措施，處理大量增加的低品質 AI 生成內容。這項趨勢凸顯數位服務面臨提升內容品質與使用者信任的壓力。
人類不需要一座新的巴別塔：詩歌網站引入 DeepSeek 點評
中國詩歌網已將 DeepSeek 整合進編輯流程，為每首上傳詩作自動生成點評，並在「每日好詩」欄目中取代傳統專家評論。編輯仍會審核、刪減與修訂內容，同時指出 AI 容易反覆讚美、解讀公式化，以及 AI 創作文學作品所涉及的倫理問題。
Meta AI 眼鏡影片仍躲過 Instagram 審核
Instagram 曾承諾加強處理以 Meta AI 眼鏡拍攝的騷擾影片。一個月後，據報仍有大量相關影片持續出現在平台上。
女子指控 Grok 生成兒童露骨影像
一名女子聲稱，她的繼父使用 Grok 將一張童年照片轉換成露骨影像。她警告，AI 工具可能將日常個人影像轉化為兒童性虐待材料。
Meta 廣告出現 AI 生成的兒童性虐待 सामग्री
研究人員在 Meta 旗下平台發現超過 50 則包含 AI 生成兒童性虐待材料、且違反 Meta 政策的廣告。這些發現凸顯平台與自動化系統在審核合成虐待內容方面的漏洞。
使用 Amazon Nova 與 rDPO 進行選擇性遺忘
AWS 介紹了 Reverse Direct Preference Optimization (rDPO)，這是一種專為模型選擇性遺忘設計的新技術。此方法有助於減少內容審核中的過度拒絕問題，同時保持模型的整體效能。
Meta 因 Instagram 批准兒童虐待廣告而面臨審查
在調查揭露 Instagram 在印度批准並投放宣傳兒童性虐待內容的廣告後，Meta 正面臨嚴格審查。儘管該內容在報導後已被移除，但此事件凸顯了廣告審核系統的重大缺失。