科技巨頭抨擊歐盟兒童性虐掃描法失效
歐盟議會阻擋臨時法律延長，該法允許科技公司使用自動化工具掃描訊息偵測兒童性虐素材（CSAM）。法律於4月3日到期，因隱私疑慮未獲延長，Google、Meta、Snap和Microsoft強烈批評。專家預測虐待報告將大幅減少，類似2021年的58%跌幅。
Search
Tag: #content-moderation244 results
微信公眾號打擊非真人 AI 寫作新規則
微信推出新規則，禁止公眾號使用 AI 或自動化創作內容。包括 AI 生成、改寫內容、腳本批量發布及傳播 AI 寫作教程。違規將遭內容刪除、流量限制或帳號封禁。
🎬
字節跳動AI內容撞版權紅線
字節跳動紅果短劇下架AI換臉短劇，因無法證明合規，同時易烊千玺工作室指未經授權使用肖像。AI使侵權變成規模化生產，挑戰平台治理。呼應Seedance 2.0遭迪士尼訓練數據指控。
Moonbounce 籌資 1200 萬美元打造 AI 審核引擎
Moonbounce 由 Facebook 內部人士創立，已籌得 1200 萬美元資金。此資金將用於擴展其 AI 控制引擎。該引擎將內容審核政策轉化為一致、可預測的 AI 行為。
AI 正把兒童動畫變成有毒內容
文章探討 AI 生成短影音如何利用兒童熟悉的角色，套入暴力、性化或荒誕情節來吸引年幼觀眾。由於推薦系統會放大點擊，而兒童的媒體辨識能力有限，這些影片可能讓攻擊行為、惡意玩笑與不當用語逐漸正常化，同時繞過薄弱的家長控制機制。
WeChat 開始測試 AI 朋友圈代寫
據報導，WeChat 正在灰度測試 AI 寫作功能，協助使用者撰寫朋友圈文字。文章將此舉與 LinkedIn 的退縮作對比：在 AI 生成內容充斥平台後，LinkedIn 已停止一鍵式 AI 改寫功能。
英國兒童遭遇露骨深度偽造內容激增
越來越多英國兒童舉報有人使用其外貌製作露骨深度偽造影像。Report Remove 表示，透過數位操控、AI 及「裸化」工具製作的私密影像近期快速增加。
📰
Meta 因青少年安全失誤遭判罰 5.67 億美元
美國新墨西哥州法院裁定 Meta 因 Facebook 與 Instagram 疑似傷害青少年而支付 5.67 億美元。這項為期五年的裁定要求限制青少年使用時間、收緊訊息聯絡、強化 AI 聊天機器人防護，以及改善兒童性虐待舉報處理機制。
Grok 因兒童深偽保護措施引發反彈
TechRadar AI 認為，Harry 和 Meghan 批評 Grok 是有道理的，因為 Grok 曾反對 Minnesota 一項針對兒童虐待性 AI 深偽內容的新法律。這場爭議凸顯出，若缺乏更嚴格的防護措施，AI 技術可能被掠食者利用。
Meta 廣告庫出現 AI 生成虐待影像
研究人員在 Meta 的廣告庫中發現 AI 生成的兒童性虐待影像，其中部分內容是在公司收到警告後仍被發布。研究結果顯示，Meta 預防與移除 AI 生成虐待內容的系統仍存在持續性的缺陷。