加州提案嚴管大科技兒童性虐平台
兩位加州民主黨議員提出法案，允許起訴社交媒體公司未偵測或移除兒童性虐素材。Maggy Krell 和 Buffy Wicks 議員指出線上剝削造成兒童深刻創傷。他們對大科技缺乏問責表示沮喪。
Search
Tag: #content-moderation244 results
🎨
AI工具引發兒童虐待影像激增
兒童安全官員需要更大預算來保護兒童免受線上虐待。易用的AI工具導致虐待影像增加。這突顯了審核AI生成內容的挑戰。
AI 加速難以監管的兒童性虐影像氾濫
生成式 AI 正快速增加兒童性虐待影像產量。監管機構的偵測與執法努力難以應付。監管者面臨日益嚴峻的遏止挑戰。
馬斯克遭法國傳喚 X深偽風波
法國檢方傳喚馬斯克於20日在巴黎接受X平台不当行為調查。調查聚焦平台上未成年人色情圖片傳播及深度偽造內容氾濫。這延續了對平台內容審核的持續關注。
🎨
應用商店仍提供禁用的「Nudify」App
Apple 和 Google 持續提供讓使用者製作非自願性性化圖像的行動應用程式，儘管有明確禁止政策。Tech Transparency Project 的報告指出此持續問題。這些 App 違反平台對有害內容的規定。
Roblox 推出強制年齡分級帳戶
Roblox 將從五月中旬起推出三個強制年齡分級帳戶：Kids（5-8歲）、Select（9-15歲）和標準（16歲以上），對應內容成熟度標籤。未驗證使用者預設限制為 Kids 體驗，無聊天及高於 Mild 等級遊戲。開發者須身份驗證並支付 Roblox Plus $5/月，由 AI 審核遊戲內內容與聊天符合標籤。
Instagram 擴大全球青少年帳戶採用 13+ 評級
Instagram 正在國際推出 13+ 內容評級和限制內容設定，未滿 18 歲青少年預設進入適合年齡的動態，無家長許可無法退出。政策現依電影評級調整，隱藏強烈語言、危險特技及有害行為內容。改良技術防止追蹤不適當帳戶，並主動過濾違規貼文。
英國兒童網路性勒索創紀錄
英國18歲以下兒童去年透過Report Remove通報394宗性勒索案件，比2024年上升34%。倡議者要求手機安裝裸照偵測技術，以對抗分享性影像後遭勒索。該服務協助標記線上親密內容以防擴散。
紅果短劇處理670部AI短劇素材違規作品
紅果短劇平台針對AI短劇素材違規使用問題發布公告。第一季度已下架1718部違規漫劇，近期專項核查1.5萬部作品，依規處置670部違規作品。
字節跳動移除AI短劇因盜用臉部
字節跳動短劇平台紅果回應AI生成劇集《桃花釵》涉嫌未授權使用臉部肖像的指控。在收到投訴後進行72小時審查，平台發現製作方未能提供材料合規使用的證據。該劇集隨後被移除。