蘋果與谷歌被指推廣裸體化 AI 應用
科技透明度計畫報告指出，儘管有禁令，蘋果 App Store 和 Google Play 仍託管並推廣 38 款使用 AI 製作 deepfake 的裸體化應用。這些應用有些標記「E」適合所有人，已產生 1.22 億美元營收及 4.83 億下載。蘋果移除 15 款，谷歌暫停部分應用。
Search
Tag: #moderation10 results
Meta AI 眼鏡據報將親密影片分享給人工審核員
Meta 在歐洲的 AI 智慧眼鏡用戶據報不知情地將親密影片與敏感財務資料分享給肯亞的人工審核員。此情況因啟用 AI 功能需同意條款，允許捕捉資料由人工審核以註解訓練 LLM 而生。此做法引發 GDPR 合規性疑慮，因缺乏透明度。
Discord 安全漏洞導致 8,200 個帳號被錯誤封禁
Discord 的自動化安全系統出現技術故障，導致自 5 月以來約有 8,200 個使用者帳號被錯誤封禁。該公司目前正在處理此問題，以修正這些自動化執法錯誤。
🤖
ChatGPT 安全過濾器阻擋暴力圖像請求
在一場刑事審判中揭露，一名嫌疑人試圖利用 ChatGPT 生成城市燃燒的暴力圖像。OpenAI 的安全防護機制成功阻擋了這些請求，顯示了現行內容審核政策的有效性。
Meta 將 13 歲以上青少年內容設定擴展至全球
Meta 正在將其「13+」內容設定推廣至全球的 Instagram、Facebook 和 Messenger。該系統類似於電影分級制度，旨在預設限制青少年用戶接觸敏感內容。
🎨
AI 助長兒童掠食者，調查員難以應付
AI 生成兒童性虐影像激增，助長掠食者膽量。執法單位難以分辨假像與真正危險兒童案件。調查員無法應付龐大數量。
Meta 被敦促加強假 AI 影片監督
Meta 的顧問批評其目前監管 AI 生成影片的方法不足夠。特別指出在危機時期存在漏洞。建議加強監督以對抗假內容。
🔬
用戶回報 arXiv 投稿審核等待時間延長
研究人員回報 arXiv 投稿從「暫停」轉為「已提交」的等待時間顯著增加。推測這可能是由於近期大量低品質 AI 生成論文湧入所導致的審核壓力。
💼
法官駁回X廣告商抵制訴訟
美國法官駁回X Corp.針對GARM廣告商因審核問題抵制的反托拉斯訴訟。此案遭以偏見駁回，禁止重新提起或上訴。隸屬xAI的X面臨Grok AI生成露骨影像的安全疑慮。
Instagram 將於 2026 年終止 DM 端到端加密
Instagram 將從 2026 年 5 月 8 日起終止直接訊息的端到端加密。Meta 在兒童安全團體和執法機關多年的批評下悄然宣布此決定。此變更更新了其說明頁面上的 2022 年新聞貼文。