圖像
馬斯克遭法國傳喚 X深偽風波
法國檢方傳喚馬斯克於20日在巴黎接受X平台不当行為調查。調查聚焦平台上未成年人色情圖片傳播及深度偽造內容氾濫。
cnBeta (Full RSS) · 152 天前
內容審核最新動態
規模化的自動信任與安全：分類器、深偽檢測與政策執行。
266 篇文章
SetupAI圖像
圖像
應用商店仍提供禁用的「Nudify」App
Apple 和 Google 持續提供讓使用者製作非自願性性化圖像的行動應用程式，儘管有明確禁止政策。Tech Transparency Project 的報告指出此持續問題。
Bloomberg Technology · 157 天前
應用
Roblox 推出強制年齡分級帳戶
Roblox 將從五月中旬起推出三個強制年齡分級帳戶：Kids（5-8歲）、Select（9-15歲）和標準（16歲以上），對應內容成熟度標籤。未驗證使用者預設限制為 Kids 體驗，無聊天及高於 Mild 等級遊戲。
Engadget · 159 天前
應用
Instagram 擴大全球青少年帳戶採用 13+ 評級
Instagram 正在國際推出 13+ 內容評級和限制內容設定，未滿 18 歲青少年預設進入適合年齡的動態，無家長許可無法退出。政策現依電影評級調整，隱藏強烈語言、危險特技及有害行為內容。
Meta Newsroom · 163 天前
圖像
英國兒童網路性勒索創紀錄
英國18歲以下兒童去年透過Report Remove通報394宗性勒索案件，比2024年上升34%。倡議者要求手機安裝裸照偵測技術，以對抗分享性影像後遭勒索。
The Guardian Technology · 165 天前
影片
紅果短劇處理670部AI短劇素材違規作品
紅果短劇平台針對AI短劇素材違規使用問題發布公告。第一季度已下架1718部違規漫劇，近期專項核查1.5萬部作品，依規處置670部違規作品。
36氪 · 166 天前
影片
字節跳動移除AI短劇因盜用臉部
字節跳動短劇平台紅果回應AI生成劇集《桃花釵》涉嫌未授權使用臉部肖像的指控。在收到投訴後進行72小時審查，平台發現製作方未能提供材料合規使用的證據。
TechNode · 169 天前
模型
如何辨識AI生成文字？
Pangram Labs執行長Max Spero參與Odd Lots播客，討論其辨識AI生成內容的軟體。談話涵蓋AI寫作對網路未來的影响。
Bloomberg Technology · 170 天前
應用
Meta 大幅減少 Instagram 青少年帳戶 PG-13 描述
Meta 將從 4 月 15 日起大幅減少將 Instagram 青少年帳戶比作 PG-13 評級，此舉回應 MPA 的停止侵權函，因其認為比較具誤導性。公司更新部落格，加入免責聲明，強調社群媒體與電影差異。
Engadget · 172 天前
商業
也輪到遊戲公司清理「數字泔水」了
索尼悄下架PS商店逾1000款低質AI遊戲，多來自Nostra Games（2年700款換皮/多版本）。針對獎盃獵人；eShop/Steam類似垃圾氾濫。
虎嗅 · 174 天前
應用
YouTube CEO 談 AI 垃圾 vs 真實內容
YouTube CEO 討論「AI 垃圾」與真實內容區別。評論暗示平台模糊承諾。
Digital Trends · 175 天前
商業
Meta內容政策主管比克特離職赴哈佛任教
Meta 長期內容政策主管莫妮卡·比克特即將離職，前往哈佛法學院任教。她負責 Facebook 內容政策的制定與執行，並參與用戶安全決策，經常回應政治內容與青少年心理健康爭議。
36氪 · 175 天前
商業
OpenAI 放棄 ChatGPT 情色模式
OpenAI 已放棄 ChatGPT 的情色模式功能。這是該 AI 新創公司過去一週內取消的最新副項目，連同其他數個類似專案。
TechCrunch AI · 177 天前
商業
ChatGPT 因投資者反感跳過性感模式
OpenAI 據報短期內不會為 ChatGPT 加入「性感模式」，因投資者反感。此功能嚇跑投資者，部分員工質疑其對人類的益處。
Ars Technica AI · 177 天前
商業
監督委員會警告 Community Notes 全球擴張風險
Meta 監督委員會建議謹慎將 Community Notes 擴展至美國以外地區，警告若無保障措施將帶來重大人權風險。它建議在高度兩極化國家、危機地區、假訊息熱點或語言複雜地區暫停該功能。
Engadget · 177 天前
商業
Meta 輸掉兒童剝削審判
Meta 在主張其應用程式上兒童剝削不可避免後輸掉審判。公司計劃上訴此決定。
Ars Technica · 178 天前
影片
BBC調查後TikTok移除AI性感化黑人女性影片
數十個Instagram和TikTok帳戶使用AI頭像推廣以性感化黑人女性為主角的露骨內容。BBC調查揭露這些影片後，平台將其移除。
BBC Technology · 182 天前
應用
Tumblr 自動審核錯誤導致用戶被禁
Tumblr 的自動審核系統突然封禁數十個帳戶，引發用戶恐慌。封禁主要影響跨性別女性帳戶，通知僅提及內部生成報告及自動偵測內容，無具體違規說明。
The Verge · 183 天前
應用
小紅書嚴打AI託管帳號
小紅書禁止OpenClaw等AI工具全自動化帳號運營，模擬真人內容互動以護「活人感」。類似AI前「鄭州幫」工廠，如今AI升級。
虎嗅 · 183 天前
應用
Meta AI 略微改善內容審核
Meta 測試其最新 AI 用於內容審核，發現其表現優於人類，儘管僅在先前糟糕的系統上略有改善。企業工具長期偵測到如不可能登入等問題，但人類審核員未能察覺。
The Register - AI/ML · 183 天前
商業
Meta 因兒童安全受審：能否保護下一代？
新墨西哥州檢察官指控 Meta 優先利潤，即使 Instagram 和 Facebook 上兒童虐待激增。該標誌性審判進入第五週，州方於 3 月 5 日結束陳述。
The Guardian Technology · 184 天前
影片
YouTube 將 AI 垃圾內容評分外包給用戶
YouTube 推出新功能，讓用戶評分 AI 生成的「垃圾」內容。本文認為這種外包審核看似合理，實則糟糕，可能適得其反。
Digital Trends · 185 天前
影片
YouTube 測試 AI 垃圾評分
YouTube 測試新功能，讓觀眾評分影片是否為「AI 垃圾」。此舉針對低品質 AI 生成內容。
Digital Trends · 185 天前
應用
小紅書向龍蝦AI發動保衛戰
小紅書針對平台上肆虐的「龍蝦」AI發起反擊。文章探討社群平台在AI威脅下的治理策略。
钛媒体 · 190 天前
應用
小紅書揮刀AI託管賬號，讓AI當替身做賬號行不通了
小紅書禁AI託管如OpenClaw運營賬號發文/互動，維護真人分享真實性。違規從警告至封禁模擬真人行為。
虎嗅 · 191 天前
影片
Meta 深度偽造審核不足
Meta 監督委員會批評公司深度偽造偵測方法不夠穩健，尤其在衝突中誤傳快速擴散時。他們敦促全面改革 Facebook、Instagram 和 Threads 上 AI 生成內容的標記。
The Verge · 193 天前
模型
Grok AI 生成令人作嘔的足球仇恨貼文
利物浦和曼聯向 X 投訴 Grok AI 生成關於迪奧戈·喬塔及希斯堡與慕尼黑災難的冒犯性貼文。這些貼文是用戶要求 AI 針對兩隊製造仇恨內容時產生。
The Guardian Technology · 194 天前
應用
肯亞工人訓練Meta AI眼鏡目睹用戶親密時刻
奈洛比Sama的肯亞工人透過審核用戶最親密時刻來訓練Meta的AI眼鏡。2月27日報告揭露Meta可穿戴AI背後隱藏人力勞動。
TechCabal · 199 天前
應用
TikTok 拒用具爭議 E2EE 保護私訊
TikTok 告知 BBC，不會為私訊實施端到端加密（E2EE），不同於 WhatsApp 和 Messenger。公司表示，這會因阻礙安全檢查而危害用戶。
BBC Technology · 200 天前
應用
Instagram 通知父母青少年重複搜尋自殘詞彙
Instagram 將在受監督帳戶的青少年重複搜尋自殺或自殘詞彙時通知父母。此功能推出之際，母公司 Meta 正面臨美國關於兒童傷害的審判。
The Guardian Technology · 204 天前