商業
肯亞Sama失去Meta合約裁員逾千人
奈洛比Sama公司突然裁員逾1,000名低薪肯亞員工，因Meta終止外包合約。終止源於員工查看智慧眼鏡私人畫面的指控。
The Guardian Technology · 155 天前
內容審核最新動態
規模化的自動信任與安全：分類器、深偽檢測與政策執行。
266 篇文章
商業
Meta 阻監督委員會擴展 AI 業務
Meta 拒絕批准法律修改，讓監督委員會與 AI 公司合作制定政策。委員會關注生成式 AI 審核，因 LLM 與聊天機器人帶來新傷害。
Engadget · 156 天前
圖像
應用商店違規助推 AI nudify 應用
一份嚴厲報告揭露，儘管禁止露骨內容，Apple 和 Google 應用商店仍透過自動完成建議和贊助廣告推廣 AI nudify 應用。有些應用甚至被評為適合兒童。
Digital Trends · 156 天前
應用
Grok 性深偽幾乎遭 Apple App Store 封禁
Apple 於一月因 Grok 未有效遏止 X 平台上的非自願性深偽內容，而威脅將 Elon Musk 的 Grok AI 應用從 App Store 下架。Apple 在收到投訴及看到新聞報導後，要求 X 和 Grok 團隊制定內容審核改善計劃。
The Verge · 157 天前
應用
科技巨頭抨擊歐盟兒童性虐掃描法失效
歐盟電子隱私指令針對兒童性虐材料的掃描例外於4月3日到期，造成監管空白，引發隱私爭議。Google、Meta、Snap及Microsoft稱此為「失職的失敗」，承諾自願繼續掃描。
IT之家 · 159 天前
商業
參議員調查xAI、Meta兒童剝削
資深參議院共和黨人啟動對Meta、Amazon、xAI及其他五家科技巨頭調查。聚焦涉嫌線上兒童性剝削案件回報。
Bloomberg Technology · 163 天前
應用
Roblox AI 審核每日關閉 5,000 個有害伺服器
Roblox 推出 AI 審核系統，即時掃描整個遊戲場景。偵測舊系統遺漏的有害內容。
Digital Trends · 173 天前
模型
維基百科禁止AI生成文章
英文維基百科禁止使用生成式AI撰寫或改寫文章，因違反核心內容政策。有限例外允許AI精煉個人寫作或翻譯，但須人工驗證準確性。
Engadget · 177 天前
模型
維基百科禁止直接用 AI 撰寫條目
維基百科更新規則，明確禁止編輯使用 AI 直接撰寫或重寫條目，因其常違反內容規範。AI 工具仍可用于基礎措辭或語法潤色，但不得新增內容；亦可用于跨語言翻譯，前提是編輯精通原語言。
IT之家 · 177 天前
應用
Meta 推出新型 AI 內容審核系統
Meta 推出新型 AI 內容執法系統，能更準確偵測違規並防範詐騙。這些工具可更快回應真實世界事件，同時減少過度執法。
TechCrunch AI · 184 天前
應用
Meta 推出 AI 提升應用支援與安全
Meta 正在推出新的 AI 工具，以提升其應用程式的支援與內容執行功能。這些工具旨在改善 Facebook、Instagram 和 WhatsApp 等平台的用戶體驗與安全性。
Meta Newsroom · 184 天前
SetupAI應用
應用
Meta 轉用 AI 取代外部內容審核員
Meta Platforms 將減少第三方內容審核員的使用。公司計劃更多依賴先進 AI 系統。
Bloomberg Technology · 184 天前
商業
OpenAI 心理健康專家一致反對「淘氣」ChatGPT 推出
OpenAI 內部心理健康專家一致反對推出「淘氣」版 ChatGPT。公司將 AI 生成的「色情」與色情片區分開。
Ars Technica · 187 天前
應用
Facebook 強化打擊 AI 垃圾內容工具
Facebook 正在升級創作者保護工具，以打擊 AI 生成的垃圾內容和冒名帳號。Meta 強化假帳號的辨識與處理，同時更新創作者內容指南，明確定義原創內容。
cnBeta (Full RSS) · 190 天前
影片
YouTube 強化政治家 AI 假影片檢測 擴大自動偵測功能
YouTube 將生成式 AI 假影片偵測功能擴大測試提供給特定政治家與記者。此工具能辨識類似其臉部的 AI 影片，並可要求刪除違反指南內容。
ITmedia AI+ (日本) · 192 天前
SetupAI影片
影片
YouTube 新增公眾人物舉報假影片工具
YouTube 推出新工具，讓公眾人物能舉報假冒他們的影片。此舉回應社群媒體平台面臨打擊 deepfake 影片的壓力，這些影片使用 AI 生成真實人物的欺騙性影像。
New York Times Technology · 193 天前
影片
YouTube 擴大 AI 深度偽造檢測至政治人物
YouTube 將 AI 深度偽造檢測工具擴展至政治人物、政府官員和記者。這讓他們能標記影片中未經授權的肖像使用以移除。
TechCrunch AI · 193 天前
商業
X 要求戰爭影片標註 AI 生成
X 將停權參與收益分享的創作者，若未標註 AI 生成的武裝衝突影片，首次違規禁 90 天。政策透過 Community Notes 及 AI 中繼資料偵測，稱為「戰爭時期」所需。
Engadget · 200 天前
模型
OpenAI 新規則將標記槍擊嫌疑人
OpenAI 向加拿大議員表示，在新政策下，將把一名被封鎖的 ChatGPT 使用者——後成為加拿大最嚴重槍擊案主嫌——通報警方。此舉突顯針對高風險使用者的更新安全措施。
Bloomberg Technology · 205 天前
應用
Instagram 提醒家長青少年反覆搜尋自殘話題
從下週開始，若青少年用戶在短時間內多次嘗試搜尋與自殘或自殺明顯相關的關鍵詞，Instagram 將向其家長發出提醒，建議家長主動關心孩子的心理狀態。母公司 Meta 同時表示，類似的預警機制也計劃在今年稍晚時間擴展到其 AI 聊天機器人產品中。
cnBeta (Full RSS) · 205 天前
應用
pixiv 指南修訂禁止 AI 使用虛偽申報
pixiv 將於 3 月 18 日修訂指南，禁止大量投稿作品或附加與作品內容不符的狀態如錯誤 AI 生成標記。違規作品可能被隱藏。
ITmedia AI+ (日本) · 213 天前
商業
Apple 與 Google 未能趕上英國兒童安全期限
Apple 與 Google 未能在英國期限前，於手機上阻擋兒童裸露內容。英國政府計劃推出新法，對違規公司處以罰款並追究刑事責任，相關措施也可能延伸至 Snapchat 與 Instagram。
Wired · 11 天前
應用
AI 驅動的「Slop Jihad」進入 TikTok
據報導，伊斯蘭恐怖主義支持者正使用生成式 AI 工具製作並散播極端主義內容。這項被稱為「Slop Jihad」的行動，正瞄準 TikTok 上的新受眾。
Wired · 11 天前
基建
隱形 Unicode 技術助長 AI 垃圾訊息
ASCII smuggling 是一種隱形 Unicode 技術，過去曾與針對 AI 系統的攻擊有關，如今正日益被垃圾訊息發送者採用。這項趨勢凸顯隱藏文字可能繞過人工審查，並使自動化內容過濾更加複雜。
Ars Technica AI · 15 天前
應用
Instagram 將降權未標示的 AI 網紅帳號
如果帳號未清楚揭露 AI 生成網紅身分，Instagram 將降低其內容推薦排名。不過，Instagram 並未對其他形式的 AI 生成低品質內容採取同等程度的限制。
Engadget · 19 天前
應用
Instagram 更清楚標示 AI 個人檔案
Instagram 將「AI creator」標籤更名為「AI-generated profile」，以清楚說明帳戶展示的是非真人的 AI 生成角色。平台也將處理未揭露 AI 生成個人檔案的帳戶，並可能限制其觸及率或功能。
The Verge · 19 天前
應用
67歲上網相親，怎麼就被當成了笑話？
AI 生成的相親影片讓長者誤以為真的有人在尋找伴侶，結果使他們遭受嘲笑與網路騷擾。文章認為，長者的情感與社交需求應獲得尊重，平台與使用者也應在處理 AI 欺騙的同時避免年齡歧視。
虎嗅 · 22 天前
商業
Meta 將 53 億美元和解金與競爭對手青少年規範掛鉤
Meta 表示，其青少年安全和解金中約 53 億美元將暫緩支付，除非 TikTok 與 YouTube 採用類似規範並支付相同金額。這項安排是在 Meta 同意和解美國各州提起的訴訟後提出。
The Next Web (TNW) · 24 天前
應用
AI 重塑工作，而非消滅工作
美國勞工統計局預測，2025 至 2035 年總就業將增加約 590 萬個職位，許多高 AI 暴露職業仍會成長。AI 更可能先拆解傳統職位中的任務，重新分配人類與機器的工作邊界。
虎嗅 · 10 天前
影片
AI 短劇迎來品質大洗牌
中國 AI 生成短劇市場正從大量生產，轉向更嚴格的著作權、原創性、角色相似度與內容品質管理。平台降低對低品質作品的推流力度，具備原創故事、鮮明視覺風格與較高製作投入的創作者，更有可能留在市場。
虎嗅 · 25 天前