應用
Instagram 將通知父母青少年搜尋自殘與自殺內容
Meta 將在 Instagram 上推出功能，當青少年搜尋自殘或自殺相關內容時通知父母。公司表示這有助父母更好地支持子女。
BBC Technology · 205 天前
內容審核最新動態
規模化的自動信任與安全：分類器、深偽檢測與政策執行。
266 篇文章
應用
騰訊元寶AI生成冒犯語言
騰訊的AI工具元寶為西安用戶生成冒犯語言，而非新年賀圖。儘管多次修改提示，AI仍未產生預期祝福。
TechNode · 205 天前
應用
Meta AI 向 DoJ 發送大量無用兒童性虐提示
Meta 的 AI 審核軟體產生大量低品質兒童性虐報告，壓垮美國 ICAC 調查員。新墨西哥州對 Meta 提告，指其利潤優先於兒童安全，導致資源浪費。
The Guardian Technology · 206 天前
SetupAI研究
研究
AI 檢測工具能否辨識假圖像與影片？
AI 檢測工具日益用於驗證線上圖像與影片真偽。紐約時報進行超過 1,000 次測試，發現若干優勢但弱點更多。
New York Times Technology · 206 天前
SetupAI圖像
圖像
西弗吉尼亞州起訴蘋果允許iCloud兒童性虐材
西弗吉尼亞州檢察長於週四對蘋果提起訴訟。訴訟指稱蘋果拒絕使用偵測儲存在iCloud上的兒童性虐待材料（CSAM）的工具。
New York Times Technology · 212 天前
圖像
科技公司48小時內移除虐待影像新法
政府擬議新法，要求科技公司須在48小時內移除虐待影像。親密影像濫用將被視為更嚴重罪行。
BBC Technology · 213 天前
應用
Meta 安全訴訟證人指責 Zuckerberg 的企業文化
Meta 前安全主管 Arturo Béjar 作證表示，公司的安全問題源自 Mark Zuckerberg 所建立的企業文化。他的證詞揭開了由四州總檢察長針對 Meta 平台安全處理方式提起的審判。
The Next Web (TNW) · 30 天前
SetupAI應用
應用
前 Meta 員工揭露 Instagram 的兒童安全風險
前 Meta 兒童安全工具員工 Arturo Béjar 作證表示，直到 14 歲女兒加入 Instagram 後，他才完全理解年輕用戶面臨的威脅。他的證詞凸顯社群平台防護措施，以及未成年人遭遇風險的問題。
Bloomberg Technology · 31 天前
商業
Meta 付費請網紅推廣青少年安全帳戶
Meta 在澳洲舉辦品牌化的「screen smart」活動，邀請親子類網紅推廣 Instagram Teen Accounts 及其安全功能。Tech Transparency Project 指出，當政府考慮監管社群平台時，Meta 會採用網紅行銷活動。
The Guardian Technology · 32 天前
應用
Instagram 封鎖搜尋詞，推薦系統卻照樣推送
據報導，Instagram 會封鎖與使用 Meta 眼鏡拍攝影片相關的特定搜尋詞，但推薦系統仍持續推送類似內容。這凸顯搜尋審核與演算法分發之間的落差，尤其涉及未經同意拍攝的街頭訪談影片。
The Next Web (TNW) · 33 天前
SetupAI商業
商業
加州指控 Meta 犧牲兒童安全追求利潤
加州檢察長 Rob Bonta 指控 Meta 明知 Facebook 和 Instagram 的部分功能會傷害兒童，卻仍將利潤置於安全之上。多州政府要求財務處罰及產品改變；Meta 否認指控，並表示已改善青少年安全措施。
Bloomberg Technology · 34 天前
應用
X 測試暗影禁令可見性資料功能
X 正測試「Under the Hood」功能，讓部分使用者下載帳號與貼文可見性資料。JSON 檔案可能包含限制可見性的標籤，用來判斷內容是否遭到降分發及其原因。
IT之家 · 36 天前
應用
X 測試貼文遭「影子封鎖」狀態檢查工具
X 正在測試一項功能，讓使用者判斷自己的貼文是否遭到「影子封鎖」。該功能推出之際，X 也正逐步開放更多排名演算法的原始碼。
Engadget · 37 天前
影片
巴西命令 Discord 停止直播功能
一名 13 歲兒童死亡後，巴西資料保護機關命令 Discord 在全國暫停直播功能。監管機構表示，有充分證據顯示 Discord 未能阻止未成年人接觸宣揚自我傷害的內容。
The Next Web (TNW) · 37 天前
應用
AI 低俗廣告重創蘇泊爾品牌
估值約 300 億元人民幣的中國廚具品牌蘇泊爾，因涉及 AI 生成的低俗行銷內容而陷入爭議。事件凸顯品牌在缺乏充分審核的情況下使用生成式 AI，可能面臨聲譽與治理風險。
钛媒体 · 42 天前
應用
AI 影片揭開網路爛梗危機
描繪兒童滿口色情網路爛梗的 AI 影片在小紅書與抖音走紅。文章認為，短影音平台、遊戲主播、家長監督不足與有限的性教育，正在加速有害迷因在未成年人之間傳播。
虎嗅 · 43 天前
應用
Apple 不一致的 App 審核引發 Telegram 疑問
Apple 因偵測到兒童性虐待素材，短暫將 Telegram 從 App Store 下架，並在相關內容移除後恢復上架。這起事件再次引發外界對 Apple 審核標準的質疑，以及 Telegram 為何似乎受到與 X 不同待遇的討論。
The Verge · 43 天前
應用
日本要求平台加強打擊名人冒牌詐騙廣告
日本警察廳與其他六個政府機關要求五家平台營運商，加強防範名人冒牌詐騙廣告。Google、LINE Yahoo、X 等服務商均在此次要求的對象之列。
ITmedia AI+ (日本) · 43 天前
應用
Meta 遭判創紀錄 5.67 億美元兒童安全罰款
新墨西哥州一名法官下令 Meta——Instagram、Facebook 和 WhatsApp 的母公司——再支付 5.67 億美元。這項裁決涉及該公司旗下平台傷害兒童的指控。
BBC Technology · 44 天前
SetupAI商業
商業
TikTok 裁撤 Nashville 辦公室 250 個職位
TikTok 將裁撤其 Nashville 辦公室的 250 名員工。該辦公室設有 TikTok 平台內容審核團隊的成員。
New York Times Technology · 45 天前
SetupAI商業
商業
Meta 為移除 Modi 影片致歉
Meta 在暫時限制一則包含總理 Narendra Modi 的 Facebook 貼文後，向印度官員致歉。這項道歉似乎旨在緩和與印度的緊張關係，因印度是該公司的重要成長市場。
Bloomberg Technology · 45 天前
SetupAI商業
商業
Huawei 的竹知了公關反噬
一款爆紅的竹知了玩具，被網友拿來比喻 Huawei 發表會現場整齊劃一的「哇」聲。Huawei 大量檢舉下架在法律上或許站得住腳，卻反而放大了迷因，引發外界批評其缺乏網路原生的公關判斷。
虎嗅 · 45 天前
應用
Reddit 面臨新一波 AI SEO 垃圾內容攻勢
The Verge 探討 Reddit 是否能遏制新一波由 AI 驅動的 SEO 垃圾內容。一則看似可疑的護膚品推薦留言推廣了 Honeydew Labs 的次氯酸噴霧，引發外界對將隱性產品行銷偽裝成真實用戶討論的疑慮。
The Verge · 46 天前
應用
Apple 曾因內容違規短暫下架 Telegram
Apple 在發現 Telegram 中存在違反其「禁止兒童性虐待內容」準則的內容後，曾短暫將該應用程式從 App Store 下架。Telegram 刪除相關內容並封禁發布者後，Apple 已恢復其上架。
36氪 · 46 天前
商業
12 大網路平台承諾：堅決清理侵權盜版出版物
包括淘寶、京東、拼多多等 12 家中國電商與社群平台承諾加強內容審核。各平台將實施更嚴格的商家資格核驗，並優化舉報機制，以打擊侵權盜版出版物。
IT之家 · 66 天前
商業
Miniso 因網紅爭議全面改革廣告審核機制
在一段具爭議的宣傳影片引發公眾強烈反彈後，Miniso 終止了與相關網紅的合約，並全面改革其廣告審核流程。此事件凸顯了企業依賴社群媒體創作者進行行銷所帶來的潛在風險。
钛媒体 · 67 天前
研究
各大社交媒體平台的性勒索報告激增
澳洲線上安全監管機構指出，Instagram 和 WhatsApp 是性勒索投訴的主要平台。青少年正日益成為 iMessage 和 Snapchat 上的目標，凸顯了嚴重的安全漏洞。
Digital Trends · 68 天前
應用
快手升級暑期未成年人保護，打擊網路詐騙
快手升級暑期未成年人網路安全治理，重點打擊以「免費皮膚」、「帳號異常」為誘餌的詐騙行為。今年以來，快手已協助有關部門抓獲40名犯罪嫌疑人。
IT之家 · 68 天前
商業
直播間裡的檳榔流量密碼
短影音平台出現網紅透過表演嚼食檳榔來博取流量的現象，儘管存在健康風險。隨著傳統廣告受限，檳榔廠商轉向利用這些網紅進行隱蔽的行銷推廣。
虎嗅 · 69 天前
應用
X 將透過私訊通知使用者關於社群筆記的更新
X 正在實施一項新的通知系統，當使用者的貼文被標註社群筆記時，將會收到私訊通知。此舉旨在提高平台上群眾外包事實查核的能見度與當責性。
Engadget · 73 天前