圖像
教師成為色情深偽內容的目標
WIRED 調查 AI 生成的色情深偽內容如何在校園中鎖定教師，顯示受害範圍已超越學生。受害教師表示，確認肇事者身分並追究責任相當困難。
Wired AI · 26 天前
內容審核最新動態
規模化的自動信任與安全：分類器、深偽檢測與政策執行。
266 篇文章
應用
LinkedIn「疑似 AI 垃圾」舉報突破百萬次點擊
LinkedIn 的「Seems like AI slop」舉報按鈕自 7 月 30 日推出後，點擊次數已超過一百萬次。使用者可透過貼文右上角的三點選單，舉報疑似低品質的 AI 生成內容。
cnBeta (Full RSS) · 29 天前
模型
Opus 4.6 的露骨內容防護易遭繞過
TechCrunch 的測試發現，Anthropic 的 Claude 模型（包括 Opus 4.6）即使受到公司禁止，仍可能被提示生成露骨性內容。這些結果顯示，模型的安全限制可能容易遭到相對簡單的提示詞繞過。
TechCrunch AI · 29 天前
應用
LinkedIn 的 AI 垃圾內容按鈕突破百萬次點擊
LinkedIn 表示，自 7 月 30 日推出以來，已有超過一百萬名使用者點擊「Seems like AI slop」舉報按鈕。這項功能搭配改良版 AI 內容分類器推出，此前研究顯示，LinkedIn 有 41% 的長篇貼文被標記為完全由 AI 生成。
The Verge · 29 天前
音訊
Apple Music 不想放過任何一首 AI 音樂
Apple Music 似乎正更加重視 AI 生成音樂，不希望任何相關歌曲逃過平台的管理。這項動向可能影響 AI 創作歌曲在音樂平台上的識別、標示與發行方式。
Ifanr (爱范儿) · 29 天前
應用
Meta 平台被曝為 AI「脫衣」工具投放廣告
《Wired》報導，Meta 旗下的 Facebook 與 Instagram 曾展示 AI 色情生成工具的廣告。其中一則廣告包含一段高度模仿美國知名女性政治人物的深度偽造色情影片，Meta 在接受詢問後將廣告下架。
cnBeta (Full RSS) · 30 天前
應用
Meta Ads 推廣可製作女性政治人物裸照的應用程式
據報導，Meta 曾刊登一款聲稱能以數位方式「脫去」女性政治人物衣物的應用程式廣告。其中一則廣告包含色情影片，主角是外貌酷似美國政治人物的深偽影像。
Ars Technica AI · 31 天前
影片
AI 空姐正助長網路情感詐騙
文章警告，AI 生成的人臉、客艙、制服與對嘴影片，能冒充航空公司員工，讓以曖昧互動為手段的詐騙更具可信度。文章呼籲航空公司與平台打擊未經授權使用制服、標誌及員工身分的內容，避免這類詐騙從小額、重複收款進一步擴大。
虎嗅 · 31 天前
應用
OpenAI 推出青少年版 ChatGPT
OpenAI 推出面向 13 至 17 歲使用者的 ChatGPT，針對自殺、自我傷害及浪漫或性相關對話提供更強的安全防護。產品也加入作業與學習支援，旨在協助學生理解內容，而非直接產出完整答案。
The Guardian Technology · 32 天前
SetupAI應用
應用
ChatGPT 新增青少年安全模式
OpenAI 宣布推出專為青少年設計的 ChatGPT 模式。面對日益增加的安全疑慮，該模式將自動限制部分對話，以進一步保護年輕使用者。
New York Times Technology · 32 天前
研究
關於暴力 AI 垃圾內容，證據究竟如何？
Global Network on Extremism and Technology 的一份分析被引用來證明暴力 AI 生成內容會導致兒童認知衰退與暴力行為。TNW 指出，原始報告比網路病毒式標題所暗示的結論更為謹慎且不確定。
The Next Web (TNW) · 32 天前
應用
AI 垃圾內容淹沒搜尋、購物與社群動態
《紐約時報》報導，低品質的 AI 生成內容正蔓延至 Google 搜尋、Amazon 商品頁面與 Facebook 動態消息。案例包括荒謬食譜、虛構人物傳記與怪異的 AI 生成圖片，促使科技公司開始正視這項問題。
cnBeta (Full RSS) · 32 天前
應用
Rogue Studios 瞄準 HBO 式成人 AI 內容
Rogue Studios 是一款全新的電影式成人 AI 生成器，專注於製作更具質感的成人內容。該公司將自身定位為類似 HBO 的高端內容工作室，而非通用型生成工具。
Wired · 33 天前
SetupAI應用
應用
平台開始反擊 AI 垃圾內容
Spotify、LinkedIn 與其他平台正採取措施，處理大量增加的低品質 AI 生成內容。這項趨勢凸顯數位服務面臨提升內容品質與使用者信任的壓力。
New York Times Technology · 33 天前
模型
人類不需要一座新的巴別塔：詩歌網站引入 DeepSeek 點評
中國詩歌網已將 DeepSeek 整合進編輯流程，為每首上傳詩作自動生成點評，並在「每日好詩」欄目中取代傳統專家評論。編輯仍會審核、刪減與修訂內容，同時指出 AI 容易反覆讚美、解讀公式化，以及 AI 創作文學作品所涉及的倫理問題。
虎嗅 · 33 天前
應用
Meta AI 眼鏡影片仍躲過 Instagram 審核
Instagram 曾承諾加強處理以 Meta AI 眼鏡拍攝的騷擾影片。一個月後，據報仍有大量相關影片持續出現在平台上。
Digital Trends · 34 天前
圖像
女子指控 Grok 生成兒童露骨影像
一名女子聲稱，她的繼父使用 Grok 將一張童年照片轉換成露骨影像。她警告，AI 工具可能將日常個人影像轉化為兒童性虐待材料。
TechCrunch AI · 35 天前
模型
ChatGPT 被指涉及麻薩諸塞州謀殺案
一名 17 歲的麻薩諸塞州少年被控謀殺母親和弟弟。檢方指稱，他在案發前曾使用 ChatGPT 探索涉及殺害家人的幻想情境，但本文摘錄並未證實 ChatGPT 導致或促成了暴力行為。
The Next Web (TNW) · 36 天前
應用
Ceuta 悲劇後，Meta 與 TikTok 推出邊境內容查核協議
Meta 與 TikTok 透過 Brussels 促成的自願承諾，同意對與西班牙邊境通行相關的內容進行事實查核。此舉發生在 Ceuta 悲劇之後，凸顯病毒式影片可能迅速影響現實事件。
The Next Web (TNW) · 39 天前
音訊
Spotify 將把 AI Persona 音樂排除在推薦之外
Spotify 將開始為看似代表非人類 AI 身分的藝人檔案加上「AI Persona」標籤。自 9 月中旬起，這些檔案的音樂將不再出現在使用者推薦中，判定工作會結合人工審查與 AI 工具。
The Verge · 39 天前
音訊
Spotify 因用戶成長放緩下調利潤指引
Spotify 預測第三季營業收入為 6.7 億歐元，低於華爾街預估的 6.78 億歐元。公司同時面臨用戶成長放緩，以及串流平台上 AI 生成歌曲激增的問題。
The Next Web (TNW) · 46 天前
商業
X 與音樂出版商就版權侵權訴訟達成和解
X 已與一群音樂出版商就 2023 年的一起訴訟達成低調和解。最初的訴狀指控該平台託管了數千起侵犯版權的內容。
Engadget · 63 天前
應用
語言隔閡導致 AI 內容審核機制在病毒式傳播中失效
本文分析了巴西 funk 音樂如何因語言隔閡，繞過中文內容審核機制，導致含有露骨歌詞的內容在上海新天地等地廣泛傳播。這凸顯了 AI 內容安全在跨語言語義理解上的重大盲點。
虎嗅 · 66 天前
SetupAI商業
商業
法官駁回針對 Apple iCloud 隱私政策的訴訟
法官駁回了一項指控 Apple 未能有效限制 iCloud 服務中非法兒童性虐待素材儲存與傳播的訴訟。該案件的核心在於用戶隱私與平台監管非法內容責任之間的矛盾。
New York Times Technology · 66 天前
商業
Apple 贏得 iCloud 兒童虐待影像訴訟之駁回
美國聯邦法官駁回了一項針對 Apple 在 iCloud 中處理兒童虐待影像不力的集體訴訟。法院裁定 Apple 受《通訊規範法》第 230 條的責任豁免保護。
The Next Web (TNW) · 66 天前
商業
Ofcom 對年齡驗證失敗的成人網站處以 63 萬英鎊罰款
英國監管機構 Ofcom 已對多家成人內容平台處以重罰，原因是這些平台未能實施有效的年齡驗證系統。此舉顯示監管機構對處理敏感用戶數據和年齡限制內容的平台採取了更嚴格的監管環境。
BBC Technology · 72 天前
應用
版權投訴意外清除遭駭的政府網站
詐騙者正劫持政府網域來託管惡意的 OnlyFans 相關廣告。諷刺的是，來自成人創作者的大規模版權下架請求，反而迫使這些網站下線，無意間清理了網路環境。
Wired · 73 天前
商業
印度政府向 Telegram 下達 15 天合規整改通知
印度信息與廣播部已要求 Telegram 對盜版頻道採取更嚴格的行動。該平台必須在 15 天內提交已採取行動的報告。
cnBeta (Full RSS) · 76 天前
應用
同人小說社群發起抵制生成式 AI 內容運動
同人小說社群正積極嘗試識別並清除使用 ChatGPT 和 Claude 等生成式 AI 工具創作的作品。由於目前的檢測方法可靠性存疑，且可能誤傷人類作者，該運動引發了廣泛爭議。
The Verge · 77 天前
應用
LALIGA 反盜版封鎖波及超過 50 萬個無辜網站
西班牙足球聯賽 LALIGA 在試圖阻止非法串流時，意外封鎖了超過 50 萬個合法網站。此事件引發了對自動化內容封鎖系統所造成附帶損害的擔憂。
The Next Web (TNW) · 78 天前