SetupAI
EN
來源較早收集於 70m

研究：TikTok 新用戶看到的內容中 60% 為 AI 垃圾訊息

閱讀原文： The Next Web (TNW)
#synthetic-media#social-media#content-moderation

了解主流平台上 AI 生成內容的規模，以及其對演算法內容推薦的影響。

30 秒速覽

有什麼變化

Kapwing 分析了 20 個熱門類別中的 10,742 部 TikTok 影片。

為什麼重要

此趨勢顯示社交媒體演算法的轉變，可能導致人類創作內容的價值被稀釋。對於試圖在大量合成媒體中維持互動品質的平台而言，這構成了嚴峻挑戰。

下一步行動

如果您正在開發內容推薦系統，請導入強大的合成媒體檢測模型，以過濾低品質的 AI 輸出內容。

誰應關注：Researchers & Academics

關鍵要點

  • •Kapwing 分析了 20 個熱門類別中的 10,742 部 TikTok 影片。
  • •新用戶在「為您推薦」頁面看到的前 500 部影片中，近 60% 為 AI 生成。
  • •該研究凸顯了社交平台上低品質自動化內容的龐大規模。

深度解析

本篇為 AI 生成分析，非原文內容。

增強重點摘要

  • •研究指出，這些 AI 生成內容多數為低成本的自動化影片，旨在透過演算法漏洞獲取流量，而非提供原創價值。
  • •TikTok 的演算法傾向於推廣高互動率的內容，這使得大量生產的 AI 影片在缺乏人工審核的情況下，更容易進入新用戶的推薦池。
  • •Kapwing 的研究發現，這些 AI 內容常伴隨著重複的背景音樂、合成語音以及從其他平台抓取的素材，呈現出高度同質化的特徵。
  • •該現象引發了關於平台透明度的爭議，批評者認為 TikTok 未能有效標記或限制這些可能誤導用戶的自動化生成媒體。
  • •這類 AI 垃圾訊息的氾濫不僅影響用戶體驗，還對創作者經濟造成衝擊，因為原創內容在演算法競爭中面臨被自動化內容淹沒的風險。

競品分析

TikTok
AI 內容策略
高度依賴演算法，AI 內容氾濫
內容審核機制
依賴自動化工具與人工審核
對自動化內容的態度
積極推動 AI 標籤政策，但執行力受質疑
Instagram (Reels)
AI 內容策略
演算法偏好原創，AI 內容佔比較低
內容審核機制
較嚴格的內容審核與標記系統
對自動化內容的態度
透過演算法降權限制低品質 AI 內容
YouTube (Shorts)
AI 內容策略
整合 AI 工具，強調創作者輔助
內容審核機制
結合 Content ID 與 AI 偵測
對自動化內容的態度
鼓勵 AI 輔助創作，但對垃圾訊息採取零容忍

技術深入

  • 內容識別技術：TikTok 利用基於卷積神經網路 (CNN) 的模型來識別影片中的視覺特徵，但對於高度擬真的 AI 生成內容，偵測準確率仍有待提升。
  • 演算法推薦機制：採用協同過濾 (Collaborative Filtering) 與深度學習模型 (如 DeepFM)，這些模型在處理新帳號時，因缺乏歷史數據，容易被高頻率發布的 AI 內容所引導。
  • 生成式 AI 管道：許多垃圾訊息採用自動化腳本 (如 Python 腳本結合 OpenAI API 或 ElevenLabs) 進行批量生產，並透過 API 自動上傳至平台。

前景展望基於引用來源的 AI 分析

TikTok 將被迫實施更嚴格的 AI 內容強制標記政策。
隨著監管機構對 AI 生成內容透明度的要求提高，平台若不採取行動將面臨法律與公眾信任的雙重壓力。
演算法將優先調整以降低自動化內容的權重。
為了維持用戶留存率，平台必須在演算法中加入針對 AI 垃圾訊息的懲罰機制，以保護原創生態。

時間線

2023-03
TikTok 開始測試並引入 AI 生成內容的標籤功能。
2024-05
TikTok 宣佈與內容來源與真實性聯盟 (C2PA) 合作，自動標記 AI 生成內容。
2025-02
Kapwing 發布關於社交媒體自動化內容氾濫的初步調查報告。
2026-06
Kapwing 發布針對 TikTok 新用戶內容構成的深度分析報告。

事件追蹤

Digital Trends • 6/21/2026
TikTok 面臨 AI 生成垃圾內容日益嚴重的危機
›
閱讀原文： The Next Web (TNW)

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。