🌍The Next Web (TNW)•較早收集於 70m
研究：TikTok 新用戶看到的內容中 60% 為 AI 垃圾訊息
💡了解主流平台上 AI 生成內容的規模，以及其對演算法內容推薦的影響。
⚡ 30-Second TL;DR
有什麼變化
Kapwing 分析了 20 個熱門類別中的 10,742 部 TikTok 影片。
為什麼重要
此趨勢顯示社交媒體演算法的轉變，可能導致人類創作內容的價值被稀釋。對於試圖在大量合成媒體中維持互動品質的平台而言，這構成了嚴峻挑戰。
下一步行動
如果您正在開發內容推薦系統，請導入強大的合成媒體檢測模型，以過濾低品質的 AI 輸出內容。
誰應關注：Researchers & Academics
關鍵要點
- •Kapwing 分析了 20 個熱門類別中的 10,742 部 TikTok 影片。
- •新用戶在「為您推薦」頁面看到的前 500 部影片中，近 60% 為 AI 生成。
- •該研究凸顯了社交平台上低品質自動化內容的龐大規模。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •研究指出，這些 AI 生成內容多數為低成本的自動化影片，旨在透過演算法漏洞獲取流量，而非提供原創價值。
- •TikTok 的演算法傾向於推廣高互動率的內容，這使得大量生產的 AI 影片在缺乏人工審核的情況下，更容易進入新用戶的推薦池。
- •Kapwing 的研究發現，這些 AI 內容常伴隨著重複的背景音樂、合成語音以及從其他平台抓取的素材，呈現出高度同質化的特徵。
- •該現象引發了關於平台透明度的爭議，批評者認為 TikTok 未能有效標記或限制這些可能誤導用戶的自動化生成媒體。
- •這類 AI 垃圾訊息的氾濫不僅影響用戶體驗，還對創作者經濟造成衝擊，因為原創內容在演算法競爭中面臨被自動化內容淹沒的風險。
📊 競品分析▸ Show
| 平台 | AI 內容策略 | 內容審核機制 | 對自動化內容的態度 |
|---|---|---|---|
| TikTok | 高度依賴演算法，AI 內容氾濫 | 依賴自動化工具與人工審核 | 積極推動 AI 標籤政策，但執行力受質疑 |
| Instagram (Reels) | 演算法偏好原創，AI 內容佔比較低 | 較嚴格的內容審核與標記系統 | 透過演算法降權限制低品質 AI 內容 |
| YouTube (Shorts) | 整合 AI 工具，強調創作者輔助 | 結合 Content ID 與 AI 偵測 | 鼓勵 AI 輔助創作，但對垃圾訊息採取零容忍 |
🛠️ 技術深入
- 內容識別技術：TikTok 利用基於卷積神經網路 (CNN) 的模型來識別影片中的視覺特徵，但對於高度擬真的 AI 生成內容，偵測準確率仍有待提升。
- 演算法推薦機制：採用協同過濾 (Collaborative Filtering) 與深度學習模型 (如 DeepFM)，這些模型在處理新帳號時，因缺乏歷史數據，容易被高頻率發布的 AI 內容所引導。
- 生成式 AI 管道：許多垃圾訊息採用自動化腳本 (如 Python 腳本結合 OpenAI API 或 ElevenLabs) 進行批量生產，並透過 API 自動上傳至平台。
🔮 前景展望AI analysis grounded in cited sources
TikTok 將被迫實施更嚴格的 AI 內容強制標記政策。
隨著監管機構對 AI 生成內容透明度的要求提高，平台若不採取行動將面臨法律與公眾信任的雙重壓力。
演算法將優先調整以降低自動化內容的權重。
為了維持用戶留存率，平台必須在演算法中加入針對 AI 垃圾訊息的懲罰機制，以保護原創生態。
⏳ 時間線
2023-03
TikTok 開始測試並引入 AI 生成內容的標籤功能。
2024-05
TikTok 宣佈與內容來源與真實性聯盟 (C2PA) 合作，自動標記 AI 生成內容。
2025-02
Kapwing 發布關於社交媒體自動化內容氾濫的初步調查報告。
2026-06
Kapwing 發布針對 TikTok 新用戶內容構成的深度分析報告。
📰 事件追蹤
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： The Next Web (TNW) ↗