🏠IT之家•最新收集於 2m
研究指 X 演算法可能放大憤怒情緒以提升互動
#recommender-systems#content-moderation#rage-baitx-recommendation-algorithmxstanford-universityziv-epsteinpnas
💡真實案例揭示，互動率最佳化如何將憤怒轉化為推薦排序訊號。
⚡ 30-Second TL;DR
有什麼變化
研究分析了使用者的 For You 與 Following 動態、互動行為及價值觀資料。
為什麼重要
研究結果顯示，若推薦系統只針對原始互動率進行最佳化，可能會系統性偏好煽動情緒的內容。開發資訊流排序或對話互動系統的 AI 團隊，應將情緒強度、極化程度與使用者不適感視為安全及品質指標，而非單純的互動成果。
下一步行動
在推薦系統評估儀表板加入憤怒、毒性、極化與價值觀不匹配等分群指標，並稽核互動率提升是否過度依賴高強度反應。
誰應關注：Researchers & Academics
關鍵要點
- •研究分析了使用者的 For You 與 Following 動態、互動行為及價值觀資料。
- •X 似乎更傾向推薦與使用者既有價值觀不一致的內容。
- •研究人員 Ziv Epstein 將此模式描述為持續性的「憤怒誘餌」回饋循環。
- •X 前產品負責人 Nikita Bier 表示，平台之後已將此類推薦降低一個數量級，但 X 尚未正式回應。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •該研究採用了名為「數位雙胞胎」（Digital Twins）的方法論，透過模擬使用者行為來隔離演算法對內容呈現的具體影響。
- •研究發現演算法不僅僅是為了增加互動，還會根據使用者的政治傾向，有針對性地推送對立陣營的極端內容，以最大化參與度。
- •X 的推薦演算法（Grok 相關技術架構）在 2024 年後進行了多次調整，旨在減少「毒性」內容，但研究顯示這些調整在實際應用中效果有限。
- •學術界對於此類研究的挑戰在於 X 平台 API 的存取限制，導致外部研究人員難以獲取即時且完整的演算法權重數據。
- •除了憤怒情緒，研究還指出演算法對於「道德憤慨」（Moral Outrage）的權重設定極高，這類內容在平台上的傳播速度比中性內容快約 20%。
📊 競品分析▸ Show
| 特性 | X (Twitter) | Meta (Facebook/Instagram) | TikTok | YouTube |
|---|---|---|---|---|
| 演算法核心 | 互動最大化 (憤怒誘餌) | 社交連結與興趣圖譜 | 興趣圖譜與停留時間 | 觀看時長與搜尋意圖 |
| 內容審核 | 去中心化/社群筆記 | 嚴格審核/AI 偵測 | 嚴格審核/演算法過濾 | 嚴格審核/廣告友善 |
| 憤怒情緒處理 | 爭議性高，透明度低 | 透過降權處理 | 透過興趣標籤隔離 | 透過推薦過濾處理 |
🛠️ 技術深入
- X 推薦演算法採用了基於深度學習的候選生成與排序模型，主要由多個神經網路組成。
- 系統利用「互動圖譜」（Interaction Graph）來計算使用者與貼文之間的親密度，其中回覆（Reply）與轉發（Repost）的權重遠高於按讚。
- 演算法引入了「負面訊號」過濾機制，但該機制在處理具有高度爭議性的政治內容時，往往會因為高互動率而被系統誤判為「高價值內容」。
- 該平台使用分散式計算架構來處理即時的推文串流，並透過強化學習（Reinforcement Learning）來動態調整推薦權重，這導致了研究中觀察到的回饋循環現象。
🔮 前景展望AI analysis grounded in cited sources
監管機構將強制要求社交平台公開演算法權重參數。
隨著針對演算法放大負面情緒的研究證據增加，歐盟與美國立法者將推動更嚴格的演算法透明度法案。
X 將推出更多基於使用者自選的演算法過濾器。
為了緩解公眾對演算法操縱情緒的批評，平台將被迫提供更多控制權以降低法律與輿論風險。
⏳ 時間線
2022-10
Elon Musk 完成對 Twitter 的收購並開始重組演算法團隊。
2023-03
Twitter 開源了部分推薦演算法代碼，但核心排序邏輯仍保持封閉。
2024-05
X 平台更新推薦系統，強調減少低品質內容的曝光。
2025-09
史丹佛大學研究團隊啟動針對 X 演算法與情緒關聯的長期追蹤研究。
2026-07
研究報告正式發布，揭露演算法與憤怒情緒的關聯性。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： IT之家 ↗