🛠️Meta Engineering Blog•最新收集於 10m
Meta 以使用者序列擴展廣告排名
💡了解 Meta 如何將數十億筆帶時間資訊的使用者互動轉化為可擴展的廣告排名訊號。
⚡ 30-Second TL;DR
有什麼變化
建模使用者行動的時間序列，而非主要依賴靜態、人工設計的稀疏特徵。
為什麼重要
對推薦系統團隊而言，這項工作顯示更豐富的時間訊號有機會超越傳統特徵工程，提升個人化效果。它也可能為在控制生產複雜度的同時擴展序列式排名提供參考架構。
下一步行動
使用帶有時間戳記的使用者事件建立序列式排名原型，並在離線相關性與延遲指標上與現有稀疏特徵排名器比較。
誰應關注：Researchers & Academics
關鍵要點
- •建模使用者行動的時間序列，而非主要依賴靜態、人工設計的稀疏特徵。
- •此方法適用於涵蓋廣告、內容及其他 Meta 產品的推薦工作負載。
- •採用多階段架構，將序列建模與大規模廣告排名部署連結起來。
- •延續 Meta 在 2024 年發布的廣告推薦序列學習研究。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Meta 採用了基於 Transformer 架構的序列模型，能夠處理數以億計的長序列使用者行為數據，解決了傳統推薦系統在處理動態意圖時的滯後問題。
- •該系統引入了『時間感知』（Time-aware）的注意力機制，能有效區分近期行為與長期興趣對當前廣告點擊率（CTR）預測的不同權重。
- •為了應對大規模部署的延遲挑戰，Meta 開發了專用的序列特徵提取器（Sequence Feature Extractor），將複雜的序列計算從在線推理路徑中解耦。
- •此技術架構整合了 Meta 的『聯合學習』（Federated Learning）與隱私保護技術，確保在利用使用者序列數據的同時符合嚴格的數據隱私規範。
- •研究顯示，透過序列建模取代部分靜態特徵工程，顯著降低了模型維護成本，並在廣告轉化率（CVR）指標上實現了雙位數的增長。
📊 競品分析▸ Show
| 特性 | Meta (序列廣告排名) | Google (Ads/YouTube) | ByteDance (TikTok/Douyin) |
|---|---|---|---|
| 核心序列技術 | Transformer-based Sequential Modeling | Deep Retrieval & Sequential User Modeling | Real-time Interest Modeling |
| 數據處理規模 | 超大規模長序列 (億級) | 超大規模長序列 (億級) | 極高頻率實時序列 |
| 隱私保護策略 | 隱私增強技術 (PETs) | Privacy Sandbox | 區域性合規框架 |
| 基準效能 | 高轉化率與長效興趣捕捉 | 強大的跨平台意圖關聯 | 極致的實時興趣預測 |
🛠️ 技術深入
- 模型架構：採用多層 Transformer 編碼器，專門針對使用者行為序列進行嵌入（Embedding）與特徵提取。
- 序列長度處理：利用滑動視窗與分層注意力機制，在保持計算效率的同時捕捉長達數月的行為模式。
- 推理優化：實施了序列快取（Sequence Caching）策略，將頻繁存取的序列特徵儲存在記憶體中，大幅降低推理延遲。
- 特徵工程：自動化學習使用者行為的時序特徵，減少對人工設計稀疏特徵（Sparse Features）的依賴，提升模型泛化能力。
🔮 前景展望AI analysis grounded in cited sources
廣告排名系統將全面轉向生成式序列建模。
隨著序列建模能力的提升，Meta 將進一步整合生成式 AI 以預測使用者在廣告互動後的潛在行為路徑。
靜態特徵工程在廣告推薦中的重要性將大幅下降。
序列學習的成功證明了模型自動捕捉動態意圖的效率遠高於人工定義的特徵，未來將成為業界標準。
⏳ 時間線
2022-05
Meta 開始在廣告系統中大規模測試基於 Transformer 的序列模型。
2023-09
Meta 發布關於序列推薦系統在處理長尾數據上的效能優化研究。
2024-06
Meta 正式發表關於廣告推薦序列學習的基礎研究論文，奠定多階段架構基礎。
2025-03
Meta 將序列建模技術擴展至全平台內容推薦與廣告系統的整合部署。
2026-02
Meta 宣布其廣告排名系統全面升級，實現序列特徵提取的實時化與自動化。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Meta Engineering Blog ↗