DeepSeek新論文劇透V4新框架！用閒置網卡加速智能體推理性能

🔑 增強重點摘要

• •DeepSeek V4 框架名為 DualPath，引入 Storage-to-Decode 第二路徑，利用 SNIC 閒置頻寬讀取快取並透過 RDMA 傳輸至預填充引擎[2]。
• •DualPath 架構包含推理引擎（PE/DE 分離）、流量管理器及中央調度器，實現叢集儲存頻寬的全球池化與動態負載平衡[2]。
• •V4 整合 MODEL1 架構，提供階層式 KV 快取儲存（40% 記憶體減少）、稀疏 FP8 解碼（1.8x 推理加速）及 Engram 記憶模組[1]。
• •透過虛擬層（VL/TC）技術及自適應請求調度，確保推理通訊優先且避免單點擁塞[2]。
• •V4 強調演算法-系統協同設計，預期於 2026 年 2 月中旬發布，聚焦編碼與 100 萬 token 上下文[3][5]

🛠️ 技術深入

• •DualPath 改變傳統單路徑 Storage-to-Prefill 模式，新增 Storage-to-Decode 路徑，利用解碼引擎的 SNIC 閒置頻寬讀取快取，並經 RDMA 高速度計算網路傳輸至預填充引擎[2]。
• •架構組成：推理引擎嚴格分為預填充（PE）和解碼（DE），流量管理器處理 H2D/D2H 複製與 SNIC 存取，中央調度器即時決定請求路徑以最大化頻寬利用[2]。
• •InfiniBand/RoCE 網路使用 VL/TC 技術，將推理通訊設為最高優先，保留 99% 頻寬，僅在空隙「偷頻寬」傳輸快取[2]。
• •自適應調度器監控磁碟佇列長度與 token 數，優先分配至 I/O 與計算負載較輕節點，避免單網卡或單點擁塞[2]。
• •MODEL1 創新：階層 KV 快取（80% KV 卸載至 CPU/磁碟，40% 記憶體減）、稀疏 FP8 解碼（快速重要性評分、選擇性精度，1.8x 加速）、Engram 長期記憶、mHC 殘差連接（30% 訓練加速）[1][6]

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線