SetupAI
EN
來源較早收集於 28m

Baidu Cloud 升級為代理時代的全端 AI 雲端平台

閱讀原文： Pandaily
#cloud-computing#agentic-ai#gpu-clusters

了解 Baidu 如何優化萬卡 GPU 叢集與 KV 快取，以驅動下一代 AI 代理。

30 秒速覽

有什麼變化

推出 Token Factory 以優化代理優先的推理效能

為什麼重要

此次升級標誌著基礎設施向代理原生（agent-native）轉型，有望降低大規模部署自主 AI 代理的成本與複雜度。

下一步行動

評估您目前的推理管線與 Token Factory 架構，查看 KV Cache 優化是否能降低您的代理延遲。

誰應關注：Developers & AI Engineers

關鍵要點

  • •推出 Token Factory 以優化代理優先的推理效能
  • •KV Cache 命中率超過 90%，顯著降低延遲
  • •Kunlun P800 硬體在萬卡 GPU 叢集中達到 97% 的訓練效率
關鍵數字25%97%85%50%

深度解析

背景與延伸：來自公開資料，非原文內容。引用 17 個來源。

增強重點摘要

  • •百度此次升級是其「芯雲模體」（晶片、雲、模型、智能體）全棧AI戰略的體現，強調其從底層硬體到上層應用的全面自研能力與整合優勢。
  • •「Token Factory 詞元工廠」是將原有模型即服務（MaaS）重構為以智能體為中心的架構，旨在減少Token重複計算，並將推理生成速度提升約25%。
  • •昆侖芯P800已完成規模化驗證，自2025年以來已交付多個萬卡叢集，並成功在全國產叢集上訓練文心5.1重要版本，實現97%的有效訓練率和超過85%的萬卡規模線性擴展度。
  • •基於昆侖芯的天池256卡超節點已於2026年4月點亮，預計6月上市，其吞吐性能較上一代提升25%，並針對文心、DeepSeek、GLM、MiniMax等主流模型推理效率提升50%。
  • •百度智能雲已服務超過1,000家AI硬體公司，客戶涵蓋全球前十大手機廠商、中國前十大AI眼鏡企業的90%、前五大掃地機器人品牌以及前五大AI玩具廠商，並有500萬台智慧家電接入，顯示其在端側AI生態的深度滲透。

技術深入

  • Token Factory (詞元工廠)：將MaaS（模型即服務）升級為以智能體為中心的產品架構，透過減少Token重複計算，將推理生成速度提升約25%。
  • KV Cache優化：採用從顯存、記憶體到SSD的分層池化架構，實現超過90%的KV Cache命中率，結合AFD分離、PD分離、快取調度等優化方案，使長鏈路智能體推理性能較主流開源社區引擎提升3倍。
  • 昆侖芯P800硬體：
    • 百度自研的第二代AI晶片，採用7奈米製程工藝。
    • 單卡提供256TOPS（INT8）或128TFLOPS（FP16）的算力，支援BF16、FP32等高精度計算格式。
    • 內建張量處理器（TPU）核心與HBM2e高頻寬記憶體，顯存規格比同類主流GPU高出20%-50%，對MoE架構更為友好。
    • 支援XPU（整卡）與vXPU（虛擬化）雙模式算力調度方案，可實現多卡單任務的最優調度及單卡多任務的靈活切分（如1/4卡24GB、1/2卡48GB）。
    • 搭載昆侖芯P800的8卡配置（如DeepSeek一體機）可提供2PFLOPS（FP16）峰值算力，在BERT-large模型訓練中實現近線性加速比（約7.8倍）。
    • 採用動態電壓頻率調整（DVFS）技術，同等算力下功耗比主流GPU低30%。
  • 天池256卡超節點：基於昆侖芯P800，吞吐性能較上一代提升25%，推理效率提升50%，網路架構升級至HPN5.0，端到端時延優化50%，支援搭建數十萬卡乃至百萬卡超大叢集。
  • 全模態統一訓練框架：訓練效率領先社區1倍以上，並能在100毫秒內拉起大量沙箱環境，提升強化學習的採樣效率，使Agentic模型強化學習效率提升1倍以上。

前景展望基於引用來源的 AI 分析

AI Agent將成為衡量AI平台價值的核心指標。
李彥宏提出「日活智能體數」(DAA)作為AI時代的度量衡，取代僅代表成本的Token消耗，更直接反映AI代理為人類工作並交付結果的價值。
百度智能雲將鞏固其作為AI基礎設施提供商的市場地位。
百度將其智能雲升級為「新全棧AI雲」，並強調「芯雲模體」全棧能力，旨在提供每瓦性能更強、性價比更高的AI基礎設施，以應對億級Agent時代的需求。
端側AI硬體生態將加速發展並成為大模型商業化的重要入口。
百度智能雲已服務超過1,000家AI硬體公司，包括全球頂級手機廠商和中國AI眼鏡、掃地機器人、AI玩具品牌，顯示AI能力正深度嵌入終端產品，推動端側裝置成為大模型應用的關鍵載體。

時間線

2015
百度雲成立
2019-04
百度雲更名為百度智能雲
2020
百度智能雲提出「雲智一體」戰略
2022-12
百度智能雲推出國內首個全棧自研AI基礎設施「AI大底座」
2023-03
文心一言通過百度智能雲對外提供服務
2026-05
百度智能雲升級為代理時代的全端AI雲端平台
閱讀原文： Pandaily

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Pandaily ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。