🦙Reddit r/LocalLLaMA•最新收集於 11h
All Spark 叢集擴充至 36 個節點
#homelab#unified-memory#multi-agentdgx-spark-clusterdgx sparkkimi k3hermesnvidia
💡了解自主 homelab 如何透過 36 台統一記憶體系統擴展多代理 AI 工作負載。
⚡ 30-Second TL;DR
有什麼變化
叢集從 16 台 DGX Spark 增加至 36 台，統一記憶體達 4.6TB。
為什麼重要
這項建置展示了分散式自主 AI 基礎設施如何將模型服務與專用代理能力結合，而不只是作為單一推理端點。雖然它不代表一般部署情境，但可作為重視資料控制與工作負載彈性的組織之參考架構。
下一步行動
以此叢集的工作負載分割方式為範本，在選擇網路硬體前，先將你的推理、嵌入、重排序與媒體管線分配到專用 GPU 資源池。
誰應關注：Developers & AI Engineers
關鍵要點
- •叢集從 16 台 DGX Spark 增加至 36 台，統一記憶體達 4.6TB。
- •網路配置包括 200Gbps Fibre Store 交換器與 400Gbps 連線元件。
- •其中 16 個節點將專門用於 Kimi K3 等最先進模型。
- •其餘容量將支援重排序、嵌入、影片生成、影像生成與音訊處理。
- •相較 B200/B300 系統，維運者更重視自主性、電力彈性與較低的散熱需求。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Reddit r/LocalLLaMA ↗
每週 AI 簡報
每週一封，可隨時退訂。