🔧Tom's Hardware•最新收集於 23m
AMD 推出可運行兆參數模型的 AI 工作站
#local-inference#ai-workstation#acceleratorsamd-threadripper-halo-stationamdthreadripper-halo-stationmi350p
💡了解 AMD 如何以 96 核心工作站與 MI350P 加速器挑戰兆參數本地推論。
⚡ 30-Second TL;DR
有什麼變化
採用 96 核心 Zen 5 AMD Threadripper 處理器
為什麼重要
如果軟體環境與價格具備實用性，這套系統可能讓極大型模型實驗不再局限於傳統資料中心。它也顯示 AMD 正積極進軍高階本地 AI 基礎設施市場。
下一步行動
在考慮本地部署前，請將你最大模型的記憶體與推論需求，與四張 MI350P 的配置進行比較。
誰應關注：Researchers & Academics
關鍵要點
- •採用 96 核心 Zen 5 AMD Threadripper 處理器
- •配備兩張液冷 MI350P 加速器，並支援最多四張
- •提供 2TB DDR5 記憶體，面向大型模型工作負載
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： Tom's Hardware ↗
每週 AI 簡報
每週一封，可隨時退訂。