🦙較早收集於 2h

Tenstorrent QuietBox 2 將 RISC-V AI 推向桌面

Tenstorrent QuietBox 2 將 RISC-V AI 推向桌面
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡RISC-V AI 推理登陸桌面—本地運算的新 GPU 替代硬體(28字元)

⚡ 30-Second TL;DR

有什麼變化

QuietBox 2 實現桌面 RISC-V AI 推理

為什麼重要

擴大平價 RISC-V AI 硬體選擇,挑戰 Nvidia 在本地推理的主導地位,並降低桌面 AI 開發門檻。

下一步行動

查看 Tenstorrent 網站以取得 QuietBox 2 規格與預購資訊。

誰應關注:Developers & AI Engineers

關鍵要點

  • QuietBox 2 實現桌面 RISC-V AI 推理
  • Tenstorrent 開發用於本地 AI 工作負載
  • 強調安靜高效的 AI 從業人員硬體

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 7 個來源。

🔑 增強重點摘要

  • TT-QuietBox 2 搭載四顆 Blackhole ASIC 晶片,形成統一網狀拓撲,提供 2,654 TFLOPS(BlockFP8 精度)與 480 個 Tensix 核心[1][3][6]
  • 系統配備 128 GB GDDR6 高速記憶體、256 GB DDR5 系統記憶體(部分規格顯示 512 GB DDR5-4800 ECC),支援本地運行高達 120B 參數模型[1][2][3]
  • 售價起跳 9,999 美元,使用液冷設計、空氣噪音低,支持 Ubuntu 24.04,標準 120V 插座供電,無需機架[1][3][7]
  • 採用完全開源軟體堆疊,從編譯器到核心皆開放,並強調避開 HBM 依賴以降低供應與價格壓力[1][3]
  • 相較前代,閒置功耗與熱輸出降低約 50%,尺寸為 10” x 21.5” x 20”,重量 79.2 lbs[2][3]

🛠️ 技術深入

  • 處理器:4x Tenstorrent Blackhole p150c Tensix 處理器,每顆 ASIC 含 16 大型 RISC-V 核心(總計 64 個 RISC-V 核心)、120 Tensix 核心(總計 480 個)、720 MB SRAM[2][4][6]
  • 記憶體:128 GB GDDR6 高速記憶體 + 256/512 GB DDR5-4800 ECC RDIMM;儲存:4 TB NVMe PCIe 4.0 x4[1][2][3]
  • CPU:16 核心/32 執行緒,上至 3.0 GHz;主機板:ASRock Rack;電源:1650W 80 PLUS Platinum[2]
  • 連接性:16x QSFP-DD 800G(每卡 4 埠)、2x RJ45 10GBase-T、4x USB 3.1 Gen 1、IPMI;作業系統:Ubuntu 22.04/24.04 LTS[1][2]
  • 架構特點:資料流方法整合運算與高密度 SRAM,透過網狀拓撲高效張量移動,避免傳統 DRAM 頻寬瓶頸[3][6]

🔮 前景展望AI analysis grounded in cited sources

RISC-V AI 桌面硬體將加速開源生態採用
完全開源堆疊與桌面即插即用設計降低開發門檻,吸引更多開發者本地運行大型模型而非依賴雲端[1][7]
Tenstorrent 避開 HBM 將緩解 AI 硬體供應鏈壓力
使用 GDDR6 與 SRAM 架構使 QuietBox 2 免受 HBM 短缺影響,提供更穩定價格與供應[3]
液冷桌面 AI 工作站將普及中小企業本地推理
無需伺服器室、標準電源與低噪音設計,使高性能 AI 推理適用於辦公室環境,減少 IT 基礎設施成本[3][7]

時間線

2026-03
Tenstorrent 推出 TT-QuietBox 2 (Blackhole),首款 RISC-V 桌面 AI 工作站
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。