🗾ITmedia AI+ (日本)•近期收集於 51m
Jim Keller：AI 依然遵循舊有的效能法則
💡業界傳奇人物 Jim Keller 分享他對 AI 硬體擴展法則的看法以及 Tenstorrent 的競爭策略。
⚡ 30-Second TL;DR
有什麼變化
Tenstorrent 正在展示其「Galaxy」AI 伺服器平台的效能。
為什麼重要
此觀點挑戰了圍繞「新」AI 物理學的炒作，建議基礎設施建構者應專注於基礎架構效率，而非盲目追逐投機性的擴展趨勢。
下一步行動
如果您正在建構大規模 AI 叢集並尋找傳統 GPU 架構的替代方案，請評估 Tenstorrent 的硬體發展藍圖。
誰應關注：Developers & AI Engineers
關鍵要點
- •Tenstorrent 正在展示其「Galaxy」AI 伺服器平台的效能。
- •執行長 Jim Keller 認為 AI 硬體擴展仍遵循既定的效能法則。
- •該公司正致力於在高階 AI 基礎設施市場中建立競爭力。
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •Tenstorrent 的 Galaxy 伺服器採用了模組化設計，核心搭載了 Wormhole N300 AI 加速卡，旨在提供高度可擴展的 AI 推論與訓練能力。
- •Jim Keller 強調的「舊有效能法則」主要指 Dennard 縮放比例定律（Dennard Scaling）與摩爾定律（Moore's Law）在架構層面的持續應用，即透過提升數據傳輸效率與降低功耗來優化效能。
- •Tenstorrent 採取了與 NVIDIA 不同的策略，其架構強調 RISC-V 指令集架構的開放性，允許客戶在硬體層面進行更深度的客製化與軟體堆疊整合。
- •Galaxy 伺服器平台支援多機互連技術，透過 Tenstorrent 自研的網路互連架構，解決了大規模 AI 叢集中的頻寬瓶頸問題。
- •該公司目前正積極推動其軟體開發套件（SDK）的生態系統，以降低開發者從 CUDA 遷移至 Tenstorrent 硬體平台的門檻。
📊 競品分析▸ Show
| 特性 | Tenstorrent Galaxy | NVIDIA HGX H100/B200 | AMD Instinct MI300X |
|---|---|---|---|
| 架構基礎 | RISC-V (自研) | Hopper/Blackwell (專有) | CDNA 3 (專有) |
| 軟體生態 | TT-Metal (開放) | CUDA (封閉/強大) | ROCm (開源/成長中) |
| 市場定位 | 高度客製化/邊緣與雲端 | 頂級 AI 訓練/通用 | 高性價比/大記憶體容量 |
🛠️ 技術深入
- 處理器架構：採用 Wormhole 晶片，整合了 RISC-V 核心與專用的 Tensix 核心，專為矩陣運算優化。
- 互連技術：利用乙太網路（Ethernet）作為基礎互連協議，降低了對專有互連技術（如 NVLink）的依賴，提升了系統的開放性與擴展性。
- 記憶體配置：支援高頻寬記憶體（HBM），並透過片上網路（NoC）架構實現高效的數據流動，減少記憶體存取延遲。
- 軟體堆疊：TT-Metalium 提供底層硬體控制能力，允許開發者直接調度 Tensix 核心，實現接近硬體極限的效能表現。
🔮 前景展望AI analysis grounded in cited sources
RISC-V 架構將在 AI 基礎設施市場取得顯著市佔率。
隨著企業對供應鏈自主權與成本控制的需求增加，開放架構將成為挑戰 NVIDIA 封閉生態系統的關鍵路徑。
AI 硬體競爭將從單純的算力堆疊轉向互連頻寬與能效比的競爭。
Jim Keller 的觀點暗示了物理極限下，數據傳輸效率與功耗管理將成為決定 AI 叢集效能的最終瓶頸。
⏳ 時間線
2016-05
Tenstorrent 由 Jim Keller、Ljubisa Bajic 和 Milos Trajkovic 共同創立。
2021-05
Jim Keller 正式出任 Tenstorrent 執行長，推動公司轉型。
2023-08
Tenstorrent 完成 1 億美元融資，由現代汽車與三星催化基金領投。
2024-02
Tenstorrent 宣布與 LG 電子合作，將 AI 技術導入智慧家電與車用晶片。
2025-06
Tenstorrent 正式發布 Galaxy AI 伺服器平台，標誌其進入高階資料中心市場。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： ITmedia AI+ (日本) ↗