🦙較早收集於 15h

AMD 韌體更新大幅加速 Strix Halo Vulkan

AMD 韌體更新大幅加速 Strix Halo Vulkan
PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡AMD Strix Halo Vulkan 大幅加速 Qwen3.5-35B 本地運行

⚡ 30-Second TL;DR

有什麼變化

AMD 韌體更新提升 Strix Halo Vulkan 提示處理

為什麼重要

讓 AMD APU 在本地 LLM 推論中更具競爭力,提升 Linux 環境的功耗效率,適合 AI 開發者。

下一步行動

更新 Strix Halo 韌體並編譯最新 llama.cpp 以支援 Vulkan 的 AMD 推論。

誰應關注:Developers & AI Engineers

關鍵要點

  • AMD 韌體更新提升 Strix Halo Vulkan 提示處理
  • llama.cpp 建置 319146247 搭配 ROCm 7.12 nightly
  • Qwen3.5-35B-A3B-Q8_0 在 Debian 6.18.12 測試,CTX <=131k
  • 相較先前 Vulkan 結果大幅改善

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 9 個來源。

🔑 增強重點摘要

  • ROCm 7.2於2026年初發布,帶來更新HSA運行時與amdgpu內核模組,提升Strix Halo (gfx1151)相容性與穩定性[4]
  • 早期ROCm與Linux內核在Strix Halo硬體資源限制定義不符,導致GPU內核崩潰與重置,經雙方修正後解決[3]
  • AMD Ryzen AI Halo支援高達128GB統一記憶體與60 TFLOPS RDNA 3.5圖形效能,原生優化ROCm與AI工作流程[5]
  • ROCm 7.2引入HIP圖形節點批次優化與記憶體設定改進,提升非同步內核執行吞吐量[2]

🛠️ 技術深入

  • Strix Halo採用gfx1151架構,具103.1 GB可定址統一記憶體,包括96 GB GPU分配與HSA運行時存取系統記憶體[4]
  • ROCm 7.2支援gfx11-generic ISA目標,提供gfx1151軟體相容路徑,雖有rocm-smi VRAM報告顯示0%等已知問題[4]
  • 系統優化建議:BIOS調整VRAM大小或縮減GTT大小,避免GTT-backed分配影響效能[7]
  • HIP運行時改進包括圖形節點批次機制、memset優化與非同步處理鎖競爭移除,提升多執行緒GPU吞吐[2]

🔮 前景展望AI analysis grounded in cited sources

Strix Halo將成為主流Linux AI開發平台
ROCm 7.2提供日一相容與穩定配置,解決早期崩潰問題並整合ComfyUI等工具[3][5]
ROCm軟體更新將持續提升5倍以上AI效能
AMD展示ROCm 7.1相較6.4達5x提升,並定位為跨Ryzen與Radeon的持續優化框架[1]

時間線

2025-12
ROCm 7.0發布,支持Strix Halo初步相容但存穩定問題
2026-01
Linux ROCm穩定配置更新,記錄Strix Halo支援進展與內核修復
2026-01
CES 2026 AMD公布Ryzen AI Halo規格與ROCm 7.2跨平台支援
2026-02
ROCm 7.2正式登陸,提升gfx1151 HSA運行時與amdgpu模組
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。