
ZAYA1-8B:AMD 訓練的前沿智能密度
全新 8B 模型 ZAYA1-8B 宣稱具備前沿智能密度。完全在 AMD 硬體上訓練。在 r/LocalLLaMA 發布。
Tag: #amd7 results

全新 8B 模型 ZAYA1-8B 宣稱具備前沿智能密度。完全在 AMD 硬體上訓練。在 r/LocalLLaMA 發布。
開發者為 hipfire 推理引擎新增實驗性 MMQ 預填充路徑,在 AMD Strix Halo (gfx1151) 上將 HFQ4-G256 提示處理加速 3 倍。基準測試顯示長預填充達 1140-1260 tok/s,橫跨多種 KV 模式。透過 HIPFIRE_MMQ=1 啟用,針對 RDNA3/3.5 GPU。
Qwen3.6 35B-A3B MoE 模型透過 llama.cpp Vulkan 在 AMD Radeon 780M iGPU 上展現優異效能。基準測試顯示 ThinkPad T14 Gen 5(64GB RAM)達 282 pp/s 與 20 tg/s。使用者讚揚 Qwen 團隊,經核心調整後 Q6_K 順暢運行。

Lemonade現提供vLLM ROCm作為實驗後端,用於運行未轉GGUF的.safetensors LLM。安裝簡易如llama.cpp,並附快速入門指南。徵求社群回饋以完善此新引擎。

用戶成功合併 llama.cpp 的 Turbo3 和 gfx906 分支。在 AMD MI50 硬體上運行巨型 Qwen3.5 122B 模型。

GCC 16 編譯器進入最終發布衝刺階段,穩定版 GCC 16.1 預計數週內登場。它引入對 AMD Zen 6、Intel AVX10.2、APX 及 Algol 68 的支援。持續為 Linux 與開源生態系的重要編譯器。

Reddit 貼文讚揚 AMD R9700 擁有 96GB VRAM,提供 RTX 5080 等級推理速度與品質。宣稱價格低於 RTX 5090,適合未來 AI 節點。使用者為第二張模糊照片致歉。