Search

直接匹配不多,已補上最新動態。

Tag: #mmq1 results

⚙️

Strix Halo 上 HFQ4 預填充加速 3 倍

開發者為 hipfire 推理引擎新增實驗性 MMQ 預填充路徑,在 AMD Strix Halo (gfx1151) 上將 HFQ4-G256 提示處理加速 3 倍。基準測試顯示長預填充達 1140-1260 tok/s,橫跨多種 KV 模式。透過 HIPFIRE_MMQ=1 啟用,針對 RDNA3/3.5 GPU。

Reddit r/LocalLLaMACommunityApr 28#amd#inference#mmq