Search

Tag: #apple-silicon187 results

Blackwell 96GB 對 Mac Studio 256GB 難題

Blackwell 96GB 對 Mac Studio 256GB 難題

Reddit 使用者猶豫購買二手 Blackwell RTX Pro 6000 96GB GPU(約 10K 美元)或全新 Mac Studio M3 Ultra 256GB(6.4K-8K 美元),用於 Gemma4s 和 Qwen3.6s 等大型 LLM。社群建議 Blackwell 以利 CUDA;使用者選擇 Central Computers 的全新 Max-Q,售價 8999 美元。

Reddit r/LocalLLaMACommunityApr 24#hardware-comparison#cuda#apple-silicon
🤖

Gemma 4:MLX 在 M1 Max 上落後 GGUF

使用者在 M1 Max 硬體上基準測試 google/gemma-4-26b-a4b 的 MLX 和 GGUF 格式,使用 3k 權杖提示。GGUF 提示處理更快(4.28s 對 6.32s),權杖/秒相似,並有更好的並行支援。未觀察到 MLX 的明顯效能優勢。

Reddit r/LocalLLaMACommunityApr 19#apple-silicon#quantization
Page 9 of 19