🔬
增加 MoE 專家數是否有實質幫助？
Reddit 貼文質疑在 MoE 模型如 Qwen3-30B-A3B 中將專家擴增至 A6B 是否顯著提升效能。A6B 配置過去短暫熱門，現已鮮少實驗。可輕鬆在 Llama.cpp 中測試。
Search
Tag: #local-llm172 results
小型 Qwen 模型即將推出？
Reddit 貼文以神秘數學提示 13-9=4 預告即將推出小型 Qwen 模型。在 r/LocalLLaMA 分享，引發對 Alibaba 熱門 LLM 系列緊湊版的期待。目前尚未提供更多細節。