Search

直接匹配不多,已補上最新動態。

Tag: #kld3 results

Qwen3.5-9B GGUF 量化 KLD 排名

Qwen3.5-9B GGUF 量化 KLD 排名

Qwen3.5-9B 的 46 種 GGUF 量化全面比較,使用 KLD 與 PPL 對 BF16 基準。頂級選擇:bartowski IQ4_XS (VRAM 受限最低 KLD)、Q4_K_S,以及 unsloth UD-Q3_K_XL 效率最佳。揭示 bartowski 與 unsloth Q4_K_M 等量化器差異。

Reddit r/LocalLLaMACommunityMar 11#quantization#kld#ppl
🤖

Qwen3.5-35B GGUF 量化基準測試

基準測試比較 Hugging Face 上 Qwen3.5-35B GGUF 量化版本(16-22 GiB)的 KLD 差異和速度。使用多語言 FLORES 200 和校準資料集。表格依 KLD 平均值和 99% 排名,在 RTX 3090 上 TG/s 最高達 143。

Reddit r/LocalLLaMACommunityMar 16#quantization#benchmarks#kld
Ox Alpha:神秘模型公開亮相

Ox Alpha:神秘模型公開亮相

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。