Search

直接匹配不多,已補上最新動態。

Tag: #bits-per-weight1 results

🤖

尋找 LLM 量化的最佳位元寬度

一名 Reddit 使用者詢問,在固定記憶體與運算預算下,目前的理論或實證研究是否已找出 LLM 最佳的每權重位元數。討論比較以 3-bit、2-bit 或約 1.5-bit 精度運行的大型模型,與採用 4-bit 或 8-bit 的較小模型,並特別關注 GGUF 等開源格式。

Reddit r/MachineLearningCommunityAug 7#quantization#bits-per-weight#scaling-laws
Ox Alpha:神秘模型公開亮相

Ox Alpha:神秘模型公開亮相

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。