Search

直接匹配不多,已補上最新動態。

Tag: #parameter-golf1 results

🔬

SSMs 在 25M 參數訓練中掙扎

OpenAI Parameter Golf 實證顯示,SSMs 在微型模型(25M 參數、16MB、10分訓練)壓縮比 transformer 差,且大詞彙時架構優勢喪失。部落格詳述 Mamba-3 Triton kernel 實驗,揭露融合延遲、量化 bug 與精度修正。

Reddit r/MachineLearningCommunityMay 4#compression#kernels#parameter-golf
Ox Alpha:神秘模型公開亮相

Ox Alpha:神秘模型公開亮相

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型,具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁,但開發者、參數量、訓練資料與正式基準排名仍未獲確認。