QwenMix-3.7 合併 Qwen 3.8 與 3.6
QwenMix-3.7 是一項實驗性合併，將 Qwen3.8-27B 與 Qwen3.6-27B 模型結合。作者表示模型通過基本冒煙測試，但目前尚未進行具意義的完整評估。
Search
Tag: #model-merging6 results
CHORUS 讓小型模型成為硬體驗證專家
CHORUS 是一套用於生成高覆蓋率硬體驗證測試平台刺激的後訓練框架。其整合後的 4B 模型在 CVDP-ECov 上達到 88.0% Pass@1，比 671B 的 DeepSeek-R1 高出 13.5 個百分點。
權重修補：LLM 機制定位新法
權重修補提出參數空間方法，使用基模型與專精模型配對來定位 LLM 行為。應用於指令遵循，透過向量錨點介面揭示從源頭載體到執行電路的層級結構。它還提升機制感知的模型合併效果。
🔬
Project Nord 透過去中心化 SNN 合併解決空錢包問題
Project Nord，這款 1.088B 純 SNN 模型，透過 crdt-merge 進行去中心化權重合併，解決了雲端預算耗盡問題，並保留稀疏性和脈衝動態。在 12GB 檢查點上驗證，差異極小且成本為零。這使得可透過如免費 Colab 的志願節點擴展至 10B 參數。
DiffGraph：代理驅動的T2I模型合併框架
DiffGraph是一種新型代理驅動的圖形基礎框架，用於合併線上專家文字轉圖像模型，以滿足多樣化使用者需求。它透過節點註冊和校準建構可擴展圖形組織專家，然後根據使用者需求動態激活子圖以實現靈活組合。實驗證實其有效利用豐富線上資源。
SCF-RKL Advances Model Merging
SCF-RKL introduces sparse, distribution-aware model merging using reverse KL divergence to minimize interference. It selectively fuses complementary parameters, preserving stable representations and integrating new capabilities. Evaluations on 24 benchmarks show superior performance in reasoning, instruction following, and safety.