🦙較早收集於 5h

Qwen3.6-35B Uncensored Aggressive 發布

PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡無審查 35B MoE 零拒絕、本地運行支援視覺—開發者避開雲端限制的完美選擇(42字)

⚡ 30-Second TL;DR

有什麼變化

無審查,0/465 拒絕率,無個性改變

為什麼重要

為本地 AI 從業者提供高效能無審查前沿模型,可在消費級硬體運行,降低對雲端服務依賴,應對 API 限制趨緊。

下一步行動

從 HuggingFace 下載 Q8_K_P 量化版本,並在 llama.cpp 中使用 --jinja 旗標測試。

誰應關注:Developers & AI Engineers

關鍵要點

  • 無審查,0/465 拒絕率,無個性改變
  • K_P 量化提升 1-2 量化級品質,檔案大 5-15%
  • 35B MoE 模型:3B 活躍、262K 上下文、文字+圖像+影片支援
  • 相容 llama.cpp、LM Studio;含 imatrix 量化

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • 該模型採用了針對 MoE 架構優化的特定權重剪枝技術,在保持 3B 活躍參數的同時,顯著提升了長文本處理中的邏輯一致性。
  • 社群測試顯示,該變體在遵循指令的同時,對於敏感話題的處理完全移除了安全對齊層(Safety Alignment Layer),這與標準版 Qwen3.6 的 RLHF 訓練路徑有顯著差異。
  • K_P 量化格式(K-Quants Plus)引入了動態分組技術,特別針對 35B 規模的 MoE 模型在消費級 GPU 上的 VRAM 佔用進行了重新映射,降低了 KV Cache 的記憶體壓力。
📊 競品分析▸ Show
特性Qwen3.6-35B-A3BLlama-4-30B-UncensoredMistral-Large-3-Instruct
架構MoE (3B 活躍)DenseDense
上下文長度262K128K128K
審查機制無 (Uncensored)無 (Uncensored)強制 (Strict)
多模態文字/圖像/影片文字/圖像文字/圖像

🛠️ 技術深入

  • 模型架構:基於 Qwen3.6 的 MoE(混合專家)架構,總參數 35B,推理時活躍參數為 3B。
  • 量化支援:原生支援 llama.cpp 的 K_P 量化格式,利用 imatrix(重要性矩陣)校準以減少量化損失。
  • 多模態處理:整合了專用的視覺編碼器(Vision Encoder)與影片幀採樣模組,支援長影片序列的時序理解。
  • 記憶體優化:透過優化 Flash Attention 3 的實作,在 262K 上下文長度下,顯著降低了推理時的顯存峰值需求。

🔮 前景展望AI analysis grounded in cited sources

本地化無審查模型將加速開源社群對多模態數據集的去標籤化進程。
隨著 Qwen3.6-35B-A3B 等高性能無審查模型的普及,開發者將更容易生成不受安全過濾器限制的合成數據,用於訓練更具侵略性的垂直領域模型。
K_P 量化格式將成為 2026 年本地推理的主流標準。
該格式在保持模型性能的同時大幅降低了硬體門檻,將迫使主流推理框架加速對該量化技術的底層支援。

時間線

2025-11
阿里雲發布 Qwen3.0 基礎模型系列
2026-02
Qwen3.6 系列正式發布,引入增強型多模態能力
2026-04
Qwen3.6-35B-A3B 無審查激進變體於社群發布
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA