🦙較早收集於 2h

Qwen3.5-9B 去安全化 — 0% 拒絕 + 視覺

PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA

💡最佳去安全 9B LLM:0% 拒絕 + Ollama 視覺—本地應用遊戲規則改變者 (30 字元)

⚡ 30-Second TL;DR

有什麼變化

0% 拒絕率對比 heretic 46%,用正交投影 + LoRA

為什麼重要

為避免拒絕的建構者提供最佳本地 9B 去安全模型具視覺。提升消費硬體無審查推論可及性。提升開源 LLM 去安全技術門檻。

下一步行動

執行「ollama run lukey03/qwen3.5-9b-abliterated-vision」測試零拒絕視覺推論。

誰應關注:Developers & AI Engineers

關鍵要點

  • 0% 拒絕率對比 heretic 46%,用正交投影 + LoRA
  • 新增完整視覺/多模態支援
  • Ollama 指令:lukey03/qwen3.5-9b-abliterated-vision (視覺) 或純文字版
  • 附加 /no_think 標籤加速推論
  • Hugging Face 模型卡詳述方法

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 7 個來源。

🔑 增強重點摘要

  • Qwen3.5-9B-abliterated-vision 使用二階段正交投影方法,優於 Heretic 的單階段優化,在能力保留上表現更好,如 GSM8K 數學推理基準無明顯退化。
  • 該模型支援 /no_think 標籤切換非思考模式,提供更快回應,源自 Qwen3 系列的雙思考模式設計。
  • 與其他去安全化模型如 Qwen3 coder uncensored 和 Qwen3 VL uncensored 相比,此版強調視覺多模態並達到完全 0% 拒絕。

🛠️ 技術深入

  • 去安全化方法為二階段正交投影(orthogonal projection)結合 LoRA,針對安全對齊進行投影移除,優於 Heretic 的 KL 散度優化,在 16 個模型評估中單次方法保留更多基準性能。
  • 基於 Qwen3.5 系列混合專家(MoE)架構,9B 參數模型支援視覺融合,訓練時視覺與語言異步進行,提升吞吐量近 100%。
  • 支援 Ollama 與 Hugging Face 部署,包含 FP8 壓縮與推測解碼加速,適用於工具使用與代理任務。

🔮 前景展望AI analysis grounded in cited sources

去安全化技術將加速開源多模態模型的無限制應用
二階段投影方法證明優於 Heretic,提升視覺模型的合規性繞過,將推動本地部署的邊緣 AI 開發。
模型能力保留將成為去安全化標準指標
arXiv 研究顯示單次方法如 DECCP 在 GSM8K 等基準上優於優化基方法,預期未來 abliteration 工具將優先此設計。

時間線

2025-12
arXiv 發布 LLM 去安全化方法比較,評估 Heretic 等工具於多模型
2026-01
Qwen3 系列發布,引入雙思考模式與編碼代理能力
2026-02
Qwen3.5 推出,強化 MoE 架構與視覺多模態性能
2026-03
Qwen3.5-9B 去安全化視覺版發布,達 0% 拒絕率
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。