🦙Reddit r/LocalLLaMA•較早收集於 15h
社群發布 Qwen 3.7 的去審查與去限制版本
💡了解社群如何繞過最新 Qwen 3.7 模型的對齊限制。
⚡ 30-Second TL;DR
有什麼變化
提供 Qwen 3.7 的去審查版本
為什麼重要
這些由社群驅動的模型展示了在開源環境中強制執行模型對齊(Alignment)的困難度。
下一步行動
評估這些去限制模型與基礎模型的效能差異,以了解安全性與推理能力之間的權衡。
誰應關注:Developers & AI Engineers
關鍵要點
- •提供 Qwen 3.7 的去審查版本
- •整合 MTP 與 SuperHOT 進行效能調優
- •社群驅動的模型蒸餾與去限制技術
🧠 深度解析
Web-grounded analysis with 20 cited sources.
🔑 增強重點摘要
- •Qwen 3.7已被評為2026年頂級開源大型語言模型之一,尤其在編碼任務中表現出色,這突顯了其在社群去審查版本之外的核心能力。
- •阿里巴巴雲的Qwen模型系列以其強大的多語言支援(Qwen3支援多達119種語言和方言)和在各類NLP基準測試中的卓越表現而聞名,使其在全球AI領域佔據重要地位。
- •社群用於去審查模型的技術,例如「abliteration」(可能與文章中提及的SuperHOT相關),透過修改模型內部負責拒絕回應的方向性向量來移除安全對齊,而非進行昂貴的重新訓練,從而使模型能夠回應敏感話題,同時保留其大部分智能。
- •Hugging Face作為領先的開源AI模型共享平台,不僅是Qwen官方模型發布的中心,也是社群驅動模型修改和去限制活動的關鍵樞紐,促進了模型變體的快速迭代和廣泛傳播。
📊 競品分析▸ Show
| 模型系列 | 開發者 | 許可證 | 主要優勢 |
|---|---|---|---|
| Qwen (通義千問) | 阿里巴巴雲 | Apache 2.0 (多數版本) | 強大的多語言能力(尤其中文與英文),在編碼和推理任務中表現出色,提供多種規模模型(包括MoE) |
| Llama (Llama 3.x) | Meta AI | 商業友好許可證 (Llama 3.3) | 最廣泛採用的開源LLM家族,擁有龐大社群生態系統,在通用推理、寫作和指令遵循方面表現強勁 |
| Mistral (Mistral Large) | Mistral AI | 商業友好許可證 | 以效率和強大性能著稱,特別是小型模型,具有強大的多語言能力 |
| Gemma (Gemma 4) | Apache 2.0 | Google的開源模型,針對設備端和邊緣部署進行優化,在本地運行方面表現出色,注重安全性 | |
| DeepSeek (DeepSeek V4 Pro) | DeepSeek | MIT (部分版本) | 在推理任務中表現最為出色,提供MoE架構,在編碼方面也具競爭力 |
| GLM (GLM-5.1) | 清華大學 (Z.AI) | 開源或商業友好許可證 | 在編碼和代理式AI工作流程方面表現突出,尤其擅長長程任務 |
🛠️ 技術深入
- Qwen模型架構基礎:Qwen系列模型基於Transformer架構,採用解碼器專用(decoder-only)結構。它們利用SwiGLU激活函數、注意力QKV偏差,並在某些版本中整合了分組查詢注意力(Grouped Query Attention, GQA)以提高效率。模型還採用旋轉位置嵌入(Rotary Position Embeddings, RoPE)來增強長上下文處理能力。
- 訓練數據與多語言能力:Qwen模型在包含多種語言(特別是中文和英文)和領域(如網路文本、書籍、程式碼庫和專業領域知識)的大規模多樣化數據集上進行預訓練。Qwen3系列已將多語言支援擴展到119種語言和方言。
- Qwen3架構創新:Qwen3引入了密集型(dense)和混合專家(Mixture-of-Experts, MoE)兩種架構,參數規模從0.6億到2350億不等。一個關鍵創新是整合了「思考模式」(用於複雜的多步驟推理)和「非思考模式」(用於快速、上下文驅動的回應),允許模型根據任務動態切換。
- 去審查技術(Abliteration):社群用於去審查LLM的技術,如「abliteration」(或稱「abliteration」),涉及修改模型內部負責拒絕回應的方向性向量。這種方法透過識別有害和無害指令之間的激活差異,計算出「拒絕方向」向量,然後修改模型權重以消除拒絕機制,而無需昂貴的重新訓練。這項技術旨在在保留模型智能的同時,使其能夠回應所有類型的提示。
- MTP與SuperHOT:文章中提及的MTP和SuperHOT技術,在公開文獻中缺乏詳細的技術規範。根據Hugging Face上的社群模型命名,MTP可能是一種與「Native-MTP-Preserved」相關的社群特定微調或保留技術,而SuperHOT可能與abliteration等去審查方法相關的社群術語。
🔮 前景展望AI analysis grounded in cited sources
社群驅動的去審查模型將加速AI倫理與安全政策的辯論。
這些模型的普及凸顯了開發者與使用者之間在模型行為控制上的分歧,可能促使監管機構和研究人員重新評估AI的開放性與潛在風險。
開源LLM的去審查化趨勢將推動新型安全與對齊技術的發展。
為了應對去審查模型帶來的挑戰,研究人員可能會開發更強健的對齊方法或工具,以在開放環境中管理AI的行為,例如更難以被繞過的內建安全機制或可自定義的對齊工具。
Qwen系列模型在多語言和多模態能力的持續進步,將鞏固其在全球開源AI生態系統中的領導地位。
阿里巴巴雲對Qwen模型的持續投入,特別是在Qwen3及更高版本中引入的先進架構和廣泛語言支持,使其成為國際開發者和企業的重要選擇,尤其是在需要處理多語言內容的應用場景中。
⏳ 時間線
2023-04
阿里巴巴推出Qwen (通義千問) 的測試版。
2023-08
Qwen-7B模型權重發布。
2023-09
Qwen在獲得監管批准後向公眾開放,並發布Qwen-14B模型。
2023-12
Qwen-72B和Qwen-1.8B模型開放下載。
2024-02
Qwen1.5系列發布,包含多種規模和MoE模型,並增強了多語言能力。
2025-04
Qwen3模型家族發布,包含密集型和MoE模型,支援119種語言。
2026-02
Qwen3.5系列發布,Qwen3.6和Qwen3.7被提及為2026年領先的開源LLM。
📎 來源 (20)
Factual claims are grounded in the sources below. Forward-looking analysis is AI-generated interpretation.
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA ↗