Qwen Core/CLI Fixes: Addressing PR #4168 Review Batch 12

•Qwen (通義千問) 是阿里巴巴集團開發的大型語言模型家族，提供從端側微型模型到雲端巨型旗艦的廣泛模型選擇，並支援文字、視覺、音訊、代碼等多模態能力，已成為中國領先的大語言模型之一。
•Qwen系列模型以其快速的開源迭代節奏和龐大的生態系統著稱，已開源超過200個模型，全球下載量超過3億次，在開源社群的影響力已超越Llama，位居全球開源模型第一。
•Qwen Core/CLI 作為命令行工具，旨在提供輕量、高效的AI輔助編程體驗，支援與本地環境互動、文件存取、執行Shell命令及Web互動，這些穩定性修復對於確保其在代理編碼任務中的可靠性至關重要。
•大型語言模型中NaN傳播和Token計數錯誤的修復，對於維持模型在處理長上下文時的數值穩定性和避免因計算複雜度增加導致的性能下降及成本上升具有關鍵意義，因為Token數量的增加會顯著影響計算資源消耗、推理速度和上下文理解能力。

📊 競品分析▸ Show

特性/模型	Qwen (通義千問)	Llama (Meta)	DeepSeek	GLM (智譜AI)	Mistral (Mistral AI)
開發者	阿里巴巴雲	Meta AI	DeepSeek AI	智譜AI	Mistral AI
模型架構	Transformer 解碼器，包含MoE與Dense模型，RoPE，Untied Embeddings	Transformer 解碼器，RoPE，GQA	Transformer 解碼器，MoE，MLA注意力機制	原生融合推理、編碼、智能體能力	Transformer 解碼器，GQA
參數規模	0.6B 至 235B (Qwen3)，包括MoE模型	7B 至 405B (Llama 3.1)	671B (DeepSeek-V3/R1)，推理激活37B	多種規模，GLM-4.5	7B, 8x7B (Mixtral), 22B
開源策略	Apache 2.0 授權，廣泛開源，生態系統龐大	寬鬆商用許可證 (Llama 2)，模型可下載	開源，高性能低成本路線	開源，積極推動標準	開源權重，高效能
主要優勢	全模態能力，快速迭代，生態系統領先，支持思考模式	生態奠基者，廣泛社區支援	高性能，高推理效率 (MoE)，程式碼與數學表現優異	原生融合推理、編碼、智能體能力，中文與智能體場景優勢	高效能，低延遲部署，適用本地運行
應用場景	通用對話、多模態應用、代理編碼	通用LLM應用，微調部署	程式碼、數學、複雜任務處理	智能體、中文處理、推理、編碼	本地或低延遲部署，代理任務

Qwen模型通常採用經典的Transformer解碼器架構，這是一個標準的自回歸大語言模型框架。
模型引入了多項改進和定制設計，例如旋轉位置嵌入（RoPE），用於提供相對位置感知能力，並常以FP32精度計算其頻率矩陣，以確保長上下文情境下的數值穩定性和精度。
Qwen模型採用權重解耦（Untied Embeddings）設計，即輸入嵌入層和輸出投影層的權重是分開的，不共享參數，這有助於提升模型效果，儘管會略微增加記憶體消耗。
Qwen2系列模型涵蓋多種參數規模，從0.5B到72B不等，並提供基礎模型和指令對齊（聊天）模型，其中包含混合專家（MoE）模型，例如Qwen2 57B-A14B，表示總參數約57B，但每個token推理時僅激活約14B參數。
Qwen3引入了「思考模式」與「非思考模式」兩種推理策略，允許使用者根據任務需求靈活調整模型的推理深度與回應速度，並支援32K至128K的上下文長度。
例如，Qwen3.6-27B模型具有270億參數，64層，隱藏維度為5120，並採用Gated DeltaNet和Gated Attention等特定配置。

提升Qwen模型在複雜計算任務中的可靠性。

NaN傳播修復直接解決了閾值計算中的穩定性問題，確保了模型在處理數值時的準確性，避免下游應用因無效數據而失敗。

強化Qwen在處理長上下文和高併發場景下的穩定性。

Token計數防護和聊天壓縮監控的改善，有助於更有效地管理資源，防止因無效Token數據或壓縮問題導致的系統崩潰或性能下降。

促進Qwen生態系統的健康發展與開發者採用。

核心穩定性修復和文件說明的更新，降低了開發者使用Qwen Core/CLI的門檻，提升了開發體驗和模型的可信賴度。

2023-04

阿里巴巴雲正式宣布通義千問（Qwen）並開啟企業用戶內測。

2023-09

阿里巴巴雲宣布通義千問正式向社會公眾開放。

2024-09

Qwen的衍生模型數量超越Llama，成為全球最大的生成式語言模型家族。

2025-04

Qwen3（通義千問3）正式開源，發布了涵蓋0.6B至235B參數的8款模型。

2026-02

通義千問推出「30億免單」春節活動，因用戶請求量過大導致服務短暫故障。

2026-04

Qwen3.6-27B發布，專注於穩定性和代理編碼，並引入思考保留等功能。

Qwen Core/CLI 更新：修復 PR #4168 第 12 批審查問題