Intern-S2-Preview: Efficient 35B Scientific Multimodal Model

•Intern-S2-Preview 由上海人工智能實驗室的 InternLM 團隊開發，該團隊也負責 Intern-S1、InternVL 和 InternLM-XComposer 等一系列大型模型，致力於開源高品質的LLM/MLLM及其開發工具鏈 [2, 6]。
•該模型的核心創新在於其「任務擴展」方法，透過從預訓練到強化學習的完整訓練流程，顯著增加了科學任務的難度、多樣性和覆蓋範圍，以進一步釋放模型潛力 [4, 5]。
•Intern-S2-Preview 是首個開源模型，同時具備材料晶體結構生成能力和強大的通用能力，並強化了小分子結構的空間建模，引入了實值預測模組 [4, 5]。
•其底層的 Qwen3.5 基礎模型採用了統一的視覺-語言基礎（透過多模態token的早期融合訓練）、高效的混合架構（結合了門控Delta網路和稀疏專家混合模型），以及可擴展的強化學習泛化能力 [15, 32]。
•在強化學習階段，Intern-S2-Preview 採用了結合 KL 損失的共享權重多輪預測 (MTP) 技術，旨在減少訓練與推理行為之間的不匹配，從而大幅提高 MTP 接受率和 token 生成速度 [4, 5]。

📊 競品分析▸ Show

特徵/模型	Intern-S2-Preview	Intern-S1-Pro	Qwen3.5 (基礎模型)
參數規模	35B [4, 5]	1兆 (MoE, 22B活躍參數) [3, 18]	9B, 27B, 35B等不同規模 [15, 28, 32]
基礎模型	Qwen3.5 [4, 5]	Qwen3 MoE (235B LLM) + 6B InternViT 視覺編碼器 [1, 3]	N/A (自身為基礎模型) [15]
核心優勢	任務擴展、高效RL推理、材料晶體結構生成、小參數規模下媲美萬億級模型效能 [4, 5]	AI4Science領域頂尖性能、處理自然語言、圖表、分子、蛋白質序列和時間序列信號 [1, 3]	統一視覺-語言基礎、高效混合架構、可擴展RL泛化、多語言支持 (201種) [15, 32]
科學任務效能	在多個核心專業科學任務上與Intern-S1-Pro相當 [4, 5]	在SciReasoner (55.5)、MatBench (72.8)、Mol-Instructions (48.8) 等基準測試中顯著超越專有模型如 Gemini-3-Pro 和 GPT-5.2 [34]	在MMMU-Pro (多模態推理) 等基準測試中表現出色，例如9B模型得分69.2% [20, 32]
強化學習	採用共享權重 MTP 與 CoT 壓縮技術，提升推理效率 [4, 5]	具有高樣本效率 (成本降低10倍)，並整合了創新技術 [16]	可擴展的RL泛化，在百萬代理環境中進行訓練，具有漸進複雜的任務分佈 [15, 28]
開放性	開源 [4, 5]	開源 [1, 3]	開源 (Apache 2.0 許可) [20]

基礎模型架構: Intern-S2-Preview 基於 Qwen3.5 繼續預訓練，Qwen3.5 採用了高效的混合架構，結合了門控 Delta 網路 (Gated Delta Networks) 和稀疏專家混合模型 (sparse Mixture-of-Experts) [15, 32]。
參數規模: Intern-S2-Preview 是一個 35B 參數模型 [4, 5]。
訓練方法論: 採用「任務擴展 (task scaling)」策略，透過增加數百個專業科學任務的難度、多樣性和覆蓋範圍，從預訓練到強化學習的完整鏈條進行訓練 [4, 5]。
強化學習優化: 在強化學習 (RL) 過程中，模型採用了共享權重多輪預測 (MTP) 技術，並結合 KL 損失來減少訓練與推理行為之間的不匹配，從而顯著提高了 MTP 的接受率和 token 生成速度 [4, 5]。
思維鏈 (CoT) 壓縮: 引入了 CoT 壓縮技術，旨在縮短模型響應的長度，同時保持強大的推理能力，以提高性能和效率 [4, 5]。這與透過識別低熵冗餘步驟並使用兩階段訓練（SFT+GRPO）來生成壓縮 CoT 的研究相符 [14, 19]。
專業領域強化: 強化了小分子結構的空間建模能力，並引入了實值預測模組，使其成為首個同時具備材料晶體結構生成能力和強大通用能力的開源模型 [4, 5]。
上下文長度: 作為 Qwen3.5 的衍生模型，其基礎模型原生支持 262,144 個 token 的上下文長度，並可擴展至 1,010,000 個 token [15, 28]。

加速科學發現與材料設計

該模型在材料晶體結構生成方面的能力，結合其在科學任務上的高效能，將顯著縮短新材料的研發週期。

推動AI代理在科學研究中的應用

增強的代理能力和對科學工作流程的優化，將使AI模型能更自主地執行複雜的科學實驗設計和數據分析。

降低高性能科學AI模型的部署成本

透過 CoT 壓縮和高效強化學習推理，Intern-S2-Preview 在較小參數規模下達到與萬億級模型相當的效能，使得更多研究機構和企業能夠負擔並部署先進的科學 AI。

2024-01

InternLM-XComposer2 (InternLM 系列的視覺-語言模型) 發布 [13]

2025-08

Intern-S1 (科學多模態基礎模型) 發布 [1, 7]

2026-02

Intern-S1-Pro (萬億級 MoE 科學多模態推理模型) 發布 [27]

2026-02

Qwen3.5 中型模型系列發布 [32]

2026-03

Qwen3.5-9B-Base 模型權重在 Hugging Face 上發布 [15]

2026-05-15

Intern-S2-Preview (35B 科學多模態模型) 發布/公告 [4, 5]

Intern-S2-Preview：高效能 35B 科學多模態模型