阶跃星辰 Storms AI Playoffs, Tops New Six Tigers

🔑 Enhanced Key Takeaways

• •阶跃星辰（StepFun）于2026年2月初开源Step 3.5 Flash模型，采用MoE架构，总参数1960亿，每Token激活约110亿参数，推理速度达每秒350 Token[1].
• •Step 3.5 Flash在OpenRouter Fastest Models排名中首日位列全球最快，生成速率167 Tokens/s，并在高难度数学推理中表现出色[1].
• •公司近期还发布视觉语言模型Step-3 VL-10B达到同规模SOTA水平，以及语音模型Step-Audio-R1.1登顶Artificial Analysis Speech Reasoning全球第一[1].

🛠️ Technical Deep Dive

• •Step3模型采用Mixture-of-Experts (MoE)架构，总参数321B (VLM)，每Token激活38B参数[3].
• •架构细节：61层（含5密层），隐藏维度7168，MFA注意力机制，低秩Query维度2048，64 Query heads (头维度256)，48专家/3选专家+1共享专家[3].
• •支持最大上下文长度65536，使用Deepseek V3分词器，LLM总参数316B[3].
• •Step 3.5 Flash：MoE架构，总参数1960亿，每Token激活110亿，优化复杂Agent工作流，单请求代码任务最高350 Tokens/s[1].

🔮 Future ImplicationsAI analysis grounded in cited sources

⏳ Timeline