Step3.5 Flash連續三天登OpenClaw榜首

🔑 增強重點摘要

• •Step3.5 Flash採用稀疏MoE架構，總參數1960億，推理時僅激活約110億參數，單請求代碼任務達350 TPS[1][2]。
• •模型支援262K上下文窗口，透過3:1滑動窗口注意力（SWA）混合設計實現高效長上下文處理[2]。
• •在SWE-bench Verified達74.4%、Terminal-Bench 2.0達51.0%，Hugging Face下載量超30萬並登OpenRouter Trending第一[1][2][3]。
• •StepZen於2026年3月4日宣布全棧開源，包括Base、Midtrain權重及Steptron訓練框架[1][9]。

🛠️ 技術深入

• •稀疏MoE架構：總參數1960億，推理激活約110億參數，實現高能效比[1]。
• •3-way Multi-Token Prediction (MTP-3)：生成吞吐量100–300 tok/s，單流代碼任務峰值350 tok/s[2]。
• •混合注意力設計：3:1 Sliding Window Attention (SWA)比例，每一全注意力層插入三SWA層，降低長上下文計算開銷[2]。
• •支援INT4/GGUF量化及INT8 KVCache量化，在NVIDIA DGX Spark上達20 t/s，擴展至256K上下文[4]。
• •可擴展RL框架支援持續改進，整合Python代碼執行提升邏輯與數學基準表現[2]。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線