🦙較早收集於 27m

StepFun 發佈 Step 3.5 Flash 兩款基礎模型

PostLinkedIn
🦙閱讀原文: Reddit r/LocalLLaMA
#base-models#open-source-releasestepfun-step-3.5-flashstepfunstep-3.5-flash

💡Step 3.5 Flash 新基礎模型:本地微調的開源新選擇。(38字元)

⚡ 30-Second TL;DR

有什麼變化

為 Step 3.5 Flash 發佈兩款基礎模型

為什麼重要

為本地 AI 從業者提供新的開源基礎模型,用於微調或高效部署。擴展 StepFun 生態系中的自訂 LLM 開發選項。

下一步行動

從 Reddit 連結下載兩款基礎模型,並在本地 LLM 環境中測試。

誰應關注:Developers & AI Engineers

關鍵要點

  • 為 Step 3.5 Flash 發佈兩款基礎模型
  • 由 u/tarruda 在 Reddit r/LocalLLaMA 公告
  • 提供模型與評論的直接連結

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 8 個來源。

🔑 增強重點摘要

  • Step 3.5 Flash 是稀疏混合專家(MoE)模型,總參數 196.81B,每 token 僅激活約 11B 參數,提供高效推理。[1][2]
  • 模型支援 256K 或 262K 上下文窗口,生成速度 100-300 tok/s(編碼任務峰值 350 tok/s),並使用 3-way Multi-Token Prediction (MTP-3) 加速。[2][3]
  • 在基準測試中表現優異,包括 SWE-bench Verified 74.4%、Terminal-Bench 2.0 51.0%、AIME 2025 97.3% 及 LiveCodeBench-V6 86.4%。[3][5]

🛠️ 技術深入

  • Transformer 架構,45 層(3 密集層 + 42 MoE 層),隱藏大小 4,096,詞彙大小 128,896。[2]
  • 每個 MoE 層有 288 路由專家 + 1 共享專家,每 token 選擇 Top-8 專家;注意力為 3:1 SWA 比例(滑動窗口大小 512)。[2][6]
  • 支援本地部署於 Mac Studio M4 Max、NVIDIA DGX Spark 或 AMD AI Max+ 395 等硬體,GGUF INT4 量化版本約 111.5 GB,生成速度達 20 tok/s。[4][7]
  • 使用改進 Muon 優化器訓練 17.2T 高品質 token,FP8 精度,支援工具呼叫但不支援微調或圖像輸入。[3][6]

🔮 前景展望AI analysis grounded in cited sources

Step 3.5 Flash 將加速開源代理模型在邊緣設備的部署
其高效 MoE 架構與消費者硬體相容性,使高性能 AI 推理從雲端轉移至本地環境,提升資料隱私與即時性。[1][4]
將挑戰專有模型在推理與代理任務的主導地位
基準成績媲美 GPT-5.2 xHigh 與 Gemini 3.0 Pro,卻以開源形式提供 11B 級速度,降低產業對巨型模型依賴。[3][6]

時間線

2026-02
StepFun 發佈 Step 3.5 Flash 開源基礎模型,強調 MoE 效率與代理能力
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Reddit r/LocalLLaMA

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。