🔗較早收集於 38m

商湯科技推出高速優化圖像模型

商湯科技推出高速優化圖像模型
PostLinkedIn
🔗閱讀原文: Wired AI

💡商湯科技開源中國晶片高速圖像模型—美制裁下的快速視覺AI解決方案(58字)

⚡ 30-Second TL;DR

有什麼變化

商湯科技發布專注高速的開源圖像模型

為什麼重要

凸顯中國AI公司在制裁下韌性,推動本土硬體生態。為全球開發者提供非Nvidia晶片的快速圖像生成開源替代。可能激發速度優化視覺模型競爭。

下一步行動

複製商湯科技圖像模型GitHub儲存庫,並在中國晶片上基準測試推理速度

誰應關注:Developers & AI Engineers

關鍵要點

  • 商湯科技發布專注高速的開源圖像模型
  • 因美制裁,模型優化運行於華為昇騰等中國晶片
  • 轉向開源策略以彌補先進美科技限制

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • 該模型採用了名為「蒸餾與量化混合架構」(Hybrid Distillation and Quantization Architecture),旨在降低對高頻寬記憶體(HBM)的依賴,從而適應國產晶片相對受限的記憶體頻寬。
  • 商湯科技此次開源行動與其「SenseCore」大模型基礎設施的國產化升級同步,意在建立以昇騰(Ascend)生態為核心的開發者社群,以對抗 NVIDIA CUDA 生態的壟斷。
  • 根據初步基準測試,該模型在推理延遲上比商湯上一代閉源模型提升了約 40%,特別是在邊緣運算設備上的部署效率有顯著優化。
📊 競品分析▸ Show
特性商湯科技 (新模型)Stability AI (Stable Diffusion 3)阿里巴巴 (Qwen-VL)
硬體優化專注昇騰 (Ascend)專注 NVIDIA GPU混合架構 (GPU/NPU)
開源授權寬鬆開源協議限制性商業授權Apache 2.0
推理速度極高 (針對國產晶片優化)中等 (依賴 CUDA)高 (針對雲端優化)

🛠️ 技術深入

  • 架構:採用輕量化 Transformer 骨幹,結合了針對昇騰 NPU 指令集優化的算子融合技術。
  • 量化技術:支援 INT8 與 FP8 混合精度推理,特別針對華為昇騰 910B 晶片的矩陣運算單元進行了算子級別的重寫。
  • 訓練框架:完全基於商湯自研的 SenseParrots 框架,並已完成對 MindSpore 框架的適配,實現了跨框架的無縫遷移。

🔮 前景展望AI analysis grounded in cited sources

中國 AI 產業將加速形成「昇騰+國產模型」的獨立技術棧。
商湯透過開源優化模型,降低了開發者使用國產晶片的門檻,將有效推動國產硬體生態的軟體成熟度。
商湯科技將在未來 12 個月內減少對 NVIDIA GPU 的採購依賴。
隨著模型對國產晶片適配度的提升,商湯內部訓練與推理任務將大規模遷移至國產算力集群。

時間線

2022-09
商湯科技發布 SenseCore AI 大裝置,開始佈局國產算力適配。
2023-04
商湯科技推出「日日新」大模型體系,並宣布啟動國產晶片兼容性計畫。
2024-07
商湯科技宣布與華為昇騰達成深度戰略合作,共同優化大模型訓練效率。
2026-04
商湯科技正式發布針對國產晶片優化的高速開源圖像模型。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Wired AI