🐯最新收集於 12m

高通收購 Nexa AI 以強化端側 AI 能力

高通收購 Nexa AI 以強化端側 AI 能力
PostLinkedIn
🐯閱讀原文: 虎嗅

💡了解這家 12 人初創公司如何解決「NPU 碎片化」問題並被高通收購。

⚡ 30-Second TL;DR

有什麼變化

Nexa AI 的「NPU First」策略專門針對 NPU 硬體優化模型推理。

為什麼重要

此次收購透過提供更友善的 NPU 開發軟體堆疊,強化了高通在端側 AI 市場的地位。

下一步行動

如果您正在為 Snapdragon 平台進行開發,請探索新的 GenieX 框架,以加速模型在 NPU 上的部署。

誰應關注:Developers & AI Engineers

關鍵要點

  • Nexa AI 的「NPU First」策略專門針對 NPU 硬體優化模型推理。
  • 實現了新模型的「Day-0 Support」,大幅縮短了 OEM 的部署時間。
  • 該公司的 SDK 原本支援多種後端,現已轉為專注於高通硬體。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Nexa AI 的核心技術在於其輕量化推理引擎,能夠在資源受限的邊緣設備上運行複雜的視覺與語言模型。
  • 此次收購標誌著高通從單純的硬體供應商,進一步向『硬體+軟體堆疊』的一體化 AI 解決方案提供商轉型。
  • Nexa AI 團隊此前開發的開源項目(如 Nexa SDK)在開發者社群中以極高的模型轉換效率著稱,特別是在處理 ONNX 與 GGUF 格式轉換方面。
  • GenieX 團隊將直接向高通的 AI 軟體部門匯報,重點任務是優化 Snapdragon 處理器上的 AI 負載分配,以降低功耗並提升推理速度。
  • 該收購案反映了高通在面對聯發科與蘋果在端側 AI 競爭時,採取了『買入技術以縮短軟體生態建設週期』的防禦性策略。
📊 競品分析▸ Show
特性高通 (GenieX)Apple (Core ML)MediaTek (NeuroPilot)
硬體優化NPU First (深度綁定)封閉生態 (高度整合)跨平台兼容性強
部署速度Day-0 Support (極快)依賴 Xcode 更新依賴 SDK 版本更新
模型支援廣泛 (LLM/LMM)專注於 Apple Silicon專注於主流移動模型

🛠️ 技術深入

  • Nexa AI 推理引擎採用了動態量化技術,能在不顯著損失精度的情況下將模型壓縮至 4-bit 或更低。
  • 該技術支援異構運算,能自動將模型層(Layers)分配至 CPU、GPU 與 NPU 之間執行,以達到最佳能效比。
  • 透過 GenieX 整合,高通將實現對 Transformer 架構模型的原生硬體加速,減少記憶體頻寬的佔用。
  • 支援多模態模型(Multimodal Models)的端側即時處理,特別是針對影像識別與語音指令的低延遲響應。

🔮 前景展望AI analysis grounded in cited sources

高通將在 2027 年前實現所有 Snapdragon 旗艦晶片對端側 7B 參數模型的原生支援。
透過 GenieX 的優化技術,高通能顯著降低大模型在移動設備上的記憶體需求與功耗門檻。
GenieX 將成為高通 AI Stack 的核心組件,取代部分舊有的軟體優化工具。
高通需要統一的軟體介面來應對日益複雜的端側 AI 模型部署需求,以維持其市場領先地位。

時間線

2024-03
Nexa AI 成立,專注於開發端側 AI 推理引擎與模型部署工具。
2025-01
Nexa AI 發布其開源 SDK,支援多種主流開源模型的快速部署。
2026-06
高通正式完成對 Nexa AI 的收購,並啟動團隊整合工作。
2026-07
高通宣布 Nexa AI 團隊更名為 GenieX,並正式併入高通軟體生態系統。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: 虎嗅