SetupAI
EN
來源較早收集於 12m

高通收購 Nexa AI 以強化端側 AI 能力

閱讀原文： 虎嗅
#edge-ai#npu

了解這家 12 人初創公司如何解決「NPU 碎片化」問題並被高通收購。

30 秒速覽

有什麼變化

Nexa AI 的「NPU First」策略專門針對 NPU 硬體優化模型推理。

為什麼重要

此次收購透過提供更友善的 NPU 開發軟體堆疊，強化了高通在端側 AI 市場的地位。

下一步行動

如果您正在為 Snapdragon 平台進行開發，請探索新的 GenieX 框架，以加速模型在 NPU 上的部署。

誰應關注：Developers & AI Engineers

關鍵要點

  • •Nexa AI 的「NPU First」策略專門針對 NPU 硬體優化模型推理。
  • •實現了新模型的「Day-0 Support」，大幅縮短了 OEM 的部署時間。
  • •該公司的 SDK 原本支援多種後端，現已轉為專注於高通硬體。

深度解析

本篇為 AI 生成分析，非原文內容。

增強重點摘要

  • •Nexa AI 的核心技術在於其輕量化推理引擎，能夠在資源受限的邊緣設備上運行複雜的視覺與語言模型。
  • •此次收購標誌著高通從單純的硬體供應商，進一步向『硬體+軟體堆疊』的一體化 AI 解決方案提供商轉型。
  • •Nexa AI 團隊此前開發的開源項目（如 Nexa SDK）在開發者社群中以極高的模型轉換效率著稱，特別是在處理 ONNX 與 GGUF 格式轉換方面。
  • •GenieX 團隊將直接向高通的 AI 軟體部門匯報，重點任務是優化 Snapdragon 處理器上的 AI 負載分配，以降低功耗並提升推理速度。
  • •該收購案反映了高通在面對聯發科與蘋果在端側 AI 競爭時，採取了『買入技術以縮短軟體生態建設週期』的防禦性策略。

競品分析

硬體優化
高通 (GenieX)
NPU First (深度綁定)
Apple (Core ML)
封閉生態 (高度整合)
MediaTek (NeuroPilot)
跨平台兼容性強
部署速度
高通 (GenieX)
Day-0 Support (極快)
Apple (Core ML)
依賴 Xcode 更新
MediaTek (NeuroPilot)
依賴 SDK 版本更新
模型支援
高通 (GenieX)
廣泛 (LLM/LMM)
Apple (Core ML)
專注於 Apple Silicon
MediaTek (NeuroPilot)
專注於主流移動模型

技術深入

  • Nexa AI 推理引擎採用了動態量化技術，能在不顯著損失精度的情況下將模型壓縮至 4-bit 或更低。
  • 該技術支援異構運算，能自動將模型層（Layers）分配至 CPU、GPU 與 NPU 之間執行，以達到最佳能效比。
  • 透過 GenieX 整合，高通將實現對 Transformer 架構模型的原生硬體加速，減少記憶體頻寬的佔用。
  • 支援多模態模型（Multimodal Models）的端側即時處理，特別是針對影像識別與語音指令的低延遲響應。

前景展望基於引用來源的 AI 分析

高通將在 2027 年前實現所有 Snapdragon 旗艦晶片對端側 7B 參數模型的原生支援。
透過 GenieX 的優化技術，高通能顯著降低大模型在移動設備上的記憶體需求與功耗門檻。
GenieX 將成為高通 AI Stack 的核心組件，取代部分舊有的軟體優化工具。
高通需要統一的軟體介面來應對日益複雜的端側 AI 模型部署需求，以維持其市場領先地位。

時間線

2024-03
Nexa AI 成立，專注於開發端側 AI 推理引擎與模型部署工具。
2025-01
Nexa AI 發布其開源 SDK，支援多種主流開源模型的快速部署。
2026-06
高通正式完成對 Nexa AI 的收購，並啟動團隊整合工作。
2026-07
高通宣布 Nexa AI 團隊更名為 GenieX，並正式併入高通軟體生態系統。
閱讀原文： 虎嗅

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： 虎嗅 ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。