🏠最新收集於 17m

Mobilint 推出 10 TOPS USB AI 加速器

Mobilint 推出 10 TOPS USB AI 加速器
PostLinkedIn
🏠閱讀原文: IT之家

💡這款僅 3W 的 USB 裝置,將 10 TOPS INT8 邊緣推論帶到 x86、Arm 與 RISC-V 系統。

⚡ 30-Second TL;DR

有什麼變化

MLD-R1 透過 Mobilint 的 REGULUS AI SoC 提供 10 TOPS INT8 推論效能。

為什麼重要

MLD-R1 為開發者提供低功耗外接式本地推論方案,不必更換主機電腦。其廣泛的框架與 CPU 架構相容性,可能適合邊緣原型、工業部署,以及全天候視覺或感測器工作負載。

下一步行動

將一個現有的 ONNX 或 TensorFlow Lite 模型移植至 MLD-R1 SDK,並與純 CPU 推論比較 INT8 延遲、吞吐量與功耗。

誰應關注:Developers & AI Engineers

關鍵要點

  • MLD-R1 透過 Mobilint 的 REGULUS AI SoC 提供 10 TOPS INT8 推論效能。
  • 產品整合 1.5GHz 四核心 Arm Cortex-A53 CPU,並提供 4GB 或 8GB LPDDR4X-4267 記憶體。
  • USB 裝置支援 Keras、TensorFlow、TensorFlow Lite、PyTorch 與 ONNX,可運行於 Windows 和 Linux。

🧠 深度解析

AI-generated analysis for this event.

🔑 增強重點摘要

  • Mobilint 的 REGULUS AI SoC 採用了專有的神經處理單元(NPU)架構,旨在優化邊緣運算的能效比,特別針對低延遲推論需求進行了硬體層級的優化。
  • 該產品不僅支援常見的 AI 框架,還提供了專屬的編譯器工具鏈,能將訓練好的模型自動轉換並量化為適合 REGULUS 架構的格式。
  • MLD-R1 的設計目標市場包括工業自動化、智慧監控與機器人視覺,強調在無網路連接的環境下執行即時 AI 推論的能力。
  • Mobilint 積極參與 RISC-V 生態系統,其 REGULUS SoC 的設計理念與開放架構趨勢高度整合,以降低對單一指令集架構的依賴。
  • 除了 USB 介面版本,Mobilint 亦提供 M.2 與 PCIe 介面的模組化方案,以滿足不同嵌入式系統的整合需求。
📊 競品分析▸ Show
特性Mobilint MLD-R1Google Coral USB AcceleratorHailo-8 AI Kit
算力10 TOPS (INT8)4 TOPS (INT8)26 TOPS (INT8)
核心架構REGULUS NPUEdge TPUHailo-8 NPU
功耗3W2W2.5W (典型)
記憶體4GB/8GB LPDDR4X內建 8MB SRAM視模組而定
適用場景通用邊緣 AI 推論輕量級邊緣推論高效能邊緣視覺

🛠️ 技術深入

  • 處理器核心:整合 1.5GHz 四核心 Arm Cortex-A53,負責系統管理與 I/O 處理。
  • NPU 架構:採用 Mobilint 自研架構,支援 INT8 量化推論,針對卷積神經網路 (CNN) 與部分 Transformer 模型進行加速。
  • 記憶體配置:提供 4GB 或 8GB LPDDR4X-4267,確保模型載入與資料傳輸頻寬充足。
  • 介面規格:USB 3.0/3.1 介面,確保與 x86、Arm 及 RISC-V 主機的廣泛相容性。
  • 軟體堆疊:支援標準 ONNX 格式,並透過專屬 SDK 進行模型優化與部署,相容於主流 Linux 發行版與 Windows 系統。

🔮 前景展望AI analysis grounded in cited sources

Mobilint 將在 2027 年前擴大其 RISC-V 產品線。
該公司目前已在 REGULUS SoC 中展現對 RISC-V 的支援,未來將進一步整合 RISC-V 核心以提升客製化彈性。
邊緣 AI 加速器市場將轉向更低功耗的 SoC 整合方案。
MLD-R1 的 3W 功耗表現顯示市場對於在電池供電設備中運行高算力 AI 的需求日益增長。

時間線

2023-05
Mobilint 於韓國成立,專注於邊緣 AI NPU 技術開發。
2024-01
發布 REGULUS AI SoC 架構,並開始向合作夥伴提供樣品。
2025-06
正式推出 MLD-R1 USB AI 加速器,進軍邊緣運算硬體市場。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: IT之家