
Gemma4 26B 在 Rockchip NPU 以 4W 運行
透過自訂 llama.cpp 分支,在 Rockchip NPU 上運行 Gemma4 26B A4B。僅 4W 功耗即展現出色推理結果。展示大型模型高效邊緣部署潛力。
Tag: #npu75 results

透過自訂 llama.cpp 分支,在 Rockchip NPU 上運行 Gemma4 26B A4B。僅 4W 功耗即展現出色推理結果。展示大型模型高效邊緣部署潛力。

Qwen3.5-4B 在 Ryzen AI 7 350 XDNA2 NPU(32GB RAM)測試,使用 Lemonade v10.0.1 與 FastFlowLM v0.9.36。低功耗低於 50°C、工具呼叫、最高 256k 權重、VLMEvalKit 85.6%。支援所有 XDNA2 NPU。

Lemonade v10 引入 Linux NPU 支援,並提供強大的多模態功能,包括圖像生成/編輯、轉錄和語音合成。它支援 Ubuntu、Arch、Debian、Fedora 和 Snap,使用單一基底 URL 供應用程式使用。控制中心應用程式有助於模型和後端管理,並有社群挑戰提供 AMD 筆電。

AMD 推出 Ryzen AI 400 系列處理器,適用桌上型 PC。帶來 Copilot 等級 AI 功能,將本地 AI 處理擴展至桌上型。

BIOSTAR 推出 EdgeComp MT-N150,這是一款基於 Intel N150 處理器、支援 DEEPX 與 MemryX 獨立 NPU 的緊湊型工業電腦。產品定位於智慧安防、智慧城市等邊緣運算應用。

韓國 NPU 公司 Mobilint 推出 USB 外接式邊緣 AI 加速器 MLD-R1,產品採用其 REGULUS AI SoC。裝置以 3W 功耗提供 10 TOPS INT8 算力,支援主流機器學習框架、Windows、Linux,以及 x86、Arm 和 RISC-V 主機。

Apple 放棄的自動駕駛汽車計畫是開發 Neural Engine 的主要催化劑。這個最初旨在用於自動駕駛導航的硬體組件,現在為整個 Apple 生態系統的裝置端 AI 提供動力。

Samsung 已正式確認 Exynos 2700 處理器的開發。該晶片預計將搭載於即將推出的 Galaxy S27,重點在於提升能源效率。

AMD 即將推出的 Zen 6「Morpheus」架構可能放棄內顯,轉而整合專用 NPU。此舉旨在強化未來桌上型電腦平台的本地 AI 運算能力。
Microsoft 更新了 Surface Pro 和 Surface Laptop 產品線,搭載更快的圖形處理能力與全新的 Qualcomm 處理器。這些改進旨在吸引創意專業人士與 AI 重度使用者。