SetupAI
EN
來源較早收集於 31m

Liquid AI 發布 LFM2.5-230M，實現高效邊緣運算

閱讀原文： VentureBeat
#edge-ai#on-device#model-efficiency#data-extraction

以 2.3 億參數擊敗 10 億參數模型，是開發高效能邊緣 AI 應用的開發者必備工具。

30 秒速覽

有什麼變化

具備 2.3 億參數規模，專為裝置端代理工作流優化。

為什麼重要

此發布標誌著產業轉向架構效率，使智慧型手機和機器人等資源受限的硬體能在無需雲端連線的情況下執行複雜的 AI 任務。

下一步行動

下載 LFM2.5-230M 模型，並將其數據提取效能與您現有的輕量級 Transformer 架構管線進行基準測試。

誰應關注：Developers & AI Engineers

關鍵要點

  • •具備 2.3 億參數規模，專為裝置端代理工作流優化。
  • •在數據提取任務中效能超越 Qwen3.5-0.8B 和 Gemma 3 1B 等較大模型。
  • •採用 LFM2 架構，結合門控短程卷積與分組查詢注意力機制。
  • •支援 32K 上下文視窗，且記憶體佔用低於 400MB。

深度解析

本篇為 AI 生成分析，非原文內容。

增強重點摘要

  • •Liquid AI 的 LFM 系列源自麻省理工學院（MIT）計算與生物系統實驗室的液體神經網絡（Liquid Neural Networks）研究成果。
  • •LFM2.5-230M 特別針對非結構化數據的解析進行了訓練，旨在解決邊緣設備上處理複雜文件格式時的延遲問題。
  • •該模型採用了獨特的非 Transformer 架構，通過減少推理過程中的 KV 快取（KV Cache）需求，顯著降低了硬體資源消耗。
  • •Liquid AI 透過與硬體供應商合作，針對特定邊緣 AI 加速器（如 NPU）進行了底層指令集優化，進一步提升了每瓦效能。
  • •LFM2.5-230M 支援多種量化格式（如 4-bit 和 8-bit），允許開發者根據邊緣設備的記憶體限制靈活調整模型部署方案。

競品分析

參數規模
LFM2.5-230M
2.3 億
Qwen3.5-0.8B
8 億
Gemma 3 1B
10 億
架構類型
LFM2.5-230M
LFM2 (非 Transformer)
Qwen3.5-0.8B
Transformer
Gemma 3 1B
Transformer
記憶體佔用
LFM2.5-230M
< 400MB
Qwen3.5-0.8B
約 800MB+
Gemma 3 1B
約 1GB+
核心優勢
LFM2.5-230M
極致邊緣效能
Qwen3.5-0.8B
通用語言能力
Gemma 3 1B
生態系統整合

技術深入

  • 架構核心：基於液體狀態機（Liquid State Machines）原理，結合了門控短程卷積（Gated Short-range Convolutions）以捕捉時間序列特徵。
  • 注意力機制：採用分組查詢注意力（Grouped-Query Attention, GQA），在保持模型輕量化的同時，維持長上下文處理能力。
  • 推理優化：通過動態權重調整技術，在不顯著損失精度的情況下，將模型參數壓縮至 2.3 億規模。
  • 記憶體管理：優化的計算圖設計，使得模型在推理時無需傳統 Transformer 的龐大 KV 快取，適合記憶體受限的嵌入式系統。

前景展望基於引用來源的 AI 分析

邊緣 AI 代理將在 2027 年前實現離線數據處理的普及化。
LFM2.5-230M 等超輕量模型證明了在極低功耗下處理複雜任務的可行性，將推動更多設備脫離雲端依賴。
非 Transformer 架構將在特定垂直領域取代傳統模型。
隨著 Liquid AI 等公司在邊緣計算領域的成功，針對特定任務優化的非 Transformer 架構將因其更高的能效比而獲得市場青睞。

時間線

2024-10
Liquid AI 正式發布首款 LFM (Liquid Foundation Models) 系列模型。
2025-03
Liquid AI 宣布完成新一輪融資，專注於開發邊緣計算專用模型。
2026-06
Liquid AI 發布 LFM2.5-230M，進一步優化邊緣裝置的數據提取效能。
閱讀原文： VentureBeat

AI 週報

閱讀本週精選 AI 大事摘要 →

PostLinkedIn

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： VentureBeat ↗

這是摘要，不是原文。去看原站，或訂閱每週簡報。

每週電子報

每週一封，可隨時退訂。