
Qwen 3.5-27B 在 512MB Raspberry Pi Zero 2W 上運行
Qwen3.5-27B 模型在僅 512MB RAM 的 15 美元 Raspberry Pi Zero 2W 上離線運行,每小時數令牌。自訂實作從 SD 卡串流權重、計算並清除記憶體,不依賴 mmap 或交換。
Reddit r/LocalLLaMA · 170 天前
在設備端運行的 AI——手機、汽車、攝像頭與傳感器。雲外的低延遲、重隱私推理。
417 篇文章

Qwen3.5-27B 模型在僅 512MB RAM 的 15 美元 Raspberry Pi Zero 2W 上離線運行,每小時數令牌。自訂實作從 SD 卡串流權重、計算並清除記憶體,不依賴 mmap 或交換。
Reddit r/LocalLLaMA · 170 天前

聯想推出兩款 AI 原生裝置:消費者的 YOGA AI Mini 與企業的 Think AI Tiny。此舉擴展其在個人與商業應用中的 AI 運算產品線。
Pandaily · 170 天前

LD-framework 可在光伏系統中可靠偵測直流電弧故障,克服頻譜干擾、硬體異質性和操作漂移。達到 0.9999 準確率、在各種干擾條件下 0% 誤觸發,並僅需少量資料即可跨硬體轉移。
ArXiv AI · 173 天前

Meta 的 SAM 3.1 提升影片多物件追蹤,單次運算處理 16 個物件,相較 SAM 3 的逐物件運算。此更新讓小型硬體上的即時本地推論更實用。
Reddit r/LocalLLaMA · 176 天前

工廠工程師在 Jetson Orin 上部署量化 Mistral 7B 和 Llama 8B,用於 24/7 異常檢測,每小時處理 140k+ 振動感測器讀數。食品工廠系統已連續運行 11 個月,硬體後僅需電費。
Reddit r/LocalLLaMA · 176 天前

高通預測個人AI將始於端側計算。公司正邁向以AI和用戶為中心的多終端體驗。
量子位 · 176 天前
OpenClaw引爆華強北硬體熱,'蝦缸'與Agent盒解決部署、離線、Token成本,透過本地模型。Tiiny AI Pocket Lab在Kickstarter眾籌達250萬美元;類別含即插即用盒子、多模態感測器、多設備中樞。
36氪 · 176 天前
Nemotron 3 Nano 4B 是一款新型緊湊混合模型,專為高效本地 AI 部署而設計。託管於 Hugging Face,針對邊緣設備降低資源需求。
Hugging Face Blog · 186 天前
華為發布針對AI推理場景的全新AI數據基礎設施,包括中心AI數據平台與邊緣FusionCube A1000超融合一體機。三者透過UCM統一管理,提升Agent推理準確率30%;支援全棧部署,AI應用上線週期縮短80%,算力利用率提升30%。
36氪 · 186 天前

批判華為、榮耀、小米、OPPO、vivo等中國AI手機功能,於「龍蝦宇宙」與機器人手機炒作中。強調使用率低、主動性缺、生态斷裂、隱私隱憂,儘管參數內捲。
虎嗅 · 191 天前
Qualcomm 推出 Ventuno Q,這是 Arduino 用於 AI 和機器人的先進單板電腦。由 Dragonwing IQ8 驅動,配備 8 核 ARM CPU、GPU 和 40 TOPS NPU。
Engadget · 193 天前
黑芝麻智能向無極資本配售3354.46萬股,每股18.88港元,募資6.31億港元。資金用於新一代高性能晶片研發、機器人及端側AI產品線拓展、加速商業化。
36氪 · 193 天前
恩智浦半導體正式推出 i.MX 93W 應用處理器,這是首款將專用 AI 神經處理器(NPU)與安全三頻無線連接功能整合至單一封裝的產品。該 SoC 專為加速邊緣物理 AI 部署而設計,可取代高達 60 個分立元件。
36氪 · 193 天前

AMD升級銳龍AI嵌入式P100系列,針對廣闊嵌入式市場。CPU核心翻倍至12,GPU效能增長8倍。
cnBeta (Full RSS) · 193 天前

SK 海力士成功開發全球首款 1c 製程 16Gb LPDDR6 DRAM,針對端側 AI 需求。相較 LPDDR5X,資料處理速度提升 33% 超過 10.7Gbps,功耗降低超過 20%。
IT之家 · 194 天前
高通新 Arduino Ventuno Q 單板電腦針對機器人,搭載 Dragonwing IQ8 處理器(40 TOPs NPU)與 STM32H5 MCU。離線執行 LLM、視覺等 AI 模型;完整機器人堆疊。
Engadget · 194 天前
高通推出骁龍可穿戴平台至尊版,將20億AI參數裝入胸針大小裝置。此發布補齊高通個人AI生態的最後一塊拼圖。
量子位 · 199 天前

瑞薩的 R-Car V4H ADAS SoC 已被部署於豐田第六代 RAV4 的 TSS 控制單元,由電裝供應。它使用內建 AI 神經網路處理前置攝像頭資料,並與雷達資料融合,实现車輛、行人及障礙物的高精度偵測。
IT之家 · 200 天前
兆易創新與塗鴉智能宣布技術深度合作。基於GD32 MCU無線平台,搭載TuyaOpen開源框架、AI大模型及雲端方案。
36氪 · 201 天前

高通宣布推出 Snapdragon Wear Elite 晶片,針對吊墜、胸針及無顯示器智慧眼鏡等 AI 可穿戴裝置。它與 W5 Plus 晶片並存,並採用 3nm 製程,配備 eNPU 及 Hexagon NPU 以處理 AI 任務。
The Verge · 201 天前
Hugging Face 部落格詳述在 NVIDIA Jetson 邊緣裝置上部署開源視覺語言模型 (VLM)。此指南實現多模態 AI 任務的裝置端高效推論。
Hugging Face Blog · 208 天前

Raspberry Pi 基金會發布在 Pi 5 上運行 OpenClaw 的指南,包含婚禮相片亭示範。Adafruit 已報導,Medium 部落客記錄設定方式。
OpenClaw.report · 211 天前
Node Learning 是一種去中心化範式,邊緣節點持續從本地資料學習,並透過機會性同儕互動交換知識。它透過重疊與擴散傳播學習,避免全球同步或中央聚合。
ArXiv AI · 211 天前

本地AI代理OpenClaw因廉價硬體熱潮,推樹莓派股價3天近翻倍至10億英鎊。於100美元Pi運行安全邊緣任務,勝雲端或昂貴Mac。
虎嗅 · 212 天前

印度 Sarvam AI 計劃將其模型部署到功能手機、汽車和智慧眼鏡上。這些邊緣模型體積極小,僅佔用兆位元組空間,能在現有手機處理器上運行,並支援離線運作。
TechCrunch AI · 213 天前

摩爾線程 AI Cube 與 Lenovo AI 主機 P7 將本地大模型推理、儲存與家庭設備協作帶入消費市場。文章認為,家庭確實需要端側 AI,但分散在手機、攝影機、NAS 與穿戴裝置中的需求,未必足以支撐一台高價的獨立算力設備。
虎嗅 · 12 天前

文章分析 DeepSeek、Qwen 與智譜等模型的接連出現,如何為 PC 廠商帶來新的 AI 應用彈藥。AMD 正將電腦定位為降低對昂貴雲端 AI Token 使用依賴的一種方式。
Ifanr (爱范儿) · 12 天前

本文回顧 2021 年全球晶片短缺如何加速中國汽車半導體供應鏈的國產替代。文章涵蓋車規認證的障礙、早期量產案例,以及本土企業在功率半導體、座艙 SoC、MCU、記憶體與安全晶片領域日益提升的存在感。
虎嗅 · 12 天前

Volkswagen 安徽宣布,與眾 08 獵影版將於 9 月 12 日上市並交付,預售價為 23 萬元。新車結合 VLA 2.0、雙圖靈晶片、1,500 TOPS 算力與 26 顆高精度感知硬體,並採用 800V 平台,CLTC 綜合續航最高達 730 公里。
IT之家 · 13 天前

奇瑞已開始推送風雲 T11 第二次 OTA 更新,新增 9 項功能並帶來 4 項主要優化。此次更新改善 Falcon 700 輔助駕駛,並加入遠程一鍵備車、高速 ETC 自主通行、兒童座椅提醒及遠程診斷等功能。
IT之家 · 14 天前