
RPi5 PCIe HAT 讓 Gemma4 基準測試暴增
Raspberry Pi 5 搭配官方 M.2 HAT+ 及 PCIe Gen3,將 SSD 速度加倍至 798 MB/秒,提升模型推論 1.5-2 倍。Gemma4 E2B-it Q8_0 提示處理達 41.76 t/s。使用 llama.cpp 基準測試多個 GGUF 模型標準設定。
Tag: #raspberry-pi5 results

Raspberry Pi 5 搭配官方 M.2 HAT+ 及 PCIe Gen3,將 SSD 速度加倍至 798 MB/秒,提升模型推論 1.5-2 倍。Gemma4 E2B-it Q8_0 提示處理達 41.76 t/s。使用 llama.cpp 基準測試多個 GGUF 模型標準設定。

Qwen3.5-27B 模型在僅 512MB RAM 的 15 美元 Raspberry Pi Zero 2W 上離線運行,每小時數令牌。自訂實作從 SD 卡串流權重、計算並清除記憶體,不依賴 mmap 或交換。此展示極端低資源本地推論。

Gemma 4 E2B(Unsloth 變體)在 Raspberry Pi 5 8GB SSD 上使用最新 llama.cpp 於 Potato OS 運行。無 SSD 效能相同。展示邊緣 AI 推論可行性。
一位開發者正在尋求社群對在 Raspberry Pi 5 上直接進行美國手語 (ASL) 識別的系統架構回饋。該專案旨在優化邊緣 AI 推論,以實現即時手勢解讀。

DIY 愛好者正日益將 Raspberry Pi 開發板整合進手提包和珠寶盒等日常用品中,創造出高度個人化且低調的 cyberdecks。此趨勢顯示了硬體專案正轉向以美學為導向,將功能性硬體偽裝成藝術品。