PocketBot iPhone AI 代理 Beta 上線
PocketBot 是一款完全本機的 iPhone AI 代理，將英文轉換為手機自動化，使用 llama.cpp on Metal 執行量化 3B 模型。團隊尋求社群建議：更好 sub-4B 模型用於工具呼叫、最佳量化如 Q4_K_M vs Q5_K_S、動態取樣及脈絡管理。Beta 已於 TestFlight 上線。
Search
Tag: #on-device36 results
把20億參數裝進胸針？高通補齊個人AI生態最後拼圖
高通推出骁龍可穿戴平台至尊版，將20億AI參數裝入胸針大小裝置。此發布補齊高通個人AI生態的最後一塊拼圖。實現緊湊可穿戴裝置的強大端側AI處理。
🎵
Speaklone：iOS/macOS 上裝置 Qwen3-TTS
獨立開發者推出 Speaklone 應用程式，利用 MLX-Swift 在 macOS 上運行 1.7B 模型、在 iOS 上運行 0.6B Qwen3-TTS 模型進行裝置上推理，支持從 5-30 秒音頻樣本進行語音克隆及自然語言語音設計。支援無雲端依賴的串流 TTS，透過量化、快取限制及分塊解碼克服記憶體限制。目前已在 App Store 上架。
Reface 與 Prisma 創辦人聯手推出 Mirai 提升裝置端推論
Reface 與 Prisma 共同創辦人推出 Mirai，提升裝置端 AI 模型推論。該新創獲 1000 萬美元種子輪融資。目標優化智慧型手機與筆電效能。
Ruva：個人化透明設備上圖形推理
Ruva 推出「玻璃盒」架構，用個人知識圖譜實現個人化 AI，讓使用者檢查並精準刪除 AI 知識。它以圖形推理取代向量資料庫，消除幻覺、確保問責，並實現「被遺忘權」。線上提供示範與專案。
⚙️
Snapdragon 晶片組 INT8 準確率變異 71-93%
相同 INT8 ONNX 模型在 5 款 Snapdragon 晶片組測試，準確率從 93%（8 Gen 3）到 71%（4 Gen 2），雲端為 94%。原因：NPU INT8 捨入差異、運算子融合變異、低階晶片 CPU 回退。強調裝置端硬體特定測試需求。
iOS 27 將新增 AI 照片編輯工具
Apple 的 iOS 27、iPadOS 27 和 macOS 27 將擴展 Apple Intelligence，新增如 Extend、Enhance 和 Reframe 等 AI 驅動照片編輯工具。這些功能可擴展背景、自動改善品質，並調整空間照片視角。更新旨在追趕 Google 和 Samsung 等競爭對手，預計 6 月 8 日 WWDC 揭曉。
Nothing 推出 AI 語音輸入工具
Nothing 推出全新裝置端 AI 語音輸入工具。該工具支援超過 100 種語言，提供無縫輸入。
“自動販賣機開始說話”未來就在眼前!? 進化中的「語音AI×硬體」，日本的勝機
語音AI的主戰場正從客服中心擴展到自動販賣機與殯儀社等現場。輕量小型語言模型（SLM）的興起，讓無網路的「端側AI」成為現實。日本可結合優質硬體、動漫IP與「おもてなし」精神，打造全球勝利的語音AI×硬體國家策略。
🤖
Gemma 4 E2B 在 Pixel 手機上運行如魔法
用戶讚 Gemma 4 E2B 為 Pixel 10 Pro 日常主力，經 AI Edge Gallery app 使用 CPU 加速，達 32K 上下文。感覺「極度智能」如 7B 模型，生成速快過閱讀並支援函數呼叫。E4B 在手機上太慢。