Search

Tag: #mobile-llm8 results

Bonsai 27B：專為智慧型手機優化的高效能 LLM

Bonsai 27B 是一款全新的 270 億參數大型語言模型，專為在 iPhone 等行動裝置上高效運行而設計。它在保持該參數級別應有的效能同時，成功將模型體積壓縮至行動裝置可執行的範圍內。

Android 進入 Gemini 智能時代，Google 的 Gemini AI 模型深入整合至作業系統。這標誌著行動裝置端 AI 功能的關鍵轉變，為使用者與開發者帶來新體驗。另有提示教導如何將 Claude Code 轉化為個人華爾街分析師。

The Orchard 是一款免費 Android 應用程式，將任何 LLM 包裝在 13 節推理管線中，搭配本地知識圖譜實現持久信念、疑慮與目標。它完全在本機 SQLite 儲存執行，無伺服器或資料收集。成本在大規模維持平穩，並抵抗提示注入。

Reddit r/MachineLearningCommunity•Mar 5#knowledge-graph #mobile-llm

Qwen3.5 2B 模型在中階 300 美元 Android 手機上完全離線運行，支持工具呼叫、視覺與推理功能。無需雲端服務、帳戶或數據傳輸。應用程式創作者展示其超出預期的強大表現。

愛範兒報導蘋果版 ChatGPT 曝光，宣稱 AI 強化 Siri 將接管 iPhone 的一切功能。此文強調 50 歲的蘋果仍值得期待。完整內容可能在其微信公眾號。

Qwen 發布了新的 0.8B 模型，可在 7 年老的 Samsung S10E 上使用 llama.cpp 和 Termux 以 12 令牌/秒本地運行。解決缺失的 C 函式庫後，它能有效處理對話和複雜任務。此示範突顯強大微型 LLM 在邊緣裝置上的潛力。

用戶讚 Gemma 4 E2B 為 Pixel 10 Pro 日常主力，經 AI Edge Gallery app 使用 CPU 加速，達 32K 上下文。感覺「極度智能」如 7B 模型，生成速快過閱讀並支援函數呼叫。E4B 在手機上太慢。

Reddit r/LocalLLaMACommunity•Apr 3#on-device #mobile-llm #quantization

新用戶質疑 Qwen2.5 和 Gemma 等 2B 模型在智慧手機上的實用性，指出簡單查詢中 80% 回覆出現幻覺。尋求確認這是否預期或使用者錯誤。在 r/LocalLLaMA 討論。