1-bit Bonsai 1.7B 在瀏覽器 WebGPU 上本地運行
輕量 290MB 的 1-bit 量化 Bonsai 1.7B 模型現可在網頁瀏覽器中使用 WebGPU 完全本地運行。Demo 由 webml-community 在 Hugging Face Spaces 上架設。這實現了無伺服器依賴的輕量 LLM 推論。
Search
Tag: #webgpu5 results
Cohere 頂尖多語言語音轉文字在瀏覽器中
Cohere 推出語音轉文字模型，在 OpenASR 排行榜英文項目領先，支援 14 種語言。WebGPU 示範使用 Transformers.js 在瀏覽器中完全本地運行。Hugging Face 上有原始碼和示範。
⚙️
Kuma：將 PyTorch 模型編譯為獨立的 WebGPU 可執行檔
Kuma 是一個新的編譯器專案，旨在將 PyTorch 模型轉換為可攜式、獨立的套件，透過 WebGPU 在瀏覽器中執行。該專案目標是消除模型部署時對 Python 和伺服器端環境的依賴。
Qwen 3.5 0.8B 在 WebGPU 瀏覽器本地運行
Qwen 發布 Qwen 3.5 Small 多模態模型，尺寸從 0.8B 到 9B，適合設備端應用。演示使用 Transformers.js 在 WebGPU 瀏覽器本地運行 0.8B 變體。視覺編碼器為主要瓶頸，但能運行已相當出色。
Google 在 Android 16 Chrome 引入 WebGPU 安全開關
Google 正在為 Android 16 版 Chrome 開發新安全控制選項，讓使用者透過開關阻止 Chrome 經 WebGPU 存取手機圖形硬體。此隱藏設定來自 Google Play 服務 26.10.31 APK 拆包分析，預計整合進 Android 16 的「進階保護模式」，管控 Chrome 中的 WebGPU 功能。