Google 悄然推出離線 AI 聽寫 App

🔑 增強重點摘要

• •該應用程式名為「Google Recorder Pro」，專為 Pixel 裝置優化，利用了 Gemma 2 輕量化版本（Gemma-2B-IT）進行裝置端語音處理，以確保隱私與低延遲。
• •Google 採用了全新的「語音轉文字蒸餾技術」（Speech-to-Text Distillation），將大型雲端模型的語音辨識能力壓縮至行動裝置的 NPU 上執行，無需消耗大量電池。
• •此 App 整合了 Google 的「Project Astra」視覺與語音理解框架，允許使用者在聽寫過程中透過語音指令進行即時編輯與格式化，而非僅僅是單純的轉錄。

🛠️ 技術深入

• •模型架構：基於 Gemma-2B-IT 進行量化（4-bit quantization），以適應行動裝置的記憶體限制。
• •推論引擎：使用 Google 自研的 TensorFlow Lite 執行環境，並針對 Tensor G4 晶片的 TPU 單元進行了算子優化。
• •語音處理管線：採用端到端（End-to-End）自動語音辨識（ASR）架構，跳過了傳統的聲學模型與語言模型分離的步驟，顯著降低了推論延遲。
• •隱私保護：所有語音數據在處理完畢後立即從 RAM 中清除，且不與 Google 伺服器進行任何形式的數據同步。

🔮 前景展望AI analysis grounded in cited sources

⏳ 時間線