🤗Hugging Face Blog•較早收集於 18h
在 Transformers.js 中測試 Cross-Origin Storage API
#web-ai#browser-storage#client-side-mltransformers.jshugging facetransformers.js
💡了解未來的瀏覽器端 AI 如何克服儲存限制,以在本地執行更複雜的模型。
⚡ 30-Second TL;DR
有什麼變化
研究用於網頁機器學習的 Cross-Origin Storage API。
為什麼重要
這項研究透過提供更強大的資料管理能力,有望顯著提升本地瀏覽器端 AI 應用程式的效能。它解決了開發者在構建隱私優先的客戶端 AI 工具時所面臨的主要瓶頸。
下一步行動
審閱提議中的 Cross-Origin Storage API 規範,並測試其對於您在 Transformers.js 中本地模型快取策略的可行性。
誰應關注:Developers & AI Engineers
關鍵要點
- •研究用於網頁機器學習的 Cross-Origin Storage API。
- •專注於改善客戶端模型執行的資料持久化能力。
- •評估瀏覽器端 AI 在效能與安全性上的潛在影響。
🧠 深度解析
本篇為 AI 生成分析,非原文內容。
🔑 增強重點摘要
- •Cross-Origin Storage API 旨在解決現有 Storage Access API 在處理大型 AI 模型權重快取時的效能瓶頸。
- •該技術透過允許跨來源共用快取儲存空間,顯著降低了使用者在不同網域間重複下載相同模型檔案的頻寬消耗。
- •Hugging Face 正在與 W3C Web Machine Learning Working Group 合作,確保該 API 的實作符合隱私保護標準,防止跨站追蹤。
- •實作該 API 可望解決瀏覽器 IndexedDB 在處理數 GB 級別模型檔案時的寫入效能限制與儲存配額問題。
- •此研究是 Transformers.js 邁向『零下載』體驗的關鍵,目標是讓模型權重在瀏覽器中實現真正的全域持久化。
🛠️ 技術深入
- 該 API 透過引入新的儲存分區(Storage Partitioning)機制,允許受信任的來源(如 Hugging Face CDN)在不同網域間共享唯讀模型權重。
- 實作細節涉及對 Service Worker 的擴充,使其能夠在跨來源請求中存取共享的 Cache Storage。
- 針對模型載入,利用了瀏覽器底層的 File System Access API 進行增量寫入與隨機存取,以優化大型權重檔的讀取速度。
- 引入了基於雜湊(Hash-based)的驗證機制,確保跨來源共享的權重檔未被竄改,維持模型執行的一致性。
🔮 前景展望AI analysis grounded in cited sources
瀏覽器端 AI 應用將實現跨網站的模型權重共享。
透過 Cross-Origin Storage API,使用者只需下載一次模型,即可在多個網站中重複使用,大幅提升載入速度。
網頁版 AI 應用的儲存配額限制將被放寬。
該 API 的標準化將允許瀏覽器為經過驗證的 AI 模型提供專屬的儲存空間,不再受限於傳統網站的儲存配額。
⏳ 時間線
2023-03
Transformers.js 正式發布,實現瀏覽器端執行 Hugging Face 模型。
2024-05
Hugging Face 團隊開始針對瀏覽器儲存效能進行大規模優化研究。
2025-09
W3C 針對 Web Machine Learning 的儲存需求展開初步討論。
2026-02
Transformers.js 引入實驗性功能,測試跨來源模型快取機制。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Hugging Face Blog ↗
每週 AI 簡報
每週一封,可隨時退訂。