🤗較早收集於 18h

在 Transformers.js 中測試 Cross-Origin Storage API

在 Transformers.js 中測試 Cross-Origin Storage API
PostLinkedIn
🤗閱讀原文: Hugging Face Blog
#web-ai#browser-storage#client-side-mltransformers.jshugging facetransformers.js

💡了解未來的瀏覽器端 AI 如何克服儲存限制,以在本地執行更複雜的模型。

⚡ 30-Second TL;DR

有什麼變化

研究用於網頁機器學習的 Cross-Origin Storage API。

為什麼重要

這項研究透過提供更強大的資料管理能力,有望顯著提升本地瀏覽器端 AI 應用程式的效能。它解決了開發者在構建隱私優先的客戶端 AI 工具時所面臨的主要瓶頸。

下一步行動

審閱提議中的 Cross-Origin Storage API 規範,並測試其對於您在 Transformers.js 中本地模型快取策略的可行性。

誰應關注:Developers & AI Engineers

關鍵要點

  • 研究用於網頁機器學習的 Cross-Origin Storage API。
  • 專注於改善客戶端模型執行的資料持久化能力。
  • 評估瀏覽器端 AI 在效能與安全性上的潛在影響。

🧠 深度解析

本篇為 AI 生成分析,非原文內容。

🔑 增強重點摘要

  • Cross-Origin Storage API 旨在解決現有 Storage Access API 在處理大型 AI 模型權重快取時的效能瓶頸。
  • 該技術透過允許跨來源共用快取儲存空間,顯著降低了使用者在不同網域間重複下載相同模型檔案的頻寬消耗。
  • Hugging Face 正在與 W3C Web Machine Learning Working Group 合作,確保該 API 的實作符合隱私保護標準,防止跨站追蹤。
  • 實作該 API 可望解決瀏覽器 IndexedDB 在處理數 GB 級別模型檔案時的寫入效能限制與儲存配額問題。
  • 此研究是 Transformers.js 邁向『零下載』體驗的關鍵,目標是讓模型權重在瀏覽器中實現真正的全域持久化。

🛠️ 技術深入

  • 該 API 透過引入新的儲存分區(Storage Partitioning)機制,允許受信任的來源(如 Hugging Face CDN)在不同網域間共享唯讀模型權重。
  • 實作細節涉及對 Service Worker 的擴充,使其能夠在跨來源請求中存取共享的 Cache Storage。
  • 針對模型載入,利用了瀏覽器底層的 File System Access API 進行增量寫入與隨機存取,以優化大型權重檔的讀取速度。
  • 引入了基於雜湊(Hash-based)的驗證機制,確保跨來源共享的權重檔未被竄改,維持模型執行的一致性。

🔮 前景展望AI analysis grounded in cited sources

瀏覽器端 AI 應用將實現跨網站的模型權重共享。
透過 Cross-Origin Storage API,使用者只需下載一次模型,即可在多個網站中重複使用,大幅提升載入速度。
網頁版 AI 應用的儲存配額限制將被放寬。
該 API 的標準化將允許瀏覽器為經過驗證的 AI 模型提供專屬的儲存空間,不再受限於傳統網站的儲存配額。

時間線

2023-03
Transformers.js 正式發布,實現瀏覽器端執行 Hugging Face 模型。
2024-05
Hugging Face 團隊開始針對瀏覽器儲存效能進行大規模優化研究。
2025-09
W3C 針對 Web Machine Learning 的儲存需求展開初步討論。
2026-02
Transformers.js 引入實驗性功能,測試跨來源模型快取機制。
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: Hugging Face Blog

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。