☁️較早收集於 20m

支援歐盟資料合規的跨區域推論功能

支援歐盟資料合規的跨區域推論功能
PostLinkedIn
☁️閱讀原文: AWS Machine Learning Blog

💡了解如何在歐洲擴展生成式 AI,同時保持對嚴格資料隱私法規的合規性。

⚡ 30-Second TL;DR

有什麼變化

自動將推論請求路由至多個 AWS 區域

為什麼重要

在歐洲營運的企業現在可以擴展其 AI 應用程式,同時無需在資料主權或區域法規要求上做出妥協。

下一步行動

檢視您目前的 Bedrock 架構並啟用 CRIS,以優化您歐洲使用者的延遲與可用性。

誰應關注:Enterprise & Security Teams

關鍵要點

  • 自動將推論請求路由至多個 AWS 區域
  • 維持對歐盟資料處理與隱私標準的合規性
  • 提升高需求工作負載的模型可用性與運算容量

🧠 深度解析

Web-grounded analysis with 25 cited sources.

🔑 增強重點摘要

  • Amazon Bedrock 的跨區域推論 (CRIS) 功能提供兩種主要類型:地理性跨區域推論(例如,歐盟、美國)和全球跨區域推論。地理性 CRIS 確保資料處理保留在指定地理邊界內,而全球 CRIS 則將請求路由到全球所有支援的商業區域,以實現最大規模和潛在的成本節約。
  • 使用 CRIS 不會產生額外的路由或資料傳輸費用;定價是根據發起請求的來源區域計算的。這意味著無論請求由來源區域服務還是路由到其他區域,成本都以來源區域的費率計算。
  • CRIS 有助於緩解 GPU 運算資源的區域性需求限制,這些資源由於生成式 AI 的快速採用而經常供應受限。透過在多個區域之間動態路由流量,CRIS 能夠在需求高峰期提供更高的吞吐量和彈性。
  • 儘管地理性 CRIS 解決了資料駐留問題,但對於歐盟實體而言,真正的「資料主權」仍然是一個複雜的問題,因為美國《雲端法案》(US CLOUD Act) 可能會強制美國總部的雲端供應商提供資料,無論其物理儲存位置如何。
  • AWS Bedrock 的合規性功能包括不儲存或記錄客戶的提示和完成內容,不使用客戶資料來訓練 AWS 模型,以及對傳輸中和靜止的資料進行加密。它還支援 GDPR、HIPAA、ISO、SOC 和 CSA STAR Level 2 等常見合規標準。
📊 競品分析▸ Show
功能/提供者AWS Bedrock (地理性跨區域推論 - 歐盟)歐洲主權AI平台 (例如:Connic, Melious AI)Google Cloud Vertex AI (Claude)OpenAI ChatGPT Enterprise
資料處理地點歐盟內部多個 AWS 區域歐盟/歐洲經濟區內部歐盟內部多個 Google Cloud 區域歐盟內部 (可配置)
資料主權 (US CLOUD Act 影響)仍受美國《雲端法案》潛在影響聲稱不受美國《雲端法案》影響仍受美國《雲端法案》潛在影響仍受美國《雲端法案》潛在影響
GDPR 合規性支援 GDPR 合規性專為 GDPR 設計,隱私優先支援 GDPR 合規性支援 GDPR 合規性 (需簽署 DPA)
EU AI Act 準備度積極評估並提供支援工具專注於 EU AI Act 準備度支援 EU AI Act 相關要求支援 EU AI Act 相關要求
日誌記錄地點僅在來源區域記錄 CloudTrail 日誌通常在歐盟內部依 Google Cloud 政策歐盟內部 (可配置)
額外路由費用無額外路由費用,按來源區域定價通常包含在服務費用中區域端點可能產生 10% 溢價無額外路由費用 (API 平台)
支援模型多種基礎模型 (Amazon Titan, Anthropic, Meta, Mistral AI 等)通常為開源模型或特定模型Anthropic Claude, Google Gemini 等GPT-5.2 (歐盟推論)

🛠️ 技術深入

  • 跨區域推論 (CRIS) 透過「推論設定檔」(inference profiles) 運作,這些設定檔定義了要使用的基礎模型以及可以路由請求的 AWS 區域。
  • 請求從客戶發起 API 呼叫的「來源區域」發出,並根據即時容量和效能指標,自動路由到設定檔中定義的「最佳目標區域」。
  • 區域之間的資料傳輸使用安全的 AWS 骨幹網路,確保傳輸中的資料端到端加密。客戶資料(例如模型調用日誌、知識庫和儲存的配置)僅保留在來源區域。
  • CRIS 可以將請求路由到選擇加入的區域,即使這些區域未在 AWS 帳戶層級明確啟用,從而簡化了操作複雜性。
  • 跨區域推論請求的 CloudTrail 日誌會在來源區域生成,並包含 additionalEventData.inferenceRegion 欄位,以識別請求實際處理的區域。
  • 在歐洲進行跨區域路由會產生個位數到兩位數毫秒的額外延遲,但這僅佔大型語言模型 (LLM) 總處理時間的一小部分。
  • AWS Identity and Access Management (IAM) 政策和服務控制政策 (SCP) 對於控制存取和確保 CRIS 的合規性至關重要。

🔮 前景展望AI analysis grounded in cited sources

歐盟《AI 法案》將推動對超越單純資料駐留的「技術主權」解決方案的需求增加。
由於美國《雲端法案》的域外管轄權,由美國供應商在歐盟區域託管的資料仍可能受美國司法管轄,這將促使市場尋求加密金鑰和基礎設施控制權明確屬於歐洲的解決方案。
AWS 將繼續加強 Bedrock 的合規性功能和區域產品,以應對不斷演變的全球 AI 法規。
AWS 正在積極評估其服務如何最好地支援客戶履行歐盟《AI 法案》和其他法規下的合規義務,並致力於將負責任的 AI 整合到其整個 AI 生命週期中。
歐洲生成式 AI 服務的競爭格局將加劇,重點將放在明確的資料主權保證上。
許多歐洲替代方案正在興起,它們明確以歐盟資料駐留、GDPR 合規性以及不受美國《雲端法案》影響作為賣點,這將對超大規模雲端供應商構成壓力。

時間線

2023-04
Amazon Bedrock 服務首次發布
2023-09
Amazon Bedrock 正式普遍可用 (GA)
2024-08
Amazon Bedrock 推出跨區域推論 (CRIS) 功能
2025-02
歐盟《AI 法案》中關於禁止 AI 行為和 AI 素養的第一批義務開始生效
2025-08
歐盟《AI 法案》中關於通用 AI (GPAI) 模型的透明度和版權義務開始生效
2026-08
歐盟《AI 法案》中關於高風險 AI 系統的規則將全面實施
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: AWS Machine Learning Blog