💼VentureBeat•較早收集於 28m
72% 企業缺乏 AI 控制的幻象
💡72% 企業高估 AI 安全—了解擴散風險與解決方案（28字）
⚡ 30-Second TL;DR
有什麼變化
72% 企業使用 2+ 主要 AI 平台，產生安全風險
為什麼重要
企業因平台擴散面臨 AI 驅動攻擊風險升高，即使依賴供應商仍需自訂建置。此凸顯統一治理需求以避免矛盾。
下一步行動
審核您的 AI 平台，並原型製作 Copilot 的安全包裝以保護敏感資料。
誰應關注：Enterprise & Security Teams
關鍵要點
- •72% 企業使用 2+ 主要 AI 平台，產生安全風險
- •Mass General Brigham 關閉內部 AI PoC 以利用供應商工具
- •Copilot 自訂「外殼」支援 30K 用戶，不外洩 PHI 至 OpenAI
- •Epic、Workday、ServiceNow 等供應商建置不同 AI 代理
🧠 深度解析
AI-generated analysis for this event.
🔑 增強重點摘要
- •企業 AI 治理面臨『影子 AI』（Shadow AI）挑戰，員工在未經 IT 部門審核下使用第三方生成式 AI 工具，導致企業數據治理邊界模糊化。
- •Mass General Brigham 採用的安全包裝技術，核心在於實施了基於上下文的數據過濾層（Contextual Data Filtering），在數據發送至雲端模型前進行去識別化處理。
- •供應商 AI 擴散導致企業面臨『互操作性孤島』問題，不同平台間的權限管理策略（IAM）難以統一，增加了合規性審計的複雜度。
🛠️ 技術深入
• Mass General Brigham 的安全包裝架構：採用中間件（Middleware）架構，在 Microsoft Copilot 與後端 OpenAI 模型之間部署了專有的隱私保護層。 • 數據脫敏機制：利用自然語言處理（NLP）技術自動識別並遮蔽個人健康資訊（PHI），確保數據在傳輸至外部 API 前符合 HIPAA 合規要求。 • 權限映射：將企業內部的 Active Directory 權限體系與供應商 AI 的角色存取控制（RBAC）進行同步，以限制 AI 代理對敏感文檔的存取範圍。
🔮 前景展望AI analysis grounded in cited sources
企業將強制推行『AI 統一治理平台』以取代分散式採購。
為了降低安全風險與合規成本，企業將轉向集中式管理架構，強制所有供應商 AI 必須對接企業內部的安全閘道。
PHI 數據處理將全面轉向『本地化或私有雲部署』。
隨著對數據外洩風險的擔憂加劇，醫療機構將更傾向於使用可控的私有模型，而非依賴公有雲供應商的通用 API。
⏳ 時間線
2023-05
Mass General Brigham 開始探索生成式 AI 在臨床工作流程中的應用。
2024-02
Mass General Brigham 宣布與 Microsoft 擴大合作，部署 Copilot 輔助臨床文檔編寫。
2025-09
Mass General Brigham 完成其自訂 AI 安全包裝的內部驗證，並擴展至 3 萬名用戶。
📰
AI 週報
閱讀本週精選 AI 大事摘要 →
👉相關動態
AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源： VentureBeat ↗