🔬
政府因安全疑慮暫停 Anthropic 模型部署
政府在發現潛在的越獄漏洞後，介入並暫停了 Anthropic 最強大 AI 模型的部署。Anthropic 對此表示不滿，認為單一的狹窄安全漏洞不足以成為召回已廣泛部署之商業產品的理由。
Search
Tag: #compliance294 results
Anthropic 應美國政府要求下架 Claude Fable 5
Anthropic 應美國政府要求，將 Claude Fable 5 模型下架。此舉源於政府發現該模型存在可繞過安全防護機制的「越獄」漏洞。
受美國政府指示，Anthropic 暫停 Mythos 5 與 Fable 5 服務
Anthropic 宣布暫時停止提供 Mythos 5 與 Fable 5 模型。此項決定是根據美國政府的直接指示所做出。
AI 巨頭簽署 EU AI 生成內容透明度守則
據報 Anthropic、OpenAI、Google、Meta、Microsoft 與 Mistral 已簽署 EU《AI 生成內容透明度實務守則》。貼文表示，該框架可能要求標記或浮水印 AI 生成的文字與程式碼，包括部分開源模型的輸出。
中國AI治理進入制度落地階段
中國AI法律框架已涵蓋網絡安全、數據安全、個人信息、生成式AI與合成內容標識等領域。中國信息通信研究院專家何波認為，當前核心挑戰是落實既有制度，尤其是AI智能體未經授權行為、著作權爭議與責任歸屬不清等問題。
Claude Enterprise 新增提示資料預處理控管
Anthropic 為 Claude Enterprise 推出 inference hooks，讓每個提示與工具呼叫在 Claude 處理前，先經過客戶自行控制的安全伺服器。資料外洩防護伺服器可檢查內容，並回傳允許或拒絕的決定。
白宮或將 AI 評估規則列為機密
消息人士表示，白宮不打算公開其最新的先進 AI 模型評估框架。這套自願性框架的細節將僅提供給參與制定的企業，限制其他企業、研究人員、政策制定者及海外盟友的了解程度。
Traccia：基於 OpenTelemetry 的 AI 系統治理平台
Traccia 是一個全新的治理堆疊，旨在利用 OpenTelemetry 基礎設施解決 LLM 評估與安全性方面的缺口。它提供自動化的合規證據與防篡改追蹤，以符合歐盟 AI 法案的要求。
美國最高法院裁決重塑聯邦監管機構獨立性
美國最高法院裁定總統擁有罷免獨立機構負責人的廣泛權力，實質終結了「第四機構」模式。此轉變將可能改變外國科技企業在美營運的合規優先級。
📰
EU AI Act OpenRAG：用於 RAG 的結構化法律語料庫
一個全新的 EU AI Act 可下載語料庫，包含 933 個結構化法律區塊與 BGE-M3 嵌入，並整合於單一 SQLite 檔案中。該語料庫透過法律條文結構而非隨機字元視窗進行切分，顯著提升了檢索效能。