Search

直接匹配不多，已補上最新動態。

Tag: #rag-security4 results

Microsoft Copilot 嚴重漏洞導致用戶 2FA 驗證碼外洩

名為「SearchLeak」的嚴重漏洞允許攻擊者透過 Microsoft Copilot 攔截用戶的 2FA 驗證碼。此事件凸顯了在保護整合 LLM 的搜尋功能方面，業界仍存在持續性的系統性安全缺失。

Ars Technica AIMedia•Jun 16#rag-security #data-privacy

一位安全工程師註冊12美元網域並編輯維基百科，捏造不存在的「6 Nimmt!」世界冠軍，騙過多個AI聊天機器人確認他是冠軍。此實驗凸顯搜尋輔助LLM如何輕易將不可靠網路內容轉為自信謊言。該紙牌遊戲並無真實錦標賽。

開源實驗室測試本地堆疊如 ChromaDB + LM Studio 的 RAG 知識庫中毒，無防禦下成功率 95%。嵌入異常偵測等防禦降至 20%，完整堆疊殘餘 10%。全本地消費者硬體運行，GitHub 提供儲存庫。

DuckDuckGo 的 AI 搜尋助手被成功操縱，重複了一則虛構的故事。此事件凸顯了在 AI 驅動的搜尋系統中防止錯誤資訊的持續挑戰。

OpenAI 表示 Codex 活躍使用者已突破 2,000 萬，第三方追蹤數據則顯示其近期增速超越 Claude Code。Claude Code 目前規模仍較大且深受開發者採用，但隨著 Anthropic 接近早期市場飽和，其高速成長已經放緩。

中國多項臨床試驗正利用腦機介面，協助脊髓損傷患者站立與行走，並讓失明患者恢復有限的視覺感知。試驗結果差異很大，凸顯這項技術的潛力，以及目前在訊號採集、解碼與復健方面的限制。

據報 Alibaba 正合併電商業務、整合雲端與晶片業務，並將 Qwen 拆分為獨立子公司。報導亦涵蓋 Unitree 計畫登陸科創板、Anthropic 據傳的年化營收，以及 Alibaba 持續投入 AI 對利潤與現金流造成的壓力。

California 與其他 28 個州指控 Meta 設計 Facebook 和 Instagram 使其具成癮性、違反兒童隱私法，並隱瞞相關做法。檢方將其涉嫌採取的策略概括為「吸引、留住、收集、隱瞞」。

The Guardian TechnologyMedia•1h ago#privacy #child-safety #platform-design

Ox Alpha 是一款透過 OpenRouter 與 OpenCode 提供的匿名模型，具備 100 萬 token 上下文、圖片與影片輸入、工具呼叫及免費使用等能力。早期測試顯示其推理與程式設計表現強勁，但開發者、參數量、訓練資料與正式基準排名仍未獲確認。

Cloudflare 推出 Agent Tracing，支援設定 Payload 截斷限制。不同支援的 Agent 框架在 Payload 預設記錄策略上有所差異，因此開發者在設定可觀測性時需要檢查各框架的個別設定。