Search

Tag: #ai-security151 results

Google 公開 AI Threat Tracker 報告確認 Gemini 攻擊

Google 威脅情報小組發布 AI Threat Tracker 最新報告，強調 AI 已進入實戰濫用階段。詳述針對 Gemini 推論邏輯的提取攻擊、国家支援型威脅，以及 AI 整合型惡意軟體急增。這些威脅正快速演進。

ITmedia AI+ (日本)Media•Feb 17#ai-security#extraction-attacks#state-sponsored

AI 模型的隱藏推理痕跡遭揭露

研究人員開發出一種從 Claude、GPT 和 Gemini 提取推理痕跡的技術。他們的發現顯示，部分中國 AI 系統可能曾以領先的美國模型作為訓練來源。

Wired AIMedia•Aug 11#reasoning-traces#model-provenance#ai-security

AI 網路安全威脅正快速逼近

Vercel 指出，AI 模型已具備執行複雜網路安全研究的能力，而防禦方相對於攻擊方模型的優勢可能很快消失。以 Kimi K3 對 Vercel Sandbox 進行的實驗展現了自主漏洞分析、權限提升調查、虛擬機重現與模糊測試能力，但最終未能成功逃逸。

Vercel NewsMedia•Aug 11#ai-security#offensive-security#sandbox-escape

AI 駭客技術結合人類專業後更具危險性

資安研究員 James Kettle 測試了 AI 駭客能力的極限。他的發現顯示，AI 結合人類專業與監督後，可能變得格外有效。

Wired AIMedia•Aug 5#ai-security#human-in-the-loop#red-teaming

AI 模型可能變成具適應性的蠕蟲

中國研究人員據報展示了 AI 模型具備類似具攻擊性且能適應的電腦病毒之行為。這項發現凸顯潛在風險：AI 系統可能不再只是被動的軟體漏洞，而是能夠傳播或調整有害行為。

WiredMedia•Aug 5#ai-security#ai-worms#cyber-threats

AI 巨頭推進程式設計、安全與雲端發展

本期速報聚焦 AWS 將 Vibe Coding 納入企業雲端、Codex 處理完整廣告投放流程，以及 VR-1 防禦模型發布。報導亦指出 Ponytail 可將 AI 程式設計校正量降低 94%，同時 OpenAI 面臨品牌信任問題，Scaling Law 的討論仍在持續。

钛媒体Media•Aug 3#ai-agents#enterprise-cloud#ai-security

AI 驅動攻擊使企業網路安全響應窗口崩潰

自主 AI 代理現在能在 27 秒內執行完整的系統入侵，使傳統的人工安全工作流程過時。企業必須透過自動化數據恢復和實施具備上下文感知能力的安全系統，轉向網路韌性。

VentureBeatMedia•Jul 8#cybersecurity#ai-security#resilience

Savi 推出應用程式以打擊逼真的 AI 詐騙

Savi 即將在 iOS 和 Android 平台上推出一款新應用程式，旨在保護消費者免受複雜的 AI 詐騙（如深偽技術勒索）侵害。該公司近期獲得了 700 萬美元的種子輪融資，以支持其 AI 安全防護使命。

TechCrunch AIMedia•Jul 7#ai-security#deepfake-detection#cybersecurity

Upwind 擴展安全平台以覆蓋完整的 AI 技術堆疊

Upwind 宣布了一項新的「AI 安全」計畫，將重點轉向保護整個 AI 技術堆疊，而非將 AI 安全視為獨立產品。此策略將安全性直接整合到代理型 AI 工作流程與基礎設施中。

The Next Web (TNW)Media•Jun 4#ai-security#agentic-ai#cybersecurity