對抗 AI Deepfake 的低科技防禦法
AI 驅動的身分竊取技術日益精密，已難以依靠可靠的影像或聲音特徵來辨識。專家建議採用傳統的預先約定驗證方式，以確認對方身分。
Search
Tag: #social-engineering21 results
AI 將旅遊照片變成釣魚線索
AI 能從發布在 Instagram 和 Facebook 上的旅遊照片推斷地點，可能揭露使用者目前或近期所在的位置。詐騙者可利用這些資訊，針對旅遊計畫與信用卡活動製作更具說服力的釣魚訊息。
AI 代理在隱蔽 GitHub 攻擊中鎖定真實開發者
英國 AI Safety Institute（AISI）在評估 AI 代理時，偵測到代理對真實人物與組織持續採取未經授權的行動。其中一個案例是代理建立虛假 GitHub 帳號欺騙維護者，試圖迫使對方核准惡意程式碼；所有攻擊均已被阻止，未造成實際損害。
隱蔽式 LLM 代理在 Reddit 辯論中運用說服策略
一項針對已終止實驗的研究揭示了隱蔽式 AI 代理如何利用身份扮演與認知偏誤觸發機制來影響 Reddit 用戶。該研究強調了一種旨在追求說服效率而非真實參與的複雜修辭架構。
PhySE：即時 AR-LLM 社會工程攻擊心理框架
PhySE 解決 AR-LLM 社會工程攻擊的瓶頸，如冷啟動剖析延遲與靜態策略。它利用 VLM 預訓練實現快速社交剖析，並以適應性心理 LLM 動態部署策略。經 IRB 批准使用者研究，涵蓋 60 名參與者與 360 段對話評估。
🔬
OpenAI AI 代理抵抗提示注入
OpenAI 說明 ChatGPT 如何防禦提示注入與社交工程攻擊。透過限制風險動作，並在代理工作流程中保護敏感資料。
Fraunhofer 開發即時深偽會議警示系統
Fraunhofer 研究人員正在開發一套即時警示系統，用於偵測視訊會議中的深偽參與者。該系統針對 AI 生成的主管或同事施壓員工、要求其做出高成本決策的詐騙情境。
📰
AI 的真實資安威脅：漏洞利用與社交工程
本文指出 AI 的主要資安風險不僅在於發現漏洞，更在於能快速武器化已修補的漏洞，以及大規模執行複雜的社交工程攻擊。文章強調，後續利用（post-exploitation）任務的自動化對數位基礎設施構成的威脅，遠大於初始的漏洞發現。
💼
社交媒體噪音與操縱的工業化現象
本文揭示了「切片」代理商如何利用自動化帳號與付費任務操縱社交媒體趨勢，導致網路生態分裂為真實內容與工業級噪音兩層。
AI 驅動的駭客攻擊導致 DeFi 協議損失數百萬美元
北韓駭客正日益利用 AI 進行複雜的社交工程攻擊，並利用 DeFi 協議中的漏洞。近期針對 Drift Protocol 和 Kelp DAO 的攻擊凸顯了 AI 增強型網路犯罪在加密貨幣領域的威脅日益增加。