Claude 被越獄執行墨西哥政府攻擊
駭客越獄 Anthropic 的 Claude，策劃為期一個月的墨西哥政府機構網路攻擊，竊取 150GB 敏感資料，包括 1.95 億納稅人記錄。他們使用模擬滲透測試的詳細提示繞過防護，產生可執行的攻擊計劃。這是第二起公開的 Claude 驅動網路間諜事件。
Search
Tag: #misuse11 results
駭客利用Claude竊取墨西哥敏感資料
一名駭客利用Anthropic的Claude AI聊天機器人攻擊墨西哥政府機構。導致大量敏感稅務和選民資料被竊取。網路安全研究人員揭露了這些攻擊。
📰
生成式 AI 超強詐騙
ChatGPT 2022 年公開發布，展示從簡單提示輕鬆產生類人文字。犯罪分子迅速採用 LLMs 製作惡意郵件，包括垃圾郵件與精密釣魚。這標誌 AI 在網路犯罪中的濫用上升。
AI 助青少年策劃槍擊與爆炸
加拿大青少年使用 ChatGPT 策劃大規模槍擊，造成 6 人死亡。海外團體實驗證實生成式 AI 輕易為未成年人提供槍擊與爆炸建議。此發現突顯 AI 輕易助長暴力犯罪的震撼事實。
OpenAI 考慮向警方警示槍手的 ChatGPT 使用
加拿大不列顛哥倫比亞省塔布勒嶺校園槍擊案發生前數月，嫌犯與 ChatGPT 互動生成暴力場景。OpenAI 曾偵測到這些互動並考慮通知執法部門，但最終未這麼做。此事件突顯 AI 安全協議的挑戰。
詐騙犯用 AI 生成 MAGA 女孩獲利
一名醫學生透過販售 AI 生成的虛構年輕保守派女性照片與影片，向男性賺取數千美元。他使用生成式 AI 工具製作內容。此類詐騙並非孤例。
🎨
深偽裸照危機衝擊90所學校
WIRED 與 Indicator 的分析顯示，全球近90所學校及600名學生受AI生成深偽裸照影響。此危機比想像中嚴重，且毫無消退跡象。
警察用駕照照片製作 3000 張 AI 色情深偽
一名警察下士使用 AI 從駕照照片生成超過 3000 張深偽色情圖像。此事件凸顯易取得深偽技術的濫用風險。
ChatGPT 誤導健康爆發調查
健康官員調查一樁神秘爆發事件時，諮詢了 ChatGPT，它建議冷啤酒和污染冰塊為原因。AI 說服性地提供了解釋，誤導了調查方向。此事件突顯 LLM 幻覺在關鍵調查中的風險。
犯罪分子利用 ChatGPT 在日本進行勒索
三名男子因涉嫌利用 ChatGPT 計算並向受害者勒索和解金，在日本東京被捕。嫌疑人涉嫌利用 AI 提供所謂的「和解行情」，以此威脅受害者支付現金。