Search

Tag: #data-poisoning11 results

廉價網域經維基輕鬆毒化LLM

一位安全工程師註冊12美元網域並編輯維基百科，捏造不存在的「6 Nimmt!」世界冠軍，騙過多個AI聊天機器人確認他是冠軍。此實驗凸顯搜尋輔助LLM如何輕易將不可靠網路內容轉為自信謊言。該紙牌遊戲並無真實錦標賽。

不存在的Apollo-9智能手環假文章誘導多款AI推薦，此為GEO策略。類似SEO但針對生成式AI，透過重複內容製造虛假共識。警示網路資料污染導致模型塌縮。

央視315點名GEO（生成引擎優化）產業用假數據污染DeepSeek等AI推廣廣告排名。2025市場達420億元人民幣；Profound B輪募3500萬美元。SEO延伸至AI搜尋答案。

新興的「毒化 AI」運動試圖透過污染訓練資料，破壞 ChatGPT 與 Gemini 等模型。雖然目標是大型科技公司，但遭毒化的資料也可能危害一般使用者與小型組織。

中國315晚會揭生成式引擎優化（GEO）騙局，軟體生成10+假文讓LLM推薦虛構AstroTekk Apollo-9智慧手環。費用低至299元；AI視重複假訊為共識。凸顯產品推薦與競爭抹黑風險。

中國 315 晚會揭露 AI 資料投毒供應鏈。多所高校禁用 OpenClaw 工具。Meta 傳裁員 1.6 萬人，另有 iOS 27 折疊 iPhone 及電動車新聞。

中國315消費者權益晚會曝光AI大模型遭受數據投毒攻擊，揭示LLM訓練漏洞。同時，中國批准首個腦機介面醫療器械。此事件伴隨對誤導性廣告的監管整頓。

攻擊者利用Salesloft GitHub入侵竊取Drift OAuth權杖，存取700多家組織如Cloudflare和Zscaler的Salesforce，無需惡意軟體。他們毒化餵入AI引擎的非結構化CX資料，觸發薪資和CRM工作流程。安全盲點包括DLP無法偵測情緒資料及殭屍API權杖持續存在。

ShieldFont 是一種以字型為基礎的防禦方案，旨在降低網頁遭抓取後對 AI 訓練的價值。它試圖讓收集到的資料對 AI 系統產生誤導或無法使用的效果，同時保持人類閱讀體驗。

Page 1 of 2