Search

Tag: #model-collapse5 results

AI假共識投毒攻擊

不存在的Apollo-9智能手環假文章誘導多款AI推薦，此為GEO策略。類似SEO但針對生成式AI，透過重複內容製造虛假共識。警示網路資料污染導致模型塌縮。

文章探討 AI 生成的答案如何減少人類對 Stack Overflow 等公共知識平台的貢獻，可能造成訓練資料供應萎縮與老化。文章並結合模型崩潰研究指出，反覆使用 AI 生成資料進行訓練，可能使輸出變得更單調，並逐漸偏離真實世界。

Reddit 上的討論指出了一種名為「EchoCreep」的趨勢，即不同的大型語言模型正逐漸表現出相同的語氣與閃爍其詞的行為。作者推測這是合成數據循環訓練的副作用，導致模型因共享數據血統而喪失了獨特的「紋理」。

截至 2024 年 11 月，AI 生成的網路內容數量已正式超越人類創作。這一轉變引發了對人類認知未來，以及未來 AI 模型高品質訓練數據可能枯竭的嚴重擔憂。

Harvard Business Review 指出，過度依賴生成式 AI 正在形成低品質內容的惡性循環。這種「工作垃圾」（workslop）正在侵蝕企業進行關鍵決策所依賴的數據品質。