🗾較早收集於 82m

AI 機器人流量 8 成為爬蟲,Meta 佔過半

AI 機器人流量 8 成為爬蟲,Meta 佔過半
PostLinkedIn
🗾閱讀原文: ITmedia AI+ (日本)
#ai-crawlers#server-load#bot-reportfastlyfastlymeta

💡Fastly:Meta 爬蟲佔 AI 流量 50% 以上—立即調整基礎設施防禦 (32 字元)

⚡ 30-Second TL;DR

有什麼變化

AI 機器人通訊 8 成為爬蟲

為什麼重要

揭露 AI 資料抓取規模,促使網頁主機採用進階速率限制與爬蟲阻擋。影響透過公開爬取訓練 LLM 的內容網站。

下一步行動

審核 Fastly 日誌中 Meta 爬蟲,並透過其 API 設定自訂速率限制。

誰應關注:Enterprise & Security Teams

關鍵要點

  • AI 機器人通訊 8 成為爬蟲
  • Meta 生成超過 50% 流量
  • 高頻存取導致伺服器負荷
  • 機器人辨識仍是主要挑戰

🧠 深度解析

背景與延伸:來自公開資料,非原文內容。引用 10 個來源。

🔑 增強重點摘要

  • Fastly的Q3 2025威脅洞察報告顯示,機器人流量佔所有網路流量的29%,其中約25%為不想要的流量。[1][3][5]
  • AI fetcher機器人佔AI機器人流量的20%,OpenAI的ChatGPT相關機器人產生68%至98%的fetcher請求,有些情況下每分鐘高達39,000請求。[1][2][3]
  • Google佔AI爬蟲流量的23%,OpenAI佔20%,顯示流量高度集中於少數平台。[1][2]
  • Fastly開發AI機器人緩解技術,支持Really Simple Licensing (RSL)協議,讓客戶區分有益與有害機器人並強制內容授權。[1]
  • 媒體與娛樂、高科技產業封鎖率最高,僅4%的想要機器人流量被阻擋。[5]

🛠️ 技術深入

  • AI爬蟲佔AI機器人流量的80%,用於索引內容;fetcher佔20%,根據用戶查詢即時擷取特定內容,可能模擬DDoS攻擊造成伺服器負荷。[2]
  • Headless bots使用無頭瀏覽器避開偵測,Q3有89%的headless流量針對特定產業。[3]
  • Fastly透過全球網路分析數兆請求,開發邊緣AI機器人緩解技術及RSL協議支援,允許精細流量管理。[1]

🔮 前景展望AI analysis grounded in cited sources

AI代理流量將驅動Fastly長期營收成長
William Blair分析師指出,大型語言模型及下一代AI代理使用量仍處於起步階段,將成為長期催化劑。[4]
內容擁有者將廣泛採用RSL協議管理AI存取
Fastly與大型媒體客戶合作完善邊緣實作RSL協議,以強制AI模型內容權利協議。[1]
機器人流量將持續成長至佔網路1/3以上
Q3報告顯示機器人已佔29%網路流量,且較前季成長2%,預期AI驅動自動化將持續增加。[3]

時間線

2025-04
Q2 2025報告:AI爬蟲佔AI機器人流量80%,Meta佔52%
2025-07
Q2報告確認OpenAI主導fetcher流量達98%
2025-09
Q3期間Meta AI爬蟲流量升至60%,OpenAI fetcher達68%
2025-12
發布Q3 2025威脅洞察報告,機器人流量達29%
2025-12
Fastly宣布首個盈利年度,受AI代理流量推動
2026-01
William Blair升級Fastly評級,預期AI代理成長
📰

AI 週報

閱讀本週精選 AI 大事摘要 →

👉相關動態

AI 策展新聞聚合。所有內容版權歸原始發布者所有。
原始來源: ITmedia AI+ (日本)

這是摘要,不是原文。去看原站,或訂閱每週簡報。

每週 AI 簡報

每週一封,可隨時退訂。