Cloudflare 於當地7月1日更新爬蟲管理規則,爲各類爬蟲打上搜索、AI 代理、模型訓練等行爲標籤,劃定2026年9月15日爲執行節點,屆時 AI 代理、訓練用途爬蟲會被默認阻攔訪問帶廣告網頁。
多數站長希望內容可被檢索,同時保護自身知識產權收益,但市面上大量混合型爬蟲兼具搜索與 AI 採集功能,難以區分管控。平臺爬蟲管理器會識別爬蟲全部用途,只要其中一類行爲被站點禁止,整隻混合爬蟲就無法抓取該網站內容。
Cloudflare 將上線新版數據看板,適配網絡優化從 SEO、GEO 到 AEO(答案引擎優化)的行業轉變,方便站長查看流量來源。
平臺同步推出頁面變動監控功能,過濾無更新頁面的重複抓取請求,減輕服務器帶寬損耗。同時平臺落地按使用計費的爬蟲付費模式,網站主可對 AI 抓取內容行爲收取對應費用,平衡內容產出與 AI 數據採集之間的權益矛盾。
