认识边缘CDN对百度爬虫的影响



如果边缘节点对百度爬虫的UA(User-Agent)或IP进行拦截,或返回了不正确的缓存内容,爬虫就可能看到过期的页面、错误的响应码,甚至完全无法连接



建议: 在CDN配置中,应针对搜索引擎爬虫的UA✅做差异化处理



0 (compatible; Baiduspider/2



认识边缘CDN对百度爬虫的影响



这会导致网站更新后无法被及时收录,🌅甚至出现内容不一致的问题



举报/反馈