新京报
如果边缘节点对百度爬虫的UA(User-Agent)或IP进行拦截,或返回了不正确的缓存内容,爬虫就可能看到过期的页面、错误的响应码,甚至完全无法连接
建议: 在CDN配置中,应针对搜索引擎爬虫的UA✅做差异化处理
0 (compatible; Baiduspider/2
这会导致网站更新后无法被及时收录,🌅甚至出现内容不一致的问题
设为首页
关于百度
About Baidu
使用百度前必读
帮助中心
© Baidu
京ICP证030173号
京公网安备11000002000001号