观察者网
建议执行以下操作: 全面检查页面可用性 :使用工具或手动访问重点页面,确认不再返回500或503错误
设置Retry-Af🚀ter响应头 :配合503状态码,可以在HTTP响应头中添加 Retry-After 字🌈段,告知百度蜘蛛大约多久后重试
例如设置值为3600秒,可避免爬虫短时间内反复请🍀🎆求而浪费资源
同时,对于动态网站,可以针对百度蜘蛛的User-Agent在服务器层面做特殊处理,例如在维护期间向📌其返回503状态码并附带具体的重试时间,而非统一返回500错误
设为首页
关于百度
About Baidu
使用百度前必读
帮助中心
© Baidu
京ICP证030173号
京公网安备11000002000001号