南方都市报
如果爬虫触发过于频繁,可能被服务器拒绝访问或判定为异常流量;反之,触发间隔过长则会导致新内容迟迟无法被索引
txt 中的 Crawl-Delay 指令、监控服务器日志,以及利用百度站长平台提供的“抓取频率”设置
分批提交链接 :避免一次性提交大量链接,建议每小时推送不超过 100 条,分散爬虫注意力
设为首页
关于百度
About Baidu
使用百度前必读
帮助中心
© Baidu
京ICP证030173号
京公网安备11000002000001号