澎湃新闻
防止服务器过载的附加措施 除了控制蜘蛛池本身的频率,还可以通过一些辅助手段增强服务器的抗压能力: 启用CDN缓存: 将静态页面和资源分发到CDN节点,蜘蛛池抓取时由CDN直接响应,减少源服务器的直接压力
观察响应时间: 如果蜘蛛池抓取后页面的平均响应时间超过2秒,说明服务器处理压力较大
设为首页
关于百度
About Baidu
使用百度前必读
帮助中心
© Baidu
京ICP证030173号
京公网安备11000002000001号