新京报
限制爬虫异常请求与带宽 为避免恶意请求或过度爬取▶️影响❤️服务器稳定性,可对特定User-Agent(如百度爬虫)设置速率限制
启用Gzip压缩以加速页面传输 百度爬虫对页面加载速度敏🎯感,启用Gzip可显著压缩HTML、CSS、JS等资源体积
常见做法是对图片、CSS👍🚀、JS等资源设置30天以上的缓存时间
百度爬虫更喜欢稳定的静态内🎆容,SSI在保持动态更新的同时,提升了页▶️面响应速度
log_format main '$remote_addr - $r🎇emote_user [$time_local] "$request" ' '$status $body_bytes_sent "$http_referer" ' '"$http_user_agent" $request_time'; access_log /var/log/nginx/access
建议在调整参数后,通过百度搜索资源平台的抓取诊断工具测试效果,并逐步微调