中国网
超时与缓冲区设置 百度Spider在抓取时如果遇到响应缓慢或连接中断,可能直接放弃该URL甚至降低该站点的抓取频次
xml),可以设置较长的 expires 或 Cache-Control 头,减少重复生成请求的资源开销
对于蜘蛛池场景,建议将worker_connections设置为1024或更高,配合 multi_accept 🔍on 允许一个进程同时接受多个新连接,以应对百度Spider高并发的抓取请求
worker_processes auto; events { worker_connections 2048; multi_accept on; use epoll; } 2
send_timeout 30s; keepalive_timeout 65s; client_header_buffer_size 4k; client_body_buffer_size 128k; 3