新京报
网站日志记录 :开启服务器访问日志,记录User-Agent、请求端口、状态码等信息,以便后续分析爬虫访问行为
无论哪种服务器,核心思路均是保证爬虫能🔮通过标准端口或明确指定的非标准端口获得正确内容,且内容一致
响应头添加规范端口 :在服务器响应中加入 Link 头,指示标⚡准URL,帮助爬虫识别优选版本
测试验证 :部署完成后,可使用“百度搜索资源平台”的抓取诊断工具,指定非标准端口发起抓🔍取请求,查看返回的HTTP状态码与内容是否正常
如果网站本身具备标准端口对外服务能力,重定向方案更为直接;若必须保留非标准端口对外访问,则需通过URL配置与爬虫指令配合完成
com; loc🔮at🎊ion / { proxy_pass http://127