参考消息
User-Agent识别与访问控制 百度蜘蛛通过固定的User-Agent标识(如 Baiduspider )进行抓取
常见做法是: 允许蜘⭐蛛访问核心内容目🍀录(如 /article/ 、 /product/ ),并限制其访问管理后台或动态脚本
避免对百度蜘蛛设置过于严格的IP黑名单,一般建议保留百度官方公布的IP段白名单
设为首页
关于百度
About Baidu
使用百度前必读
帮助中心
© Baidu
京ICP证030173号
京公网安备11000002000001号