中国青年报
txt 中针对非Baiduspider的UA设置与Baiduspider相同的抓取规则,以免逻辑混淆
如果你的网站有自适应或移动端独立版本,请确保在不同环境下对两种爬虫返回对应的正确内容,而不💡是强行伪装成单一浏览器
区分PC与移动端爬虫 :百度存在针对移动端的Baiduspider和针对PC⭐端的🤔Baiduspider,其UA略有差异
如果必须使用CDN或反向代理,建议在服务器层面正确配置对Baiduspider的识别规则,保留原始UA传递至后端
仅依赖User-Agent字符串而不做IP验证,容易导致伪装不被信任
同时,服务器日志⭐中应保留💪原始的User-Agent信息,便于后续审计
User-Agent伪装的合规设定应当以 真实、可验证、不欺🌺骗 为核心原则
常见的不合规伪装与风险规避 一些站长曾尝试将百度爬虫的User-Agent修改为“Googlebot”或“Bingbot”,意图让服务器对百度爬虫返回💎与其他搜索引擎不同的内容