澎湃新闻
地理位置判断: 使用IP归属地查询工具,如果大量请求来自海外非搜索引擎数据中心节点,需高度警惕
如果日志显示同一IP在数秒内对某一页面发起数十次请求,很可能属于工具类爬虫或攻击脚本
txt禁止的路径持续访问,基本可判定为非正常爬虫
结合搜索资源平台数据: 百度搜索资源平台中的“抓取异常”和“抓取频率”模块可以作为日志分析的辅助参考,用来验证本地识别的结果是否与官方数据吻合
设为首页
关于百度
About Baidu
使用百度前必读
帮助中心
© Baidu
京ICP证030173号
京公网安备11000002000001号