中国日报
log | sort | uniq -c | sort -rn 输出结果可能类似: 1580 200 45 404 12 301 3 📌500 如果404数量过多,说明需要检查站点链接结🌟构或已删除页面的处理方式
案例:使用Linux grep命令筛选 假设日志文件为 access
log 这条命令会将所有包含“Baiduspider”的日志行提取并保存到新🤔文件 b❤️aidu_spider
进阶:筛选特定日期的爬虫记录 如果需要查看某一天的爬虫行为,可以结合日期字符串进一步过滤: grep "Baiduspider" access