凤凰网
例如: 首页 → 栏目页 → 内容页(推荐深度:1-2层) 首页 → 专题页 → 内容页(深度可放宽到2-3层) 避免首页 → 中间页→ 过渡页 → 内容页(深度超过3层) 如果网站已有较深的结构,可以通过面包屑🔑导航、相关文章推荐等方式增加内链,将深层页面提前暴露给蜘蛛
关注抓取异常💡与蜘蛛日志 通过百度搜索资源平台的抓取异常报告或网站的访问日志,可以观察蜘蛛实际爬取了哪些路径、在哪些页面遇到错误(如404、500)
通常建议:网站结构保持2-3层,🎨结合robots
常见做法是将核心页面控制在3次点击以内,首页直接链接到重🔍要栏目页,栏目页再链接到具体内容页
通过nofollow控制链接❤️权重传递 nofollow属性可以告诉蜘蛛“不要继续追踪此链接”