page=🎵2&color✨=red 等排序或筛选参数
使用 视图参数配置 让百度爬虫只抓取无参或最少参数的列表页☀️,再通过 sitemap 提交核心页面
分页 URL 建议🌈使用路径形🎨式,如 /list/3/ 而非
例如, utm_source、session_id、sort 等参数 可能让同一篇文章生成数十个不同网址,而百度对重复页面的抓取能力和收录权重分配有限
处理方法包括: 在百度搜索资源平台的“URL 参数”工具中,将这些标记为“不传递内容”的参数设置为 不影响页面内容 ,告知爬虫忽略它们
txt 中限制爬虫抓取含有排序参数的动态 URL
对已上线网站,通过 canonica🍀l 标签 指向无参的标准化 URL,避免权重分散
规范方法包括: 将 Session ID 从 URL 中移出 ,改用 Cookie 或服务端会话存储,避免因用户登录状态改变 URL
page=3&sid=abc123 (S☀️ession ID 或用户标识),就会产生大量重复
若无法完全静态化,将必要的 ID 参数保留,其余参数(如 ref=nav )📢全部移除或标记为忽略
txt 的 Disallow 规则 屏蔽那些包含非必要参数的 URL 模式,并将标准分页 URL 提交至 sitemap
一个产品列🔑表可能因不同排序产生数十个 URL
建议: 对于新闻、文章等内容型页面,优先采用 伪静态或真实静态 U✨RL ,如 /article/123
对于必需的排序参数,统一使用短且🔑固定的参数名(如