抓取、索引和排名是页面进入搜索结果的三个不同阶段:抓取是搜索引擎发现并读取页面,索引是把页面内容存入可供检索的数据库,排名是用户搜索时决定哪些已索引页面出现在结果中以及顺序如何。判断问题出在哪一步,关键看页面是否被抓取、是否被索引、以及索引后是否有展现和点击,而不是只看搜索某个词时能不能找到。
抓取解决“搜索引擎有没有来过、能不能读到内容”。如果页面返回错误状态、被robots规则挡住、内链极少或站点结构太深,抓取可能不顺利。索引解决“读到的内容有没有被收录、能不能被检索”。页面即使被抓取,也可能因为内容质量、重复度过高、设置了noindex或 canonical 指向别处而不进入索引。排名解决“已经索引的页面在某个查询下排第几”。排名受查询意图、内容相关性、页面体验、外部信号等影响,前提是页面已经可被检索。
三者的关系可以用一个假设例子说明:某页面被抓取过,但搜索其完整标题找不到,说明它可能没有进入索引;如果搜索完整标题能找到,但搜索核心词找不到,说明它已索引,只是该词下排名不理想。这两种情况的处理方向完全不同。
不要凭感觉判断,按下面顺序逐项检查,每项都对应一个阶段:
注意,搜索完整标题找不到,不一定等于没有索引,可能只是该标题不具唯一性;搜索核心词找不到,也不一定等于没有索引,可能只是排名靠后。判断时要固定查询条件,避免把不同阶段的结论混在一起。
面对“页面没流量”的问题,常见两种处理方向,选择依据是上面检查出的卡点:
如果页面既没被抓取也没被索引,先做方案一;如果已索引但排名差,做方案二。把排名问题当成索引问题去反复提交,通常不会带来实质变化;反过来,页面根本没被索引时只改标题和正文,也很难直接解决。
可以按以下步骤执行:第一步,确认目标URL返回200且未被robots挡住;第二步,查看日志或收录状态,判断是否被抓取、是否被索引;第三步,若未索引,先修复阻碍索引的技术项并等待重新处理;第四步,若已索引,再针对目标查询优化标题、正文覆盖和页面体验;第五步,固定时间间隔复查同一查询,区分是索引状态变化还是排名波动。
判断结果的标准很直接:抓取和索引是“有没有”的问题,排名是“好不好”的问题。先解决有没有,再解决好不好,顺序颠倒会让优化动作失去落点。
下一步,选一个目标页面,分别记录它的抓取状态、索引状态和一个目标查询下的展现情况,再根据缺失的那一环决定先改技术项还是先改内容。