Robots生效要多久。

  有时候我们建站前期忘记写robots.txt文件了,很多我们不想让搜索引擎收录的内容却被收录了,这个时候会发现好像过了很长时间我们不想让收录的页面还是处于被收录的状态,到底robots生效要多久呢?

  百度lee曾在公开场合说过:不同的站点略有不同,但通常在几天内陆续生效。

  其实我们可以假想下robots生效的过程:

  1.蜘蛛发现robots文件修改并将信息传回

  2.分析修改前后的robots文件

  3.删除不允许被收录的索引数据

  这个过程中肯能还会存在其他的一些步骤,然而由于每个网站蜘蛛爬的频率和网站的权重不同(网站的重要性)而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同,最终导致的结果就是robots的生效时间不同。

  通过以上分析我们可以得出robots的生效时间并不是一定的,如果你的robots更改后很久都没有生效的话,可以去这里投诉:tousu.baidu.com

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/34735.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
重蔚重蔚管理团队
上一篇 2022年3月12日 04:13
下一篇 2022年3月12日 04:13

相关推荐

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息