修改robots多久生效介绍

发表时间：2021-02-25 08:56　浏览次数：

　百度lee曾在公开场合说过：不同的站点略有不同，但通常在几天内陆续生效。其实我们可以假想下robots生效的过程：

　　1.蜘蛛发现robots文件修改并将信息传回

　　2.分析修改前后的robots文件

　　3.删除不允许被收录的索引数据这个过程中肯能还会存在其他的一些步骤，然而由于每个网站蜘蛛爬的频率和网站的权重不同(网站的重要性)而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同，最终导致的结果就是robots的生效时间不同。