搜索引擎蜘蛛爬行规律探秘(二)外链是否有时效性

第二，如果外链所在页面搜索引擎没有了快照，外链是否有效呢?答案可能会出乎很多人的意料，外链所在页面没有了快照依然还可以有效。原因可以查看我在蜘蛛如何抓取链接这篇文章里写的，蜘蛛抓取页面之后，会把内容和链接分开，链接也就是URL会加入一个网址索引库，而蜘蛛爬行是从这个网址索引库出发的。先看证据，这个证据来自于谷歌站长工具：这个截屏来自于Google站长工具故障诊断的404报告，以前我在原网站下面架设了个bbs，当然早在N年前已经删除了。可是这个不存在的页面，被Google蜘蛛抓取的来源地址竟然也是不存在的页面。而用Google搜索，是没有这些页面的快照的(如下图)。那是不是意味着已经404了很久的页面上的导出链接依然有效?

很明显应该是有时效性的。那么我就猜测一下外链失效的原因吧，应该会有两个原因：那就是外链所在页面被删或者链接被删。

1.针对页面被删的情况，搜索引擎应该会继续爬行这个页面上的外链，直到这个页面404一定时间后，会给搜索引擎网址索引库一个命令删除这个外链。

2.而对于页面更改的情况，搜索引擎应该也会爬行这个外链，直到这个含有这个外链快照在搜索引擎内部彻底删除，会给网址索引库一个命令删除这个外链。因为含有外链的页面根据情况会保存N个时期的快照，这就是为什么有时候搜不同的词，网页的快照不同。

如没特殊注明，文章均为锐客网原创,转载请注明来自  https://www.wangzhan500.com/news/3003.html