跟踪链接
为了抓取网上尽量多的页面,搜索引擎蜘蛛会跟踪页面上的链接,从一个页面爬到下 一个页面,就好像蜘蛛在蜘蛛网上爬行那样,这也就是搜索引擎蜘蛛这个名称的由来。
整个互联网是由相互链接的网站及页面组成的。从理论上说,蝴蛛从任何一个页面出 发,顺着链接都可以爬行到网上的所有页面。当然,由于网站及页面链接结构异常复杂, 蜘蛛需要采取一定的爬行策略才能遍历网上所有页面。
最简单的爬行遍历策略分为两种,一种是深度优先,另一种是广度优先。
所谓深度优先,指的是蜘蛛沿着发现的链接一直向前爬行,直到前面再也没有其他链 接,然后返回到第一个页面,沿着另一个链接再一直往前爬行。
蜘蛛跟踪链接,从八页面爬行到4页面后, 已经没有其他链接可以跟踪就返回八页面,顺着页面上的另一个链接,爬行到哈尔滨SEO页面。在深度优先策略中,蜘蛛一直爬到无法再向前,才返回爬另一条线。
广度优先是指蜘蛛在一个页面上发现多个链接时,不是顺着一个链接一直向前,而是把 页面上所有第一层链接都爬一遍,然后再沿着第二层页面上发现的链接爬向第三层页面。
|