02
2012
11

分析百度来访蜘蛛IP,辨别网站权重(转载未证实)

   根据不同的IP我们可以分析网站是个怎样的状态.下面就按照IIS日记上的百度蜘蛛IP为例:

  123.125.68.*这个蜘蛛经常来,别的来的少,表示网站可能要进入沙盒了,或被者降权。

  220.181.68.*每天这个IP 段只增不减很有可能进沙盒或K站。

  220.181.7.*、123.125.66.* 代表百度蜘蛛IP造访,准备抓取你东西。

  121.14.89.*这个ip段作为度过新站考察期。

  203.208.60.*这个ip段出现在新站及站点有不正常现象后。

  210.72.225.*这个ip段不间断巡逻各站。

  125.90.88.* 广东茂名市电信也属于百度蜘蛛IP 主要造成成分,是新上线站较多,还有使用过站长工具,或SEO综合检测造成的。

  220.181.108.95这个是百度抓取首页的专用IP,如是220.181.108段的话,基本来说你的网站会天天隔夜快照,绝对错不了的,我保证。

  220.181.108.92 同上98%抓取首页,可能还会抓取其他 (不是指内页)220.181段属于权重IP段此段爬过的文章或首页基本24小时放出来。

  123.125.71.106 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.91属于综合的,主要抓取首页和内页或其他,属于权重IP 段,爬过的文章或首页基本24小时放出来。

  220.181.108.75重点抓取更新文章的内页达到90%,8%抓取首页,2%其他。权重IP 段,爬过的文章或首页基本24小时放出来。

  220.181.108.86专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  123.125.71.95 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  123.125.71.97 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.89专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.94专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.97专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.80专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  220.181.108.77 专用抓首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  123.125.71.117 抓取内页收录的,权重较低,爬过此段的内页文章不会很快放出来,因不是原创或采集文章。

  220.181.108.83专用抓取首页IP 权重段,一般返回代码是304 0 0 代表未更新。

  注:以上IP尾数还有很多,但段位一样的123.125.71.*段IP 代表抓取内页收录的权重比较低.可能由于你采集文章或拼文章暂时被收录但不放出来.(意思也就是说待定)。

  220.181.108.*段IP主要是抓取首页占80%,内页占30%,这此爬过的文章或首页,绝对24小时内放出来和隔夜快照的,这点我可以保证!

  9月1日补充:强调!各位请看清楚文章里8月30日补充的那段话,和文章里的说法! 并没有指明这个是降权还是做什么的ZZ,请大家不要先入为主!!至今还有人回复说这个IP不是降权的,我就挺郁闷的,文章中好象没有任何地方说过这是降权的ZZ,特别是在最后补充的那一段中强调了!!!只是分析了该IP段的ZZ出现后个站(指的是我个人做的站)数据上出现的一些变化!!并且仅供参考!!!千万!!千万别把我这当成标准答案!!!!!!!发现大部分人看都没有太认真的看里面的字!我是发现太多人都回复说这IP不是降权我才又补充这一段的,如果你没认真仔细把文章看完!!请你不要乱发表评论。!!!!谢谢大家的理解!!!!!!!!11

  前面废话会稍微有点多,但是各位如果不看的话,可能不理解我下面所讲的东西,建议各位还是看一下,也好给帮小弟指出一些不足的地方或给点意见、建议。

  相信做网站的朋友,一般是电信网络的话,有观察IIS日志的话基本上都知道一般的百度蜘蛛的IP是220.181.108.*(这是我自己网站的蜘蛛IP,不代表全部人的,只是列出来做个参考),是北京电信的IP。

  之后一直都是保持220.181.108.*这个IP段,其中经历了整站改版和上线,但是这个IP在之后的一个月中都没有改变,说明改版并不能影响蜘蛛对网站的抓取、看法和态度(这里指的是仍然派同一个性质的ZZ和网站打交道)。在改完版一个月后,服务器因为所在机房的部分原因受到了影响,出现了问题导致了网站不能打开,一直持续了长达7天之久!足足7天网站都打不开,造成的影响是继改版后流量下降的再次下降,而百度蜘蛛由原来220.181.108.*的IP现在也大部分变成了123.125.71.*。

  上图是IP排名的前十位,从图中可以看出,22号还是正常的蜘蛛IP(220.181.108.*的,在这之前也一直都是这个IP;23~28号是空置期,服务器有问题的时间,29号才正式恢复),29号的前十IP数据中已经有部分出现123.125.71.*的数据了,还有一些其它的IP,我都分别查看过,几乎都是抓取错误状态码503的蜘蛛;在30号的时候,前十几乎已经全是123.125.71.*的IP了,在31号的时候就已经完全是123的蜘蛛了。

  在这个改变的过程中,主要原因是服务器出现问题(网站不能打开)导致的,也看了很多网络上和人的说法认为这种IP的蜘蛛是属于“降权蜘蛛”(即这种蜘蛛出现时代表网站即将降权)。

  最开始我也是这么认为的,我站是在29号出现“降权蜘蛛”,7月30号的时候收录还是693000,之后半个月升升降降,在17号时是774000,18号突然降到了184000,“降权蜘蛛”出现了半个月,网站收录受到了打击,这是让我相信的源头。

  为了验证这个信息是否属实,我将220.181.108.*的蜘蛛和123.125.71.*的蜘蛛以及22号,29号,30号不同IP段的蜘蛛各挑选其中一个IP进行了分析,经过分析发现220和123这两个IP的蜘蛛并没有太大的区别,它们爬行的页面、返回的状态码以及爬行的频率几乎没有太大的改变,而且我的站点从220的IP变成了“降权蜘蛛”的IP,收录方面每天只能够收录1K左右页面。

  查询日期是8月25日,最近30天也就是7月25到8月25,这段期间的主要爬行蜘蛛的IP是123.125.71.*,也就是“降权蜘蛛”。还记得上文中提过收录在18号降到了184000,之后的日子一直到今天(8月25日),收录都有上升的趋势,下图是收录历史,今天的收录是18万8000,几乎每天增长1千。

  再看看蜘蛛来访量吧,22号前百度的ZZ日访问平均次数为1千次,总抓取平均量为120000。而22号之后的日访问平均次数在6~7百次,总抓取平均量为6~7万,无论是访问次数或抓取量几乎都减少了一半,而流量自然不必说,在收录减少的同时也受到了毁灭性的打击,欲哭无泪啊。

  网站造成这种现象的具体原因尚不明确,6月22是整站改版上线的日子,7月22时是服务器出问题一个星期的日子,而这之间一个月几乎都在调整改版后未完善好的小细节,动的比较多所以不能也不太敢确定具体原因是什么,只能说短期内变动的太频繁了,所以才有今日的恶果。

  但就这“降权蜘蛛”的说法个人还是不太认同的,它更适合称作“某时期的蜘蛛”,打个比方网站权重有高、中、低三期,那么这三种不同时期分别会有三种不同IP段的蜘蛛来重点接待。比如我网站原来是中,经过短期的频繁改动让网站原有权重、排名、流量、收录等流失,那么这时的网站就不是原来那个拥有诸多权重的网站,所以百度在发现这一现象后进行了相应的处理,把原有ZZ收回,放出它认为符合你网站的ZZ来招呼你,而明显123的ZZ比之前220的ZZ在访问次数和抓取量上都不是同一个等级的,但是如果要用“降权”来称呼的话,我更喜欢用“不同时期的不同蜘蛛”来说明这个问题。

  最后说下怎么应对这种问题。针对这种问题的话还是要先分析出是什么原因导致这种IP的出现,比如我这个,我判断为短期频繁改动(而且是比较大的改动),那我之后一段时间就不敢短期频繁改了,追求稳定的增加链接资源和内容,重新引起ZZ的注意以及重新审视网站,在这个基础上再继续分析数据和调整网站的SEO因素

« 上一篇下一篇 »

相关文章:

评论列表:

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。