分析网站日志有什么作用?

　　1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛(此类蜘蛛多以采集为主，会增加我们服务器的开销);

　　2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ;

　　3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。

　　如何分析网站日志中的内容?

　　一、注意那些被频繁访问的资源

　　如果在日志中，你发现某个资源(网页、图片和mp3等)被人频繁访问，那你应该注意该资源被用于何处了!如果这些请求的来源(Referer)不是你的网站或者为空，且状态码(Http Code)为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。

　　二、注意那些你网站上不存在资源的请求

　　如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦!通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。

　　三、观察搜索引擎蜘蛛的来访情况

　　通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是SEO所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下：

　　Google蜘蛛 ：Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

　　Baidu蜘蛛 ：Baiduspider+(+http://www.baidu.com/search/spider.htm)

　　Yahoo!蜘蛛 ：Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)

　　Yahoo!中国蜘蛛 ：Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)

　　微软Bing蜘蛛 ：msnbot/2.0b (+http://search.msn.com/msnbot.htm)

　　Google Adsense蜘蛛 ：Mediapartners-Google

　　有道蜘蛛 ：Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/)

　　Soso搜搜博客蜘蛛 ：Sosoblogspider+(+http://help.soso.com/soso-blog-spider.htm)

　　Sogou搜狗蜘蛛 ：Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)

　　Twiceler爬虫程序 ：Mozilla/5.0 (Twiceler-0.9 http://www.cuil.com/twiceler/robot.html)

　　Google图片搜索蜘蛛 ：Googlebot-Image/1.0

　　俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 (compatible; Win16; I)

　　Alexa蜘蛛 ：ia_archiver (+http://www.alexa.com/site/help/webmasters)

　　Feedsky蜘蛛 ：Mozilla 5.0 (compatible; Feedsky crawler /1.0)

　　韩国Yeti蜘蛛：Yeti/1.0 (NHN Corp.; http://help.naver.com/robots/)

　　四、观察访客行为

　　通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好;如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向;通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。