欢迎光临武荣网络,我们是一家专注中小型企业网站建设、网络营销服务的互联网公司!
咨询热线:17689498972
微信号
新闻中心News

网站日志该怎么看?怎么分析 ?

作者:武荣网络 | 点击:580 | 来源:武荣网络 | 发布时间:2022-11-18 09:17:17
1811
2022
网站做好了,我们还需要引导蜘蛛来网站抓取,了解蜘蛛的抓取规律,我们才能更好的去优化网站。而想要分析出搜索引擎蜘蛛爬取的规律,我们就需要懂得分析网站日志,那么网站日志怎么分析?有什么作用?一起随武荣网络(0595wr.cn)来详细了解一下吧。一、蜘蛛日志分析返回状态码:1、200:代表服务器返回页面成功...

  网站做好了,我们还需要引导蜘蛛来网站抓取,了解蜘蛛的抓取规律,我们才能更好的去优化网站。而想要分析出搜索引擎蜘蛛爬取的规律,我们就需要懂得分析网站日志,那么网站日志怎么分析?有什么作用?一起随武荣网络(0595wr.cn)来详细了解一下吧。


  一、蜘蛛日志分析返回状态码:


  1、200:代表服务器返回页面成功;


  2、404:代表页面无法访问;


  3、301:代表页面301转向(重定向);


  4、304:代表客户端已经执行了GET,但文件未变化;


  5、500:代表服务器遇到错误,无法完成请求;


  6、403:代表表示服务器拒绝请求。


  二、在日志中能看到哪些数据?


  在文件中我们可以看到蜘蛛的IP地址、访问的时间、蜘蛛抓取的网页地址、http状态码、请求方式、字节数等,日志代码示例如下:


  220.181.108.79- - [18/May/2020:10:30:32 +0800] “GET /soft/17.html HTTP/1.1” 200 6779 “-” “Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http:// www.baidu.com/search/spider.html)


  三、蜘蛛日志分析有什么作用?


  1、通过分析我们可以判断蜘蛛有没对站点进行抓取,有没成功,也可以判断网站是不是符合搜索引擎的抓取规范,如有抓取失败可以找出原因。


  2、可以判断哪些页面蜘蛛的访问频率太高,影响了服务器的正常运行,我们可以做出调整,限制蜘蛛的访问频率来保证服务器速度的稳定。


  3、通过蜘蛛日志分析文件,我们可以判断有多少权重蜘蛛,看到蜘蛛的访问路径,更好的优化站内结构,同时可以判断出恶意攻击的行为。


  四、常见搜索引擎的蜘蛛所使用的Agent列表


  Google蜘蛛 :Mozilla/5.0 (compatible; Googlebot/2.1; +)


  Baidu蜘蛛 :Baiduspider+(+)


  Sogou搜狗蜘蛛 :Sogou web spider/4.0(+#07)


建站百科推荐
我要咨询做网站
成功案例
建站流程
  • 网站需
    求分析
  • 网站策
    划方案
  • 页面风
    格设计
  • 程序设
    计研发
  • 资料录
    入优化
  • 确认交
    付使用
  • 后续跟
    踪服务
  • 17689498972
    17689498972
Hi,Are you ready?
准备好开始了吗?
那就与我们取得联系吧

咨询送礼现在提交,将获得武荣网络策划专家免费为您制作
价值2880元《全网营销方案+优化建议教程》一份!
下单送礼感恩新成立,新老用户下单即送创业型空间+域名等大礼
24小时免费咨询热线17689498972
合作意向表
您需要的服务
您最关注的地方
预算

直接咨询