AWStats分析Nginx访问日志

简介:

    AWStats是在Sourceforge上发展很快的一个基于Perl的WEB日志分析工具。

    它可以统计您站点的如下信息:

  • 访问量(UV),访问次数,页面浏览量(PV),点击数,数据流量等

  • 精确到每月、每日、每小时的数据

  • 访问者国家

  • 访问者IP

  • Robots/Spiders的统计

  • 访客持续时间

  • 对不同Files type的统计信息

  • Pages-URL的统计

  • 访客操作系统浏览器等信息

  • 其它信息(搜索关键字等等)

    下面是AWStats分析Nginx日志的操作步骤:

一、配置nginx日志格式

    修改nginx.conf的日志格式,不然awstats无法分析。

1
2
3
4
     log_format access  '$remote_addr - $remote_user [$time_local] "$request" '
         '$status $body_bytes_sent "$http_referer" '
         '"$http_user_agent" "$http_x_forwarded_for"' ;
     access_log  /var/log/nginx/access .log access;

    注意,日志格式里的双引号不能漏了且每个参数之间是一个空格分隔,因为只要有细微的差别,awstats就无法读取日志。

    改好后,使nginx重读配置文件:

1
shell # nginx -t && nginx -s reload

二、自动切割nginx日志

    每天晚上23点59分定时执行一个shell脚本来切割nginx日志。脚本内容如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
#!/bin/bash
#
# Filename:    nginxCutLog.sh
# Author:      Qicheng
# Website:     http://qicheng0211.blog.51cto.com/
# Description: 切割nginx日志
# Notes:       设置crontab,每天23点59分定时执行
#
ROOT_UID=0
if  "$UID"  - ne  "$ROOT_UID"  ]; then
     echo  "Error: 必须以root用户运行此程序!"
     exit  1
fi
 
nginx_logs_dir= "/var/log/nginx"
nginx_pid_file= "/var/run/nginx.pid"
# 切割后的日志文件名,例如access_20141022.log
nginx_log_today= "$nginx_logs_dir/access_`date +%Y%m%d`.log"
 
while  [ ` date  +%S` - ne  59 ]; do
         sleep  1
done
sleep  1
[ -f  "$nginx_log_today"  ] &&  exit  1
mv  $nginx_logs_dir /access .log $nginx_log_today
# 给nginx发送USR1信号,使重新打开新的access.log日志文件
[ -f $nginx_pid_file ] &&  /bin/kill  -USR1 $( cat  $nginx_pid_file)

    设置crontab:

1
59 23 * * *  /bin/bash  /yourscriptpath/nginxCutLog .sh

三、安装awstats

1
2
3
4
shell # wget http://awstats.sourceforge.net/files/awstats-7.0.tar.gz
shell # tar -zxvf awstats-7.0.tar.gz
shell # mv awstats-7.0 /usr/local/awstats
shell # mkdir -p /var/lib/awstats

四、配置awstats

    进入/usr/local/awstats/tools/目录,执行配置脚本awstats_configure.pl:

1
2
shell # cd /usr/local/awstats/tools/
shell # ./awstats_configure.pl

wKiom1RHIZLC7_9AAAb4OHgq8T4716.jpg

    程序执行结束后,会在/etc/awstats/目录下生成你的配置文件。然后编辑配置文件,修改LogFile参数,跟日志切割脚本中的日志路径对应起来:

1
LogFile= "/var/log/nginx/access_%YYYY-24%MM-24%DD-24.log"

    注意,这里日期格式“%YYYY-24%MM-24%DD-24”,是指24小时之前的年月日,也就是昨天的日期。

    测试:

1
shell # /usr/local/awstats/wwwroot/cgi-bin/awstats.pl -update -config=yourwebsite

    注意:-config=后面的参数是你在执行awstats_configure.pl时输入的站点域名。

wKiom1RHUo3RAos-AAJFMJnsCX0874.jpg

五、配置awstats生成静态页面

    利用awstats的工具将统计的结果生成静态文件:

1
2
shell # mkdir -p /var/www/awstats
shell # /usr/local/awstats/tools/awstats_buildstaticpages.pl -update -config=yourwebsite -lang=cn -dir=/var/www/awstats -awstatsprog=/usr/local/awstats/wwwroot/cgi-bin/awstats.pl

    注意:-config=后面的参数是你在执行awstats_configure.pl时输入的站点域名;-dir=是统计结果静态文件的输出目录。

    设置crontab,每天凌晨00:01定时更新静态页面:

1
1 0 * * *  /usr/local/awstats/tools/awstats_buildstaticpages .pl -update -config=yourwebsite -lang=cn - dir = /var/www/awstats  -awstatsprog= /usr/local/awstats/wwwroot/cgi-bin/awstats .pl

    一般站长都不愿随便让人知道自己站的真实流量,所以要把awstats统计结果页面进行密码保护,这里需要用到apache自带的工具htpasswd:

1
2
3
4
5
shell # yum -y install httpd-tools
shell # htpasswd -cd admin.pass admin
New password: 
Re- type  new password: 
Adding password  for  user admin

    把生成的密码文件admin.pass放到nginx主配置目录下(/etc/nginx/)。

    在nginx配置扩展目录(/etc/nginx/conf.d/)下新建awstats.conf配置文件,内容如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
server {
     listen       83;
     server_name  localhost;
     location ~ ^ /awstats/  {      # html 静态页面目录
         root    /var/www ;
         index  index.html;
         access_log off;
         error_log off;
         charset gb2312;
         auth_basic  "admin" ;
         auth_basic_user_file admin.pass;
     }
 
     location ~ ^ /icon/  {         # 图标目录
         root    /usr/local/awstats/wwwroot ;
         index  index.html;
         access_log off;
         error_log off;
     }
 
     location / {
         return  403;
     }
}

最后使nginx重读配置文件,用浏览器查看统计结果 http://yourhostname:83/awstats/awstats.yourwebsite.html

日志分析页面示例:

wKiom1RHSUKylF9SAAWotBFTXts481.jpg


参考资料:

http://baike.baidu.com/view/228748.htm?fr=aladdin

http://www.ibm.com/developerworks/cn/linux/l-cn-awstats-nginx/(有些错误,已在本文中纠正)



本文转自 张斌_青岛 51CTO博客,原文链接:http://blog.51cto.com/qicheng0211/1566682

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
5天前
|
运维 监控 应用服务中间件
LNMP详解(十五)——Nginx日志分析实战
LNMP详解(十五)——Nginx日志分析实战
34 0
|
5天前
|
弹性计算 应用服务中间件 Shell
切割 Nginx 日志文件
【4月更文挑战第28天】
23 0
|
5天前
|
小程序 应用服务中间件 Linux
【Nginx】微信小程序后端开发、一个域名访问多个服务
【Nginx】微信小程序后端开发、一个域名访问多个服务
18 0
|
5天前
|
域名解析 弹性计算 应用服务中间件
基于nginx反向代理实现OSS固定域名IP访问
本文基于阿里云OSS手册:https://help.aliyun.com/zh/oss/use-cases/use-an-ecs-instance-that-runs-centos-to-configure-a-reverse-proxy-for-access-to-oss,继续深入讨论如何利用nginx反向代理,实现固定的IP/域名访问OSS bucket。官方文档能够解决大部分的反向代理固定IP访问oss bucket的场景,但是对于必须使用域名作为endpoint的系统,会出现signatrue鉴权问题。本文继续在官方文档的基础上,将反向代理需要域名作为endpoint的场景补齐方案。
|
5天前
|
监控 数据可视化 安全
如何查找访问 Nginx 的前 10 个 IP?
【5月更文挑战第1天】
25 1
如何查找访问 Nginx 的前 10 个 IP?
|
5天前
|
弹性计算 应用服务中间件 Shell
切割Nginx 日志文件
【4月更文挑战第29天】
22 1
|
5天前
|
前端开发 应用服务中间件 网络安全
nginx配置SSL证书配置https访问网站 超详细(附加配置源码+图文配置教程)
nginx配置SSL证书配置https访问网站 超详细(附加配置源码+图文配置教程)
90 0
|
5天前
|
Ubuntu 应用服务中间件 Linux
nginx 配置代理ip访问https的域名配置
nginx 配置代理ip访问https的域名配置
|
5天前
|
存储 应用服务中间件 nginx
nginx日志定时切割 按年月日
nginx日志定时切割 按年月日
22 0
|
5天前
|
网络协议 应用服务中间件 Linux
centos7 Nginx Log日志统计分析 常用命令
centos7 Nginx Log日志统计分析 常用命令
152 2