Centos下Nginx配置WEB访问日志并结合shell脚本定时切割

在一个成熟的WEB系统里,没有日志管理是不可以的,有了日志,可以帮助你得到用户地域来源、跳转来源、使用终端、某个URL访问量等相关信息;通过错误日志,你可以得到系统某个服务或server的性能瓶颈等。因此,将日志好好利用,你可以得到很多有价值的信息。

日志格式及定义

(1)log_format
log_format用来设置日志格式,也就是日志文件中每条日志的格式,具体如下:
log_format name(格式名称) type(格式样式)

log_format main '$server_name $remote_addr - $remote_user [$time_local] "$request" '
'$status $uptream_status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for" '
'$ssl_protocol $ssl_cipher $upstream_addr $request_time $upstream_response_time';

参数说明:

$server_name:虚拟主机名称。
$remote_addr:远程客户端的IP地址。
-:空白,用一个“-”占位符替代,历史原因导致还存在。
$remote_user:远程客户端用户名称,用于记录浏览者进行身份验证时提供的名字,如登录百度的用户名scq2099yt,如果没有登录就是空白。
[$time_local]:访问的时间与时区,比如18/Jul/2012:17:00:01 +0800,时间信息最后的"+0800"表示服务器所处时区位于UTC之后的8小时。
$request:请求的URI和HTTP协议,这是整个PV日志记录中最有用的信息,记录服务器收到一个什么样的请求
$status:记录请求返回的http状态码,比如成功是200。
$uptream_status:upstream状态,比如成功是200.
$body_bytes_sent:发送给客户端的文件主体内容的大小,比如899,可以将日志每条记录中的这个值累加起来以粗略估计服务器吞吐量。
$http_referer:记录从哪个页面链接访问过来的。 
$http_user_agent:客户端浏览器信息
$http_x_forwarded_for:客户端的真实ip,通常web服务器放在反向代理的后面,这样就不能获取到客户的IP地址了,通过$remote_add拿到的IP地址是反向代理服务器的iP地址。反向代理服务器在转发请求的http头信息中,可以增加x_forwarded_for信息,用以记录原有客户端的IP地址和原来客户端的请求的服务器地址。
$ssl_protocol:SSL协议版本,比如TLSv1。
$ssl_cipher:交换数据中的算法,比如RC4-SHA。 
$upstream_addr:upstream的地址,即真正提供服务的主机地址。 
$request_time:整个请求的总时间。 
$upstream_response_time:请求过程中,upstream的响应时间。

(2)access_log

access_log指令用来指定日志文件的存放路径(包含日志文件名)、格式和缓存大小,具体如下:
access_log path(存放路径) [format(自定义日志格式名称) [buffer=size | off]]
举例说明如下:
access_log logs/access.log main;
如果想关闭日志,可以如下:
access_log off;
能够使用access_log指令的字段包括:http、server、location。
需要注意的是:Nginx进程设置的用户和组必须对日志路径有创建文件的权限,否则,会报错。
小技巧:如果需要在access_log中记录post请求的参数,可以参考这里。
Nginx支持为每个location指定强大的日志记录。同样的连接可以在同一时间输出到不止一个的日志中,更多信息请查看这里,这里,还有这里。

下面拿我本地的虚拟机来简单配置一下日志,并获取日志信息。

日志生成的到Nginx根目录logs/access.log文件,默认使用“main”日志格式,也可以自定义格式。

在Nginx下配置的虚拟主机

server {
 listen 80;
 server_name mytest.com;
 location / {
    root /data/wwwroot/default/mytest;   //网站目录
    index index.html;
 }
 access_log  /data/wwwlogs/mytest_log/access_nginx.log main; //日志路径
当然也可以配置错误日志路径error_log......
}

Nginx主配置文件的配置规则

http { 
  include mime.types;
  log_format  main '$remote_addr - $remote_user  [$time_local]  "$request" '
                        '$status  $body_bytes_sent "http_referer" '
                        ' "$http_user_agent" "$http_x_forwarded_for" ';
......
}

记得配置完成先命令测试下是否OK,然后在重新加载配置文件

[root@localhost mytest_log]# nginx -tc /usr/local/nginx/conf/nginx.conf
nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful

 下面来说一下定时切割(虽然新版的Nginx已经支持)

根据上面的配置,确定了日志路径之后,我在/data/crontab目录下创建了一个脚本

#!/bin/bash
LOGPATH=/data/wwwlogs/mytest_log/access_nginx.log //nginx的日志路径
BAKPATH=/data/wwwlogs/bak  //要备份的路径
bak=$BAKPATH/$(date -d yesterday +%Y%m%d%H%M).mytest.access.log  //定义了的bak变量
echo $bak  //执行输出一下
[root@localhost crontab]# chmod 777 nginx_log.sh   //赋权限
[root@localhost crontab]# ./nginx_log.sh  //执行脚本
/data/wwwlogs/bak/201801101205.mytest.access.log //输出的格式

完整脚本如下

#!/bin/bash
#设置日志文件存放目录
LOGPATH=/data/wwwlogs/mytest_log/access_nginx.log
BAKPATH=/data/wwwlogs/bak
 #备分文件名称
bak=$BAKPATH/$(date -d yesterday +%Y%m%d%H%M).mytest.access.log
#echo $bak
 #重命名日志文件
mv $LOGPATH $bak
touch $LOGPATH
 #向nginx主进程发信号重新打开日志,确保nginx.pid路径正确
 #[root@localhost wwwlogs]# find / -name nginx.pid
 #/var/run/nginx.pid
kill -USR1 `cat  /var/run/nginx.pid`

 然后创建定时器

关于定时器详细的讲解在http://www.cnblogs.com/wt645631686/p/6868672.html

01 00 * * * /data/crontab/nginx_log.sh  # 每天0时1分(建议在02-04点之间,系统负载小)  

查看一下/data/wwwlogs/bak就会有日志文件了

posted @ 2018-01-10 16:35  温柔的风  阅读(593)  评论(0编辑  收藏  举报