通过Nginx,Tomcat访问日志(access log)记录请求耗时
一、Nginx通过$upstream_response_time $request_time统计请求和后台服务响应时间
nginx.conf使用配置方式:
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"'
'$connection $upstream_addr '
'upstream_response_time $upstream_response_time request_time $request_time ';
$request_time和$upstream_response_time之间差别:
$request_time包含了用户数据接收时间,而真正程序的响应时间应该用$upstream_response_time
所以如果用户网络较差,或者传递数据较大时,$request_time会比$upstream_response_time大很多
详细参考:http://wuzhangshu927.blog.163.com/blog/static/114224687201310674652147/
二、Tomcat通过%D或%T统计请求响应时间
server.xml使用配置方式
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="localhost_access_log." suffix=".txt"
pattern="%h %l %u [%{yyyy-MM-dd HH:mm:ss}t] %{X-Real_IP}i "%r" %s %b %D %F" />
%D - 官方解释:Time taken to process the request, in millis,处理请求的时间,以毫秒为单位
%T - 官方解释:Time taken to process the request, in seconds,处理请求的时间,以秒为单位
%F - 官方解释:Time taken to commit the response, in millis,提交响应的时间,以毫秒为单位
详细说明:http://tomcat.apache.org/tomcat-7.0-doc/config/valve.html#Access_Logging
官方解释
% a-远程IP地址
%A-本地IP地址
%b-发送的字节,不包括HTTP标头,如果为零则为'-'
%B-发送的字节,不包括HTTP标头
%h-远程主机名(如果enableLookups连接器为false,则为IP地址 )
%H-请求协议
%l -identd的远程逻辑用户名(总是返回“-”)
%m-请求方法(GET,POST等)
%p-接收此请求的本地端口。另请参见%{xxx}p下文。
%q-查询字符串(如果存在,则以“?”开头)
%r-请求的第一行(方法和请求URI)
%s-响应的HTTP状态代码
%S-用户会话ID
%t-日期和时间,以通用日志格式
%u-已通过身份验证的远程用户(如果有),否则为'-'
%U-请求的URL路径
%v-本地服务器名称
%D-以毫秒为单位处理请求所花费的时间。注意:在httpd中,%D是微秒。从Tomcat 10开始,行为将与httpd对齐。
%T-处理请求所花费的时间,以秒为单位。注意:此值具有毫秒分辨率,而在httpd中具有第二分辨率。从Tomcat 10开始,行为将与httpd保持一致。
%F-提交响应所花费的时间(以毫秒为单位)
%I-当前请求线程名称(以后可以与堆栈跟踪进行比较)
三、通过awk命令辅助统计access.log
1.简单统计nginx访问日志access log每分钟请求数
awk -F: '{count[$2":"$3]++} END {for (minute in count) print minute, count[minute]}' /usr/local/nginx/logs/access.log | sort > count.log
结果如下所示(count.log)
18:30 2086
18:31 2184
18:32 2176
18:33 2122
18:34 2128
18:35 2179
...
参考:http://huoding.com/2013/01/26/215
2.统计请求响应时间超过10s的记录
awk '($NF > 10){print $0}' /usr/local/tengine/logs/cut-log/access_2015-01-12.log >t10_0112.log
更多awk命令统计访问日志参考:http://www.ibm.com/developerworks/cn/linux/l-cn-awk-httplog/