Python logging(日志)模块
python日志模块
内容简介
1.日志相关概念
2.logging模块简介
3.logging模块函数使用
4.logging模块日志流处理流程
5.logging模块组件使用
6.logging配置方式
7.日志输出中添加上下文信息
一、日志相关概念
日志是一种可以追踪软件运行时所发生事件的方法,软件开发人员可以向其代码中调用日志记录相关的方法来表明发生了某些事情。一个事件可以用一个包含可选变量数据的消息来描述,此外事件也有重要性的概念,这个重要性也可以被称为严重级别(level)。
1.日志的作用
通过日志的分析,可以方便用户了解系统或软件、应用的运行情况,如果我们的引用日志足够丰富,也可以分析以往用户的操作行为、类型喜好、地域分布或其他更多信息;如果一个应用的日志同时也分了多个级别,那么可以很轻松地分析得到该应用的健康状况,及时发现问题并快速定位、解决问题。简单来讲就是,我们通过记录和分析日志可以了解一个系统或软件程序运行情况是否正常,也可以在应用程序出现故障时快速定位问题。比如,做运维的同学,在接收到报警或各种问题反馈后,进行问题排查时通常都会先去看各种日志。对于运维老司机或有经验的开发人员,可以快速的通过日志定位到问题的根源,可见日志的重要性。日志的作用可以简单总结为下面几点:
- 调试程序;
- 了解应用软件程序运行是否正常;
- 软件程序故障分析与问题定位;
如果应用软件程序的日志信息足够详细和丰富,还可以用来做用户行为分析,如:分析用户的操作行为、类型喜好、地域分布以及其他更多的信息,由此以实现业务改进、提高商业利益。
2.日志的级别
我们先来思考下以下两个问题:
- 作为开发人员,在开发一个应用程序的时候需要什么日志信息?在应用程序正式上线后需要什么日志信息?
- 作为应用运维人员,在部署开发环境时需要什么日志信息?在部署生产环境时需要什么日志信息?
在软件开发阶段或部署开发环境时,为了尽可能详细的查看应用程序的运行状态来保证上线后的稳定性,我们可能需要把该引用程序所有的运行日志全部记录下来进行分析,这是非常耗费机器性能的。但应用程序正式发布或在生产环境部署应用程序时,我们通常只需要记录应用程序的异常信息、错误信息等,这样即可以减小服务器的I/O压力,也可以避免我们在排查故障时被淹没在日志的海洋里。那么,怎么才能在不改动应用程序代码的情况下实现在不同环境记录不同详细程度的日志呢?这就是日志级别的作用了,我们可以通过配置文件指定我们需要的日志级别就可以了。不同的应用程序所定义的日志级别可能会有所差别,分的详细点的会包含以下几个等级:
- DEBUG
- INFO
- NOTICE
- WARNING
- ERROR
- CRITICAL
- ALERT
- EMERGENCY
3.日志字段信息与日志格式
在开篇提到过,一条日志信息对应的是一个事件的发生,而一个事件通常需要包括以下几个内容:
- 事件发生的时间;
- 事件发生的位置;
- 事件的严重程度---日志级别;
- 事件的内容;
上面这些都是一条日志记录中可能包含的字段信息,当然还可以包括一些其他信息,比如:进程ID、进程名称、线程ID、线程ID等等。日志格式就是用来定义一条日志记录中包含哪些字段的,且日志格式通常都是可以自定义的。
输出一条日志时,日志内容和日志级别是需要开发人员明确指定的。对于其他字段信息,只需要是否显示在日志中就可以了。
4.日志功能的实现
几乎所有开发语言都会内置日志相关功能,或者会有比较优秀的第三方库来提供日志操作功能,比如:log4j,log4php等。它们功能强大、使用简单,Python自身也提供了一个用于记录日志的标准库模块----logging。
二、logging模块简介
logging模块定义的类和函数为应用程序的开发提供了一个灵活的日志系统。logging模块是Python的一个标准库模块,由标准库模块提供日志记录API的关键好处是所有Python模块都可以使用这个日志系统。所以,我们的应用日志可以将自己的日志信息与来自第三方模块的信息整合起来。
1.logging模块的日志级别
logging模块默认定义了以下几个日志级别,它允许开发人员自定义其它日志级别,但是这是不被推荐的,尤其是在开发供别人使用的库时,因为这会导致日志级别的混乱。
日志级别(level) | 描述 |
---|---|
DEBUG | 最详细的日志信息,典型应用场景是:问题诊断 |
INFO | 信息详细程度仅次于DEBUG,通常只记录关键节点信息,用于确认一切都是按照我们的预期的那样进行工作 |
WARNING | 但某些不期望的事情发生时记录的信息,比如:磁盘可用空间较低,但是此时应用程序还是正常运行的 |
ERROR | 由于一个更严重的问题导致某些功能不能正常运行时记录的信息 |
CRITICAL | 当发生严重错误,导致应用程序不能继续运行时记录的信息 |
开发应用程序或部署开发环境时,可以使用DEBUG或INFO级别的日志获取尽可能详细的日志信息来进行开发或部署调试;应用上限或部署生产环境时,应该使用WARNING或ERROR或CRITICAL级别的日志来降低机器的I/O压力和提高获取错误日志信息的效率,日志级别的指定通常都是在应用程序的配置文件中进行制定的。
- 上面表中的日志级别从上到下依次升高,即:DEBUG< INFO< WARNING< ERROR< CRITICAL,而日志的信息量是依次减少的;
- 当为某个应用程序指定一个日志级别后,应用程序会记录所有日志级别大于或等于指定级别的日志信息,而不是仅仅只记录指定级别的日志信息,nginx、php等应用程序以及这里要提到的Python的logging模块都是这样的。同样,logging模块也可以指定日志记录器的日志级别,只有级别大于或等于该指定日志级别的日志才会被输出,小于该级别的日志将会被丢弃。
2.logging模块的使用方式
logging模块提供了两种记录日志的方式:
- 第一种方式是:使用logging提供的模块级别的函数;
- 第二种方式是:是用logging日志系统的四大组件;
其实,logging所提供的模块级别的日志记录函数也是对logging日志系统相关类的封装而已。
logging模块定义的模块级别的常用函数
函数 | 说明 |
---|---|
logging.debug(msg, *args, **kwargs) | 创建一条严重级别为DEBUG的日志记录 |
logging.info(msg, *args, **kwargs) | 创建一条严重级别为INFO的日志记录 |
logging.warning(msg, *args, **kwargs) | 创建一条严重级别为WARNING的日志记录 |
logging.error(msg, *args, **kwargs) | 创建一条严重级别为ERROR的日志记录 |
logging.critical(msg, *args, **kwargs) | 创建一条严重级别为CRITICAL的日志记录 |
logging.log(level, *args, **kwargs) | 创建一条严重级别为LEVEL的日志记录 |
logging.basicConfig(**kwargs) | 对日志系统做基本的配置 |
其中logging.basicConfig(**kwargs)函数用于指定"要记录的日志级别"、"日志格式"、"日志输出位置"、"日志文件的打开模式"等信息,其他几个都是用于记录各个级别日志的函数。
logging模块的四大组件
组件 | 说明 |
---|---|
loggers | 提供应用程序代码直接使用的接口 |
handlers | 用于将日志记录发送到指定的目的位置 |
filters | 提供更细粒度的日志过滤功能,用于决定哪些日志记录将会被输出(其它的日志记录将会被忽略) |
formatters | 用于控制日志信息的最终输出格式 |
logging模块提供的模块级别的那些函数实际上也是通过这几个组件的相关实现类来记录日志的,只是在创建这些类的实例时设置了一些默认值。
三、logging模块函数使用
回顾下前面提到的几个重要信息:
- 可以通过logging模块定义的模块级别的方法去完成简单的日志记录;
- 只有级别大于或等于日志记录器指定级别的日志记录才会被输出,小于该级别的日志记录将会被丢弃;
1.最简单的日志输出
先来试着分别输出一条不同日志级别的日志记录:
import logging
logging.debug("This is a debug log.")
logging.info("This is a info log.")
logging.warning("This is a warning log.")
logging.error("This is a error log.")
logging.critical("This is a critical log.")
# 也可以这样写:
logging.log(logging.DEBUG, "This is a debug log.")
logging.log(logging.INFO, "This is a info log.")
logging.log(logging.WARNING, "This is a warning log.")
logging.log(logging.ERROR, "This is a error log.")
logging.log(logging.CRITICAL, "This is a critical log.")
运行输出结果为:
WARNING:root:This is a warning log.
ERROR:root:This is a error log.
CRITICAL:root:This is a critical log.
2.那么问题来了
问题1:为什么前面两条日志没有被打印出来?
这是因为logging模块提供的日志记录函数所使用的日志器设置的日志级别是WARNING,因此只有WARNING级别的日志记录以及大于它的ERROR和CRITICAL级别的日志记录被输出了,而小于它的DEBUG和INFO级别的日志被丢弃了。
问题2:打印出来的日志信息中各字段表示什么意思?为什么会这样输出?
上面输出结果中每行日志记录的各个字段含义分别是:
日志级别:日志器名称:日志内容
之所以会这样输出,是因为logging模块提供的日志记录函数所使用的日志器设置的日志格式默认是BASIC_FORMAT,其值为:
"%(levelname)s:%(name)s:%(messsage)s"
问题3:为什么将日志记录打印到控制台,而不是输出到文件中?
因为在logging模块提供的日志记录函数所使用的日志器设置的处理器所指定的日志输出位置默认为:
sys.stderr
问题4.我是怎么知道这些的?
查看这些日志记录函数的实现代码,可以发现:当我们没有提供任何配置信息的时候,这些函数都会去调用logging.basicConfig(kwargs)方法,且不会向该方法传递任何参数,继续查看basicConfig(kwargs)方法的代码就可以找到上面这些问题的答案了。
问题5.怎么修改这些默认设置呢?
其实很简单,在我们调用上面这些函日志记录函数之前,手动调用一下basicConfig(**kwargs)方法,把我们想设置的内容以参数的形式传递进去就可以了。
3.logging.basicConfig(kwargs)函数说明**
该方法用于为logging日志系统做一些基本配置,方法定义如下:
logging.basicConfig(**kwargs)
该函数可以接收的关键字参数如下:
参数名称 | 描述 |
---|---|
filename | 指定日志输出目标文件的文件名,指定该设置项后日志信息就不会被输出到控制台了 |
filemode | 指定日志文件的打开模式,默认为"a"。需要注意的是,该选项要在filename指定时才有效 |
format | 指定日志格式字符串,即指定日志输出时所包含的字段信息以及它们的顺序,logging模块定义的格式字段下面会列出 |
datefmt | 指定日期/时间格式。需要注意的是,该选项要在format中包含时间字段%(asctime)时才有效 |
level | 指定日志器的日志级别 |
stream | 指定日志输出目标stream,如sys.stdout、sys.stderr以及网络stream。需要注意的是,stream和filename不能同时提供,否则stream会被忽略 |
style | 指定format格式字符串的风格,可取值为"%"、"{"和"$",默认为"%" |
handlers | 该选项如果被指定,它应该是一个创建了多个Handler的可迭代对象,这些handler将会被添加到root logger。需要注意的是:filename、stream和handler这三个配置项只能有一个存在,不能同时出现2个或3个 |
4.logging模块定义的格式字符串字段
下面是logging模块中定义好的可以用于format格式字符串中的字段:
字段/属性名称 | 使用格式 | 描述 |
---|---|---|
asctime | %(asctime)s | 日志事件发生的时间--人类可读时间,如:2018-05-05 19:50:45,9527 |
created | %(created)f | 日志事件发生的时间--时间戳,就是当时调用time.time()方法返回的值 |
relativeCreated | %(relativeCreated)d | 日志事件发生的时间--相对于logging模块加载时间的相对毫秒数(目前还不知道有什么用) |
msecs | %(msecs)d | 日志事件发生的毫秒部分 |
levelname | %(levelname)s | 该日志记录的文字形式的日志级别('DEBUG', 'INFO', 'WARNING', 'ERROR', 'CRITICAL') |
levelno | %(levelno)s | 该日志记录的数字形式的日志级别(10, 20, 30, 40, 50) |
name | %(name)s | 所使用的日志器名称,默认是"root",因为默认使用的是rootLogger |
message | %(message)s | 日志记录的文本内容,通过msg % args计算得到的 |
pathname | %(pathname)s | 调用日志记录函数的源码文件的全部路径 |
filename | %(filename)s | pathname的文件名部分,包含文件后缀 |
module | %(module)s | filename的名称部分,不包含后缀 |
lineno | %(lineno)s | 调用日志记录函数的源代码所在的行号 |
funcName | %(funcName)s | 调用日志记录函数的函数名 |
process | %(process)d | 进程ID |
processName | %(processName)s | 进程名称 |
thread | %(thread)d | 线程ID |
threadName | %(threadName)s | 线程名称 |
5.经过配置的日志输出
先简单配置下日志器的日志级别
import logging
logging.basicConfig(level=logging.DEBUG)
logging.debug("This is a debug log.")
logging.info("This is a info log.")
logging.warning("This is a warning log.")
logging.error("This is a error log.")
logging.critical("This is a critical log.")
运行输出结果为:
DEBUG:root:This is a debug log.
INFO:root:This is a info log.
WARNING:root:This is a warning log.
ERROR:root:This is a error log.
CRITICAL:root:This is a critical log.
所有等级的日志信息都被输出了,说明配置生效了。
在配置日志器日志级别的基础上,在配置日志输出目标文件和日志格式:
import logging
LOG_FORMAT = "%(asctime)s - %(levelname)s - %(message)s"
logging.basicConfig(level=logging.DEBUG, filename="my.log", format=LOG_FORMAT)
logging.debug("This is a debug log.")
logging.info("This is a info log.")
logging.warning("This is a warning log.")
logging.error("This is a error log.")
logging.critical("This is a critical log.")
运行上面代码,发现此时控制台已经没有输出日志内容了,但是在Python代码文件的相同目录下会生成一个名为"my.log"的日志文件,如下图所示:
该文件的内容为:
2018-05-05 20:14:12,806 - DEBUG - This is a debug log.
2018-05-05 20:14:12,806 - INFO - This is a info log.
2018-05-05 20:14:12,807 - WARNING - This is a warning log.
2018-05-05 20:14:12,807 - ERROR - This is a error log.
2018-05-05 20:14:12,807 - CRITICAL - This is a critical log.
在上面的基础上,我们再来设置下日期/时间格式:
import logging
LOG_FORMAT = "%(asctime)s - %(levelname)s - %(message)s"
DATE_FORMAT = "%m/%d/%Y %H:%M:%S %p"
logging.basicConfig(level=logging.DEBUG, filename="my.log",
format=LOG_FORMAT, datefmt=DATE_FORMAT)
logging.debug("This is a debug log.")
logging.info("This is a info log.")
logging.warning("This is a warning log.")
logging.error("This is a error log.")
logging.critical("This is a critical log.")
此时会在"my.log"日志文件中看到如下输出内容:
05/05/2018 20:20:22 PM - DEBUG - This is a debug log.
05/05/2018 20:20:22 PM - INFO - This is a info log.
05/05/2018 20:20:22 PM - WARNING - This is a warning log.
05/05/2018 20:20:22 PM - ERROR - This is a error log.
05/05/2018 20:20:22 PM - CRITICAL - This is a critical log.
掌握了上面的内容之后,已经能够满足我们平时开发中需要的日志记录功能。
6.其他说明
几个要说明的内容:
- logging.basicConfig(**kwargs)函数是一个一次性的简单配置工具,也就是说只有在第一次调用该函数时会起作用,后续再次调用该函数时完全不会产生任何操作的,多次调用的设置并不是累加操作;
- 日志器(Logger)是有层级关系的,上面调用的logging模块级别的函数所使用的日志器是RootLogger类的实例,其名称为"root",它是处于日志器层级关系最顶层的日志器,且该实例是以单利模式存在的;
- 如果要记录的日志中包含变量数据,可使用一个格式字符串作为这个事件的描述消息(logging.debug、logging.info等函数的第一个参数),然后将变量数据作为第二个参数*args的值进行传递,如:logging.warning("%s is %d years old.", "Tom", 10),输出内容为:WARNING:root:Tom is 10 years old.
- logging.debug()、logging.info()等方法的定义中,除了msg和*args参数外,还有一个**kwargs参数。它们支持3个关键字参数:exc_info,stack_info,extra,下面对这几个关键字参数做个说明。
关于exc_info,stack_info,extra关键字参数的说明:
- exc_info:其值为布尔值,如果该参数的值设置为True,则会将异常信息添加到日子消息中,如果没有异常信息则添加None到日志信息中;
- stack_info:其值也为布尔值,默认为False。如果该参数的值设置为True,栈信息将会被添加到日志信息中;
- extra:这是一个字典(dict)参数,它可以用来自定义消息格式中所包含的字段,但是它的key不能与logging模块定义的字段冲突;
举个例子,在日子消息中添加exc_info和stack_info信息,并添加两个自定义的字段ip和user:
import logging
LOG_FORMAT = "%(asctime)s - %(levelname)s - %(user)s[%(ip)s] - %(message)s"
DATE_FORMAT = "%m/%d/%Y %H:%M:%S %p"
logging.basicConfig(format=LOG_FORMAT, datefmt=DATE_FORMAT)
logging.warning("Some one delete the log file.", exc_info=True, stack_info=True,
extra={"user": "Tom", "ip": "95.27.16.88"})
运行输出结果为:
05/05/2018 20:43:58 PM - WARNING - Tom[95.27.16.88] - Some one delete the log file.
NoneType: None
Stack (most recent call last):
File "D:/PythonCode/module for test/logging module.py", line 8, in <module>
extra={"user": "Tom", "ip": "95.27.16.88"})
四、logging模块日志流处理流程
在介绍logging模块的高级用法之前,很有必要对logging模块所包含的重要组件以及其工作流程做个全面、简要的介绍,这有助于我们更好的理解我们所写的代码。
1.logging日志模块四大组件
在介绍logging模块的日志流处理流程之前,我们先来介绍下logging模块的四大组件:
组件名称 | 对应类名 | 功能描述 |
---|---|---|
日志器 | Logger | 提供了应用程序可直接使用的接口 |
处理器 | Handler | 将logger创建的日志记录发送到合适的目的地输出 |
过滤器 | Filter | 提供了更细粒度的控制工具来决定输出哪条日志记录,丢弃哪条日志记录 |
格式器 | Formatter | 决定日志记录的最终输出格式 |
logging模块就是通过这些组件来完成日志处理的,上面所使用的logging模块级别的函数也是通过这些组件对应的类来实现的。这些组件之间的关系描述:
- 日志器(Logger)需要通过处理器(Handler)将日志信息输出到目标位置,如:文件、sys.stdout、网络等;
- 不同的处理器(Handler)可以将日志输出到不同的位置;
- 日志器(Logger)可以设置多个处理器(Handler)将同一条日志记录输出到不同的位置;
- 每个处理器(Handler)都可以设置自己的过滤器(Filter)实现日志过滤,从而保留感兴趣的日志;
- 每个处理器(Handler)都可以设置自己的格式器(Formatter)实现同一条日志以不同的格式输出到不同的地方;
简单点说就是:日志器(Logger)是入口,真正干活儿的是处理器(Handler),处理器(Handler)还可以通过过滤器(Filter)和格式器(Formatter)对要输出的日志内容做过滤和格式化处操作。
logging日志模块相关类及其常用方法
下面介绍与logging四大组件相关的类:Logger,Handler,Filter,Formatter。
Logger类,Logger对象有3个任务要做:
- 向应用程序代码暴露几个方法,使应用程序可以在运行时记录日志消息;
- 基于日志严重级别(默认的过滤设置)或Filter对象来决定要对哪些日志进行后续处理;
- 将日志消息传送给所有感兴趣的日志Handler;
Logger对象最常用的方法分为两类:配置方法和消息发送方法
方法 | 描述 |
---|---|
Logger.setLevel() | 设置日志器将会处理的日志消息的最低严重级别 |
Logger.addHandler()和Logger.removeHandler() | 为该Logger对象添加和移除一个handler对象 |
Logger.addFilter()和Logger.removeFilter() | 为该Logger对象添加和移除一个filter对象 |
关于Logger.setLevel()方法的说明:内建等级中,级别最低的是DEBUG,级别最高的是CRITICAL。例如:setLevel(logging.INFO),此时函数参数为INFO,那么该logger将只会处理INFO、WARNING、ERROR和CRITICAL级别的日志,而DEBUG级别的消息将会被忽略/丢弃。
logger对象配置完成之后,可以使用下面的方法来创建日志记录:
方法 | 描述 |
---|---|
Logger.debug(),Logger.info(),Logger.warning(),Logger.error(),Logger.critical() | 创建一个它们的方法名对应等级的日志记录 |
Logger.exception() | 创建一个类似于Logger.error()的日志消息 |
Logger.log() | 需要获取一个明确的日志level参数来创建一个日志记录 |
- Logger.exception()与Logger.error()的区别在于:Logger.exception()将会输出堆栈追踪信息,另外通常只是在一个exception handler中调用该方法;
- Logger.log()与Logger.debug()、Logger.info()等方法相比,虽然需要多传一个level参数,显得不那么方便,但是当需要记录自定义level的日志时,还是需要该方法来完成。
那么,如何得到一个Logger对象呢?一种方式是通过Logger类的实例化方法创建一个Logger类的实例,但是我们通常都是用第二种方式-----logging.getLogger()方法。logging.getLogger()方法有一个可选参数name,该参数表示将要返回的日志器的名称标识,如果不提供该参数,则其值为"root"。若以相同的name参数值多次调用getLogger()方法,将会返回指向同一个logger对象的引用。
关于logger的层级结构与有效等级的说明:
- logger的名称是一个以"."分割的层级结构,每个"."后面的logger都是"."前面的logger的children,例如:有一个名称为foo的logger,其它名称分别为foo.bar,foo.bar.baz和foo.bam都是foo的后代;
- logger有一个"有效等级(effective level)"的概念。如果一个logger上没有被明确设置一个level,那么该logger就是使用它parent的level;如果它的parent也没有明确设置level,则继续向上查找parent的parent的有效level,以此类推,直到找到一个明确设置了level的祖先为止。需要说明的是,root logger总是会有一个明确的level设置(默认为WARNING)。当决定是否去处理一个已发生的事件时,logger的有效等级将会被用来决定是否将该事件传递给该logger的handlers进行处理;
- child loggers在完成对日志消息的处理后,默认会将日志消息传递给与它们的祖先loggers相关的handlers。因此,我们不必为一个应用程序中所使用的所有loggers定义和配置handlers,只需要为一个顶层的logger配置handlers,然后按照需要创建child loggers就足够了。我们也可以通过将一个logger的propagate属性设置为False来关闭这种传递机制。
Handler类,Handler对象的作用是(基于日志消息的level)将消息分发到handler制定的位置(文件、网络、邮件等)。Logger对象可以通过addHandler()方法为自己添加0个或多个handler对象,比如:一个应用程序可能想要实现以下几个日志需求:
- 把所有日志都发送到一个日志文件中;
- 把所有严重级别大于等于error的日志发送到stdout(标准输出);
- 把所有严重级别为critical的日志发送到一个email邮件地址;
这种场景就需要3个不同的handlers,每个handler分别发送一个特定严重级别的日志到一个特定位置。
一个handler中只有非常少数的方法是需要应用开发人员去关系的,对于使用内建handler对象的应用开发人员来说,似乎唯一相关的handler方法就是下面这几个配置方法:
方法 | 描述 |
---|---|
Handler.setLevel() | 设置Handler将会处理的日志消息的最低严重级别 |
Handler.setFormatter() | 为Handler设置一个格式器对象 |
Handler.addFilter()和Handler.removeFilter() | 为Handler添加和删除一个过滤器对象 |
需要说明的是,应用程序代码不应该直接实例化和使用Handler实例。因为Handler是一个基类,它只定义了所有handlers都应该有的接口,同时提供了一些子类可以直接使用或覆盖的默认行为。下面是一些常用的Handler:
Handler | 描述 |
---|---|
logging.StreamHandler | 将日志消息发送到Stream,如stdout、stderr或任何file-like对象 |
logging.FileHandler | 将日志消息发送到磁盘文件,默认情况下文件大小会无限增长 |
logging.handlers.RotatingFileHandler | 将日志消息发送到磁盘文件,并支持日志文件按大小切割 |
logging.handlers.TimeRotatingFileHandler | 将日志消息发送到磁盘文件,并支持日志文件按时间切割 |
logging.handlers.HTTPHandler | 将日志消息以GET或POST的方式发送给一个HTTP服务器 |
logging.handlers.SMTPHandler | 将日志消息发送给一个指定email的地址 |
logging.NullHandler | 该Handler实例会忽略error messages,通常被想使用logging的library开发者用来避免"No handlers could be found for logger xxx"信息的出现 |
Formatter类,Formatter对象用于配置日志信息的最终顺序、结构和内容。与logging.Handler基类不同的是,应用代码可以直接实例化Formatter类,另外,如果应用程序需要一些特殊的处理行为,也可以实现一个Formatter的子类来完成。Formatter类的构造方法定义如下:
logging.Formatter.__init__(fmt=None, datefmt=None, style="%")
可见,该构造方法接收3个可选参数:
- fmt:指定消息格式字符串,如果不指定该参数,则默认使用message的原始值;
- datefmt:指定日期格式字符串,如果不指定该参数,则默认是用"%Y-%m-%d %H:%M:%S";
- style:Python 3.2新增的参数,可取值为"%", "{"和 "$",如果不指定该参数则默认使用"%";
Filter类,Filter可以被Handler和Logger用来做比level更细粒度的、更复杂的过滤功能。Filter是一个过滤器基类,它允许某个logger层级下的日志事件通过过滤,该类定义如下:
class logging.Filter(name="")
filter(record)
比如,一个filer实例化时传递的name参数值为"A.B",那么该filter实例将只允许名称为类似如下规则的loggers产生的日志记录通过过滤器:"A.B","A.B.C","A.B.C.D","A.B.D",而名称为"A.BB","B.A.B"的loggers产生的日志则会被过滤掉。如果name的值为空字符串,则允许所有的日志事件通过过滤器。
filter方法用于具体控制传递的record记录是否能通过过滤器,如果该方法返回值为0表示不能通过过滤器,返回值为非0表示可以通过过滤器。
- 如果有需要,也可以在filter(record)方法内部改变record,比如:添加、删除或修改一些属性;
- 我们还可以通过filter做一些统计工作,比如:可以计算下被一个特殊的logger或handler所处理的record数量等;
3.logging日志流处理流程
下图描述了日志流的处理流程:
我们来描述下上面这个图的日志流处理流程:
- (1)在用户代码进行日志记录函数调用,如:logger.info(...),logging.debug(...)等;
- (2)判断要记录的日志级别是否满足日志器设置的级别要求(要记录的日志级别要大于等于日志器设置的级别才算满足要求),如果不满足则该日志记录会被丢弃并终止后续的操作,如果满足则继续下一步操作;
- (3)根据日志记录函数调用时传入的参数,创建一个日志记录(LogRecord类)对象;
- (4)判断日志记录器上设置的过滤器是否拒绝这条日志记录,如果日志记录器上的某个过滤器拒绝,则该日志记录会被丢弃并终止后续的操作,如果日志记录器上设置的过滤器没有拒绝这条日志记录或者日志记录器上没有设置过滤器,则继续下一步操作---将日志记录分别交给该日志器上添加的各个处理器;
- (5)判断要记录的日志级别是否满足处理器设置的级别要求(要记录的日志级别要大于等于该处理器设置的日志级别才算满足要求),如果不满足,记录将会被该处理器丢弃并终止后续的操作,如果满足则继续下一步操作;
- (6)判断该处理器上设置的过滤器是否拒绝这条日志记录,如果该处理器上的某个过滤器拒绝,则该日志记录会被当前处理器丢弃并终止后续的操作,如果当前处理器上设置的过滤器没有拒绝这条日志记录或当前处理器上没有设置过滤器测继续下一步操作;
- (7)如果能到这一步,说明这条日志记录经过了层层关卡允许被输出了,此时当前处理器会根据自身设置的格式器(如果没有设置则使用默认格式)将这条日志记录进行格式化,最后将格式化后的结果输出到指定位置(文件、网络、类文件的Stream等);
- (8)如果日志器被设置了多个处理器的话,上面的第5-8步会执行多次;
- (9)这里才是完整流程的最后一步:判断该日志器输出的日志消息是否需要传递给上一级logger(前面提到过,日志器是有层级关系的)的处理器,如果propagate属性值为1则表示日志消息将会被输出到处理器指定的位置,同时还会被传递给parent日志器的handlers进行处理,直到当前日志器的propagate属性值为0停止,如果propagate值为0,则表示不向parent日志器的handlers传递该消息,到此结束。
可见,一条日志信息要想被最终输出需要依次经过以下几次过滤:
- 日志器级别过滤;
- 日志器的过滤器过滤;
- 日志器的处理器级别过滤;
- 日志器的处理器的过滤器过滤;
需要说明的是:关于上面第9个步骤,如果propagate值为1,那么日志消息会直接传递交给上一级logger的handlers进行处理,此时上一级的logger的日志级别并不会对该日志消息等级过滤。
五、logging模块组件使用
现在,我们对logging模块的重要组件及整个日志流处理流程都有了一个比较全面的了解,下面我们来看一个例子:
1.需求
现在有以下几个日志记录的需求:
- 要求将所有级别的所有日志都写入磁盘文件;
- all.log文件中记录所有的日志信息,日志格式为:日期和时间 - 日志级别 - 日志信息;
- error.log文件中单独记录error及以上级别的日志信息,日志格式为:日期和时间 - 日志级别 - 文件名[行号] - 日志信息;
- 要求all.log在每天凌晨进行日志切割;
2.分析
- 要记录所有级别的日志,因此日志器的有效level需要设置为最低级别----DEBUG;
- 日志需要被发送到两个不同的目的地,因此需要为日志器设置两个handler;另外,两个目的地都是磁盘文件,因此这两个handler都是与FileHandler相关的;
- all.log要求按照时间进行日志切割,因此它需要用logging.handlers.TimeRotatingFileHandler;而error.log没有要求日志切割,因此可以使用FileHandler;
- 两个日志文件格式不同,因此需要对这两个handler分别设置格式器;
3.实现代码
import logging.handlers
import datetime
logger = logging.getLogger("mylogger")
logger.setLevel(logging.DEBUG)
rf_handler = logging.handlers.TimedRotatingFileHandler("all.log", when="midnight",interval=1,
backupCount=7, atTime=datetime.time(0, 0, 0, 0))
rf_handler.setFormatter(logging.Formatter("%(asctime)s - %(levelname)s - %(message)s"))
f_handler = logging.FileHandler("error.log")
f_handler.setLevel(logging.ERROR)
f_handler.setFormatter(logging.Formatter("%(asctime)s - %(levelname)s - %(filename)s[:%(lineno)d] - %(message)s"))
logger.addHandler(rf_handler)
logger.addHandler(f_handler)
logger.debug("debug message")
logger.info("info message")
logger.warning("warning message")
logger.error("error message")
logger.critical("critical message")
运行以上的代码,all.log文件输出内容:
2018-05-05 23:23:53,716 - DEBUG - debug message
2018-05-05 23:23:53,717 - INFO - info message
2018-05-05 23:23:53,717 - WARNING - warning message
2018-05-05 23:23:53,717 - ERROR - error message
2018-05-05 23:23:53,717 - CRITICAL - critical message
运行以上代码,error.log文件输出内容:
2018-05-05 23:23:53,717 - ERROR - logging module.py[:45] - error message
2018-05-05 23:23:53,717 - CRITICAL - logging module.py[:46] - critical message
六、logging配置方式
作为开发者,我们可以通过以下三种方式来配置logging:
- 使用Python代码显式的创建loggers,handlers和formatters并分别调用它们的配置函数;
- 创建一个日志配置文件,然后使用fileConfig()函数来读取该文件的内容;
- 创建一个包含配置信息的dict,然后把它传递给dictConfig()函数;
具体参考Python配置日志的几种方式
七、日志输出中添加上下文信息
除了传递给日志记录函数的参数外,有时候我们还想在日志输出中包含一些额外的上下文信息。比如,在一个网络应用中,可能希望在日志中记录客户端的特定信息,如:远程客户端的IP地址和用户名,这里我们来介绍以下几种实现方式:
- 通过向日志记录函数传递一个extra参数引入上下文信息;
- 使用LoggerAdapters引入上下文信息;
- 使用Filters引入上下文信息;