Python的垃圾回收机制

Python垃圾回收机制原理理解

现在的高级语言如java，c#等，都采用了垃圾收集机制，而不再是c，c++里用户自己管理维护内存的方式。自己管理内存极其自由，可以任意申请内存，但如同一把剑，为大量内存泄露，悬空指针等bug埋下隐患。

对于一个字符串、列表、类甚至数值都是对象，且定位简单易用的语言，自然不会让用户去处理如何分配回收内存的问题。 python里也同java一样采用了垃圾收集机制，不过不一样的是，python采用的是引用计数机制为主，标记-清除和分代收集两种机制为辅的策略。引用计数机制： python里每一个东西都是对象，它们的核心就是一个结构体：PyObject

       typedef struct_object {
            int ob_refcnt;
            struct_typeobject *ob_type;
        }PyObject;

PyObject是每个对象必有的内容，其中ob_refcnt就是做为引用计数。当一个对象有新的引用时，它的ob_refcnt就会增加，当引用它的对象被删除，它的ob_refcnt就会减少

 ** #define Py_INCREF(op)   ((op)->ob_refcnt++)          //增加计数**

 **define Py_DECREF(op)                             //减少计数       **

     if (--(op)->ob_refcnt != 0)    \

         ;        \

     else         \

         __Py_Dealloc((PyObject *)(op))

引用计数为0时，该对象生命就结束了。
引用计数机制的优点：
1、简单
2、实时性：一旦没有引用，内存就直接释放了。不用像其他机制等到特定时机。实时性还带来一个好处：处理回收内存的时间分摊到了平时。
引用计数机制的缺点：
1、维护引用计数消耗资源
2、循环引用

list1 = []
list2 = []
list1.append(list2)

list2.append(list1) ， list1与list2相互引用，如果不存在其他对象对它们的引用，list1与list2的引用计数也仍然为1，所占用的内存永远无法被回收，这将是致命的。
对于如今的强大硬件，缺点1尚可接受，但是循环引用导致内存泄露，注定python还将引入新的回收机制。

上面说到python里回收机制是以引用计数为主，标记-清除和分代收集两种机制为辅。

1、标记-清除机制

标记-清除机制，顾名思义，首先标记对象（垃圾检测），然后清除垃圾（垃圾回收）。如图1：

这里写图片描述

首先初始所有对象标记为白色，并确定根节点对象（这些对象是不会被删除），标记它们为黑色（表示对象有效）。将有效对象引用的对象标记为灰色（表示对象可达，

但它们所引用的对象还没检查），检查完灰色对象引用的对象后，将灰色标记为黑色。重复直到不存在灰色节点为止。最后白色结点都是需要清除的对象。

2、回收对象的组织

这里所采用的高级机制作为引用计数的辅助机制，用于解决产生的循环引用问题。而循环引用只会出现在“内部存在可以对其他对象引用的对象”，比如：list，class等。

为了要将这些回收对象组织起来，需要建立一个链表。自然，每个被收集的对象内就需要多提供一些信息，下面代码是回收对象里必然出现的。

一个对象的实际结构如图2：

这里写图片描述

通过PyGC_Head的指针将每个回收对象连接起来，形成了一个链表，也就是在1里提到的初始化的所有对象。

3、分代技术

分代技术是一种典型的以空间换时间的技术，这也正是java里的关键技术。这种思想简单点说就是：对象存在时间越长，越可能不是垃圾，应该越少去收集。

这样的思想，可以减少标记-清除机制所带来的额外操作。分代就是将回收对象分成数个代，每个代就是一个链表（集合），代进行标记-清除的时间与代内对象

存活时间成正比例关系。

从上面代码可以看出python里一共有三代，每个代的threshold值表示该代最多容纳对象的个数。默认情况下，当0代超过700,或1，2代超过10，垃圾回收机制将触发。

0代触发将清理所有三代，1代触发会清理1,2代，2代触发后只会清理自己。

下面是一个完整的收集流程：链表建立，确定根节点，垃圾标记，垃圾回收~

1、链表建立
首先，中里在分代技术说过：0代触发将清理所有三代，1代触发会清理1,2代，2代触发后只会清理自己。在清理0代时，会将三个链表（代）链接起来，清理1代的时，会链接1,2两代。在后面三步，都是针对的这个建立之后的链表。

2、确定根节点
图1为一个例子。list1与list2循环引用，list3与list4循环引用。a是一个外部引用。

这里写图片描述

对于这样一个链表，我们如何得出根节点呢。python里是在引用计数的基础上又提出一个有效引用计数的概念。顾名思义，有效引用计数就是去除循环引用后的计数。

Python垃圾回收机制实际应用

一、引用计数机制

Python中的垃圾回收是以引用计数为主，分代收集为辅。引用计数的缺陷是循环引用的问题。
在Python中，如果一个对象的引用数为0，Python虚拟机就会回收这个对象的内存。

# -*- coding: utf-8 -*-
'''
# @Datetime: 2019/02/13
# @author: Zhang Yafei
'''

class ClassA():
    def __init__(self):
        print('object born,id:%s'%str(hex(id(self))))
    def __del__(self):
        print('object del,id:%s'%str(hex(id(self))))

def f1():
    while True:
        c1 = ClassA()
        del c1

if __name__ == "__main__":
    f1()

# 输出
# object born,id:0x38f0c785f8
# object del,id:0x38f0c785f8
# object born,id:0x38f0c785f8
# object del,id:0x38f0c785f8
# object born,id:0x38f0c785f8
# object del,id:0x38f0c785f8
# object born,id:0x38f0c785f8
# object del,id:0x38f0c785f8
# object born,id:0x38f0c785f8
# object del,id:0x38f0c785f8
# object born,id:0x38f0c785f8

c1=ClassA()会创建一个对象，放在0x237cf58内存中，c1变量指向这个内存，这时候这个内存的引用计数是1
del c1后，c1变量不再指向0x237cf58内存，所以这块内存的引用计数减一，等于0，所以就销毁了这个对象，然后释放内存。

导致引用计数+1的情况

对象被创建，例如a=23
对象被引用，例如b=a
对象被作为参数，传入到一个函数中，例如func(a)
对象作为一个元素，存储在容器中，例如list1=[a,a]

导致引用计数-1的情况

对象的别名被显式销毁，例如del a
对象的别名被赋予新的对象，例如a=24
一个对象离开它的作用域，例如f函数执行完毕时，func函数中的局部变量（全局变量不会）
对象所在的容器被销毁，或从容器中删除对象

垃圾回收

当内存中有不再使用的部分时，垃圾收集器就会把他们清理掉。它会去检查那些引用计数为0的对象，然后清除其在内存的空间。当然除了引用计数为0的会被清除，还有一种情况也会被垃圾收集器清掉：当两个对象相互引用时，他们本身其他的引用已经为0了。
垃圾回收机制还有一个循环垃圾回收器, 确保释放循环引用对象(a引用b, b引用a, 导致其引用计数永远不为0)。

示例

# -*- coding: utf-8 -*-
'''
# @Datetime: 2019/02/13
# @author: Zhang Yafei
'''
import sys

def func(c):
    print('in func function', sys.getrefcount(c) - 1)


print('init', sys.getrefcount(11) - 1)
a = 11
print('after a=11', sys.getrefcount(11) - 1)
b = a
print('after b=1', sys.getrefcount(11) - 1)
func(11)
print('after func(a)', sys.getrefcount(11) - 1)
list1 = [a, 12, 14]
print('after list1=[a,12,14]', sys.getrefcount(11) - 1)
a=12
print('after a=12', sys.getrefcount(11) - 1)
del a
print('after del a', sys.getrefcount(11) - 1)
del b
print('after del b', sys.getrefcount(11) - 1)
# list1.pop(0)
# print 'after pop list1',sys.getrefcount(11)-1
del list1
print('after del list1', sys.getrefcount(11) - 1)

# init 32
# after a=11 33
# after b=1 34
# in func function 36
# after func(a) 34
# after list1=[a,12,14] 35
# after a=12 34
# after del a 34
# after del b 33
# after del list1 32

问题：为什么调用函数会令引用计数+2

查看一个对象的引用计数

sys.getrefcount(a)可以查看a对象的引用计数，但是比正常计数大1，因为调用函数的时候传入a，这会让a的引用计数+1

二.循环引用导致内存泄露

import gc

class Test(object):
	def __init__(self):
		print('object born,id:%s'%str(hex(id(self))))


def f2():
	while True:
		c1 = Test()
		c2 = Test()
		c1.t = c2
		c2.t = c1
		del c1
		del c2
		# gc.collect()

# gc.disable()
f2()

执行f2()，进程占用的内存会不断增大。

object born,id:0x237cf30
object born,id:0x237cf58

创建了c1，c2后，0x237cf30（c1对应的内存，记为内存1）,0x237cf58（c2对应的内存，记为内存2）这两块内存的引用计数都是1，执行c1.t=c2和c2.t=c1后，这两块内存的引用计数变成2.
在del c1后，内存1的对象的引用计数变为1，由于不是为0，所以内存1的对象不会被销毁，所以内存2的对象的引用数依然是2，在del c2后，同理，内存1的对象，内存2的对象的引用数都是1。
虽然它们两个的对象都是可以被销毁的，但是由于循环引用，导致垃圾回收器都不会回收它们，所以就会导致内存泄露。

三.垃圾回收

# -*- coding: utf-8 -*-
'''
# @Datetime: 2019/02/13
# @author: Zhang Yafei
'''
import gc
import time

class Test(object):
	def __init__(self):
		print('object born,id:%s'%str(hex(id(self))))


def func():
    # print(gc.collect())
    c1=Test()
    c2=Test()
    c1.t=c2
    c2.t=c1
    del c1
    del c2
    print(gc.garbage)
    print(gc.collect()) #显式执行垃圾回收
    print(gc.garbage)


if __name__ == '__main__':
    gc.set_debug(gc.DEBUG_LEAK) #设置gc模块的日志
    func()

输出：

# object born,id:0xd02c0d9da0
# object born,id:0xd02c0d9e48
# []
# gc: collectable <Test 0x000000D02C0D9DA0>
# gc: collectable <Test 0x000000D02C0D9E48>
# gc: collectable <dict 0x000000D02BE53CA8>
# gc: collectable <dict 0x000000D02BE53EA0>
# gc: collectable <type 0x000000D02A2504B8>
# gc: collectable <tuple 0x000000D02C05D848>
# gc: collectable <type 0x000000D02A24ECB8>
# gc: collectable <tuple 0x000000D02C05D8C8>
# gc: collectable <type 0x000000D02A276948>
# gc: collectable <tuple 0x000000D02C05D908>
# gc: collectable <dict 0x000000D02C05E360>
# gc: collectable <dict 0x000000D02C05E438>
# gc: collectable <dict 0x000000D02C05E510>
# gc: collectable <function 0x000000D02C062D08>
# gc: collectable <function 0x000000D02C062D90>
# gc: collectable <function 0x000000D02C062E18>
# gc: collectable <function 0x000000D02C062EA0>
# gc: collectable <member_descriptor 0x000000D02C05E3A8>
# gc: collectable <member_descriptor 0x000000D02C05E3F0>
# gc: collectable <function 0x000000D02C062F28>
# gc: collectable <function 0x000000D02C063048>
# gc: collectable <function 0x000000D02C0630D0>
# gc: collectable <function 0x000000D02C063158>
# gc: collectable <member_descriptor 0x000000D02C05E480>
# gc: collectable <member_descriptor 0x000000D02C05E4C8>
# gc: collectable <function 0x000000D02C0631E0>
# gc: collectable <function 0x000000D02C063268>
# gc: collectable <function 0x000000D02C0632F0>
# gc: collectable <function 0x000000D02C063378>
# gc: collectable <member_descriptor 0x000000D02C05E5A0>
# gc: collectable <member_descriptor 0x000000D02C05E5E8>
# gc: collectable <member_descriptor 0x000000D02C05E630>
# 32
...

垃圾回收后的对象会放在gc.garbage列表里面
gc.collect()会返回不可达的对象数目，32等于两个对象以及它们对应的dict
有三种情况会触发垃圾回收：
1.调用gc.collect(),
2.当gc模块的计数器达到阀值的时候。
3.程序退出的时候

四.gc模块常用功能解析

Garbage Collector interface
gc模块提供一个接口给开发者设置垃圾回收的选项。上面说到，采用引用计数的方法管理内存的一个缺陷是循环引用，而gc模块的一个主要功能就是解决循环引用的问题。

常用函数：

gc.set_debug(flags)
设置gc的debug日志，一般设置为gc.DEBUG_LEAK
gc.collect([generation])
显式进行垃圾回收，可以输入参数，0代表只检查第一代的对象，1代表检查一，二代的对象，2代表检查一，二，三代的对象，如果不传参数，执行一个full collection，也就是等于传2。
返回不可达（unreachable objects）对象的数目
gc.set_threshold(threshold0[, threshold1[, threshold2])
设置自动执行垃圾回收的频率。
gc.get_count()
获取当前自动执行垃圾回收的计数器，返回一个长度为3的列表

gc模块的自动垃圾回收机制

必须要import gc模块，并且is_enable()=True才会启动自动垃圾回收。
这个机制的主要作用就是发现并处理不可达的垃圾对象。
垃圾回收=垃圾检查+垃圾回收
在Python中，采用分代收集的方法。把对象分为三代，一开始，对象在创建的时候，放在一代中，如果在一次一代的垃圾检查中，改对象存活下来，就会被放到二代中，同理在一次二代的垃圾检查中，该对象存活下来，就会被放到三代中。

gc模块里面会有一个长度为3的列表的计数器，可以通过gc.get_count()获取。
例如(488,3,0)，其中488是指距离上一次一代垃圾检查，Python分配内存的数目减去释放内存的数目，注意是内存分配，而不是引用计数的增加。例如：

# -*- coding: utf-8 -*-
'''
# @Datetime: 2019/02/13
# @author: Zhang Yafei
'''
import gc

class Test(object):
	def __init__(self):
		print('object born,id:%s'%str(hex(id(self))))


print(gc.get_count()) # (393, 4, 1)
a = Test()
print(gc.get_count())  # (395, 4, 1)
del a
print(gc.get_count())  # (394, 4, 1)

4是指距离上一次二代垃圾检查，一代垃圾检查的次数，同理，1是指距离上一次三代垃圾检查，二代垃圾检查的次数。

gc模快有一个自动垃圾回收的阀值，即通过gc.get_threshold函数获取到的长度为3的元组，例如(700,10,10)
每一次计数器的增加，gc模块就会检查增加后的计数是否达到阀值的数目，如果是，就会执行对应的代数的垃圾检查，然后重置计数器
例如，假设阀值是(700,10,10)：

当计数器从(699,3,0)增加到(700,3,0)，gc模块就会执行gc.collect(0),即检查一代对象的垃圾，并重置计数器为(0,4,0)
当计数器从(699,9,0)增加到(700,9,0)，gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾，并重置计数器为(0,0,1)
当计数器从(699,9,9)增加到(700,9,9)，gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾，并重置计数器为(0,0,0)

其他

如果循环引用中，两个对象都定义了__del__方法，gc模块不会销毁这些不可达对象，因为gc模块不知道应该先调用哪个对象的__del__方法，所以为了安全起见，gc模块会把对象放到gc.garbage中，但是不会销毁对象。

五.应用

项目中避免循环引用
引入gc模块，启动gc模块的自动清理循环引用的对象机制
由于分代收集，所以把需要长期使用的变量集中管理，并尽快移到二代以后，减少GC检查时的消耗
gc模块唯一处理不了的是循环引用的类都有__del__方法，所以项目中要避免定义__del__方法，如果一定要使用该方法，同时导致了循环引用，需要代码显式调用gc.garbage里面的对象的__del__来打破僵局

参考：https://www.cnblogs.com/pinganzi/p/6646742.html

posted @ 2019-02-13 14:03 DreamBoy_张亚飞阅读(404) 评论(0) 编辑收藏举报

刷新页面返回顶部

超级英雄拯救世界之前成长的日子

Python的垃圾回收机制

Python垃圾回收机制原理理解

1、标记-清除机制

2、回收对象的组织

3、分代技术

Python垃圾回收机制实际应用

一、引用计数机制

二.循环引用导致内存泄露

三.垃圾回收

四.gc模块常用功能解析

常用函数：

gc模块的自动垃圾回收机制

其他

五.应用

公告