Python内存管理&垃圾回收机制
Python以引用计数器为主,标记清除与分代回收为辅+缓存机制来进行内存管理和垃圾回收
1.引用计数器
1.1 环状双向链表(refchain)
Python中创建的任何对象都会放在refchain中
eg:
name = 'ty' # 内部会创建一个结构体(上一个对象,下一个对象,类型,引用个数)
new = name # 此时'ty'结构体中的引用个数为2
age = 18 # 内部创建一个结构体(上一个对象,下一个对象,类型,引用个数,val = 18)
hobby = ['美女', '跑步'] # 内部创建一个结构体(上一个对象,下一个对象,类型,引用个数,元素个数,items = 元素)
1.1.1 c源码中如何体现每个对象中都有相同的值:PyObject结构体(4个值)
如何体现由多个元素组成的对象: PyObject结构体(4个值)+ob_size(元素个数)
1.2 类型封装结构体
eg
data = 3.14
内部创建:
_ob_prev = refchain中上一个对象
_obj_next = refchain中下一个对象
_ob_refcnt = 1 # 引用计数器
_ob_type = float
_ob_fval = 3.14
1.3 引用计数器
v1 = 3.14
v2 = 999
v3 = (1, 2, 3)
当Python运行时,会根据数据类型的不同找到其对应的结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain双向链表中。
在源码中有两个关键的结构体:PyObject(公共的值) & PyVarObject(多个元素组成时公共的值)。
每个对象中的ob_refcnt就是引用计数器,值默认为1,当有其他变量时,引用对象的引用计数器就会发生变化(+1)
eg
引用:
a = 9999
b = a # 此时ob_refcnt = 2
删除引用:
a = 9999
b = a
del b # b变量删除;对应对象引用计数器-1
del a # a变量删除;对应对象引用计数器-1
当ob_refcnt为0时,意味着没有人使用此对象了,这个对象就是垃圾,进行垃圾回收
问题:如何进行垃圾回收?
1.对象从refchain链表中移除。
2.将对象从内存中销毁,内存归还给操作系统。
1.4循环引用&交叉感染
-仅仅用ob_refcnt就会出现这个问题
此时v1,v2的引用计数器都为1,所以两个对象都无法从内存中消除
为了解决这个问题所以引入了标记清除
2.标记清除
目的:解决引用计数器循环引用的不足
实现:Python的底层再维护一个链表,链表中专门存放那些可能存在循环引用的对象(list/dict/set/tuple)
Python内部,某种情况下触发,会去扫描可能存在循环引用的链表中的每一个元素(元素的子元素也被扫描),检查是否有循环引用,若
有,让双方的引用计数器-1,若是0则垃圾回收。
问题:什么时候扫描?
可能存在循环引用的链表扫描代价太大,每次扫描耗时太久
引入分代回收
3.分代回收
将可能存在循环引用的对象维护成3个链表
0代:0代中对象个数达到700时扫描一次。
1代:0代扫描10次,则1代扫描一次。
2代:1代扫描10次,则2代扫描一次。
将不是垃圾的对象向上升代,否则剔除。
4.小结
在Python中维护了一个refchain的双向环状链表,这个链表中存储程序创建的所有对象,每种类型的对象中都有一个ob_refcnt引用计数器的值,引用个数+1,-1,最后当引用计数器变为0时会进行垃圾回收(refchain中移除,对象销毁)。
但是,在Python中对于那些可以有多个元素组成的对象,可能会存在循环引用的问题,为了解决这个问题Python又引入了标记清除和分代回收,在其内部维护4个链表。
refchain
2代,10次
1代,10次
0代,700个
在源码内部当达到各自的阈值时,就会触发扫描链表进行标记清除的动作(有循环则各自-1)
但是,源码内部在上述的流程中提出了优化机制
5.Python缓存
5.1小整数池(int)
为了避免重复创建和销毁一些常见对象,Python维护了一个小整数池。
# 启动解释器时,Python内部自动帮我们创建: -5,-4... ... ...256
v1 = 7 # 内部不会开辟内存,直接去池中获取
v2 = 9 # 内部不会开辟内存,直接去池中获取
v3 = 9 # 内部不会开辟内存,直接去池中获取
>>> a = -7 # 申请新的内存空间然后和a做了链接 >>> b = -7 # 申请新的内存空间然后和b做了链接 >>> id(a) 2641354146864 >>> id(b) 2641354146736 >>> c = 1 # 直接去小整数池获取1然后和c做了链接 >>> d = 1 # 直接去小整数池获取1然后和d做了链接 >>> id(c) 140729391808784 >>> id(d) 140729391808784
使用控制台做上面的操作才可以,在Pycharm中你会发现a = -7; b = -7 id没有改变,这是为什么呢?这是因为Pycharm把Python原本的小整数池扩大了,那么我们应该用那种标准来看,答案是应该按照原生的Python解释器来看,因为Pycharm只是用来写程序的,最后程序运行的时候不依靠Pycharm,而是Python解释器。
5.2 free_list (float/list/tuple/dict)
当一个对象的引用计数器为0时,按理说应该回收,但内部不会直接回收,而是将对象添加到free_list链表中当缓存。以后再去创建对象时,不再重新开辟内存,而是直接使用free_list。
eg:
v1 = 3.14 # 开辟内存,内部存储结构中定义那几个值,并存到refchain中
del v1 # refchain中移除,将对象添加到 free_list 中(80个),free_list满了则销毁。
v9 = 999.99 # 不会重新开辟内存,而是去free_list中获取对象,对象内部数据初始化,再放到refchain中。