python是如何进行内存管理的
一、python内存管理
这个问题需要从三个方面来说:
1)对象的引用计数机制(四增五减)
2)垃圾回收机制(手动自动,分代回收)
3)内存池机制(大m小p)
1)对象的引用计数机制
要保持追踪内存中的对象,Python使用了引用计数这一简单的技术。sys.getrefcount(a)可以查看a对象的引用计数,但是比正常计数大1,因为调用函数的时候传入a,这会让a的引用计数+1
a)增加引用计数
- 对象被创建:x = 3.14
- 另外的别名被创建:y = x
- 对象被作为参数传递给函数(新的本地引用):foobar(x)
- 对象成为容器对象的一个元素:myList = [123, x, 'xyz']
b)减少引用计数
-
- 对象的一个别名被赋值给其他对象:x = 123
- 对象的别名被显式销毁:del y
- 一个本地引用离开了其作用范围。如fooc()函数结束时,func函数中的局部变量(全局变量不会)
- 对象被从一个窗口对象中移除:myList.remove(x)
- 窗口对象本身被销毁:del myList
c)引用计数例子,加深理解
id()获取对象的内存地址
在Python中,整数和短小的字符,Python都会缓存这些对象,以便重复使用。当我们创建多个等于1的引用时,实际上是让所有这些引用指向同一个对象
#is用于判断两个引用所指的对象是否相同。 a = 1 b = 1 a is b #True print(id(a)) #505348560 print(id(b)) #505348560 a = 'good' b = 'good' a is b #True
让我们来看看较长的字符串:
a = "very good morning" b = "very good morning" id(a) #57960680 id(b) #57960968 a is b #False
sys.getrefcount()来获取对象的引用计数:
import sys a = [1 ,2, 3] print( sys.getrefcount(a) ) #2 b = a print( sys.getrefcount(a) ) #3
2)垃圾回收机制
吃太多,总会变胖,Python也是这样。当Python中的对象越来越多,它们将占据越来越大的内存。不过你不用太担心Python的体形,它会在适当的时候“减肥”,启动垃圾回收(garbage collection),将没用的对象清除
从基本原理上,当Python的某个对象的引用计数降为0时,说明没有任何引用指向该对象,该对象就成为要被回收的垃圾了
比如某个新建对象,它被分配给某个引用,对象的引用计数变为1。如果引用被删除,对象的引用计数为0,那么该对象就可以被垃圾回收。比如下面的表
a = [1, 2, 3] sys.getrefcount(a) #2 del a
del a后,已经没有任何引用指向之前建立的[1, 2, 3]这个表。这个对象如果继续待在内存里,就成了不健康的脂肪。当垃圾回收启动时,Python扫描到这个引用计数为0的对象,就将它所占据的内存清空
然而,减肥是个昂贵而费力的事情。垃圾回收时,Python不能进行其它的任务。频繁的垃圾回收将大大降低Python的工作效率。如果内存中的对象不多,就没有必要总启动垃圾回收
所以,Python只会在特定条件下,自动启动垃圾回收。当Python运行时,会记录其中分配对象(object allocation)和取消分配对象(object deallocation)的次数。当两者的差值高于某个阈值时,垃圾回收才会启动
我们可以通过gc模块的get_threshold()方法,查看该阈值:
import gc gc.get_threshold() #(700, 10, 10)
返回(700, 10, 10),后面的两个10是与分代回收相关的阈值,后面可以看到。700即是垃圾回收启动的阈值。可以通过gc中的set_threshold()方法重新设置。
我们也可以手动启动垃圾回收,即使用gc.collect()
分代回收:
Python同时采用了分代(generation)回收的策略。这一策略的基本假设是,存活时间越久的对象,越不可能在后面的程序中变成垃圾。
我们的程序往往会产生大量的对象,许多对象很快产生和消失,但也有一些对象长期被使用。出于信任和效率,对于这样一些“长寿”对象,我们相信它们的用处,所以减少在垃圾回收中扫描它们的频率
Python将所有的对象分为0,1,2三代。所有的新建对象都是0代对象。当某一代对象经历过垃圾回收,依然存活,那么它就被归入下一代对象。垃圾回收启动时,一定会扫描所有的0代对象
如果0代经过一定次数垃圾回收,那么就启动对0代和1代的扫描清理。当1代也经历了一定次数的垃圾回收后,那么会启动对0,1,2,即对所有对象进行扫描
这两个次数即上面get_threshold()返回的(700, 10, 10)返回的两个10。也就是说,每10次0代垃圾回收,会配合1次1代的垃圾回收;而每10次1代的垃圾回收,才会有1次的2代垃圾回收
同样可以用set_threshold()来调整,比如对2代对象进行更频繁的扫描
import gc gc.set_threshold(700, 10, 5)
3)内存池机制
Python中有分为大内存和小内存:(256K为界限分大小内存)
1、大内存使用malloc进行分配
2、小内存使用内存池进行分配
python中的内存管理机制都有两套实现,一套是针对小对象,就是大小小于256K时,pymalloc会在内存池中申请内存空间;当大于256K时,则会直接执行系统的malloc的行为来申请内存空间