Python中的猴子补丁，内置函数，垃圾回收机制，并发的概念

大巧若拙，大辩若讷。 ——《道德经》

真正灵巧优美的东西应是不作修饰的，真正的巧不在于违背自然的规律去卖弄自己的聪明，而在于处处顺应自然的规律。

猴子补丁

一.什么是猴子补丁：

属性在运行时的动态替换，叫做猴子补丁（Monkey Patch）。

二.猴子补丁的核心：

核心就是用自己的代码替换所用模块的源代码

来源解释：

  • 1，这个词原来为Guerrilla Patch，杂牌军、游击队，说明这部分不是原装的，在英文里guerilla发音和gorllia(猩猩)相似，再后来就写了monkey(猴子)。
  • 2，还有一种解释是说由于这种方式将原来的代码弄乱了(messing with it)，在英文里叫monkeying about(顽皮的)，所以叫做Monkey Patch。

三.猴子补丁的功能（一切皆对象）

1.拥有在模块运行时替换的功能

例如: 一个函数对象赋值给另外一个函数对象(把函数原本的执行的功能给替换了)
class Monkey:
    def hello(self):
        print('hello')
    def world(self):
        print('world')
def other_func():
    print("from other_func")

monkey = Monkey()
monkey.hello = monkey.world
monkey.hello()
monkey.world = other_func
monkey.world()

2.monkey patch的应用场景

  • 如果我们的程序中已经基于json模块编写了大量代码了，发现有一个模块ujson比它性能更高，但用法一样，我们肯定==不会想所有的代码都换成ujson.dumps或者ujson.loads,==那我们可能会想到这么做
    import ujson as json
  • 但是这么做的需要每个文件都重新导入一下，维护成本依然很高
    此时我们就可以用到猴子补丁了
    只需要在入口处加上
    只需要在入口加上:
import json
import ujson  # pip3 install ujson

def monkey_patch():
    json.__name__ = ujson.__name__
    json.dumps = ujson.dumps
    json.loads = ujson.loads

内置函数

#注意：内置函数id()可以返回一个对象的身份，返回值为整数。这个整数通常对应与该对象在内存中的位置，但这与python的具体实现有关，不应该作为对身份的定义，即不够精准，最精准的还是以内存地址为准。is运算符用于比较两个对象的身份，等号比较两个对象的值，内置函数type()则返回一个对象的类型

常用内置函数列表：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-PelmpDEq-1597839333458)(C:\Users\Administrator\Desktop\每日笔记\day34\1036857-20170923132347540-1213107296.png)]

常用内置函数功能解析：

abs() #求绝对值：

a=0.57
b=1.77
c=5.0
s=1.568
print(abs(a))   #求绝对值
print(abs(b))
print(abs(c))
print(abs(s))

》》》》》》结果:

0.57
1.77
5.0
1.568

all() :

如果all(x)参数x对象的所有元素不为0、’’、False或者x为空对象，则返回True，否则返回False

传入可迭代对象，取出的每一个值如果为真是True,如果为空就是False

如果可迭代对象是空，结果也是True

意思是：==判断一个tuple或者list，是否全部不为空、0、False。==如果全部不为空、0、False，则返回True；否则（只要有空或0或False）返回False。

注意：空tuple（小括号）和空list（中括号）、空字典dictionary空集合set（大括号）的返回值是True。

代码演示：

print(all([1,2,3,4,5]))  # 列表list，元素都不为空或0。True
print(all(['a','b','c','d',''])) # 列表list，存在一个为空的元素。False
print(all([1,2,3,0,5]))   # 列表list，存在一个为0的元素。False
print(all([1,2,3,False,5]))   # 列表list，存在一个为False的元素。False
print(all((1,2,3,4,5)))  # 元组tuple，元素都不为空或0。True
print(all(('a','b','c','d',''))) # 元组tuple，存在一个为空的元素。False
print(all((1,2,3,0,5)))   # 元组tuple，存在一个为0的元素。False
print(all((1,2,3,False,5)))   # 元组tuple，存在一个为False的元素。False
print(all([])) #空列表。True
print(all(())) #空元组。True
print(all({})) #空集合空字典。True
》》》》》》:
True
False
False
False
True
False
False
False
True
True
True

any() :

any(x)判断x对象是否为空对象，如果都为空、0、false，则返回false，如果不都为空、0、false，则返回true

代码演示：

>>> any('123')
True
>>> any([0,1])
True
>>> any([0,'0',''])
True
>>> any([0,''])
False
>>> any([0,'','false'])
True
>>> any([0,'',bool('false')])
True
>>> any([0,'',False])
False
>>> any(('a','b','c'))
True
>>> any(('a','b',''))
True
>>> any((0,False,''))
False
>>> any([])
False
>>> any(())
False

ascii()

照应ASCII码表去查或者打印：

bin() :

  • 将整数x转换为二进制字符串，如果x不为Python中int类型，x必须包含方法index()并且返回值为integer；
  • 参数x：整数或者包含index()方法切返回值为integer的类型；
print(bin(67))
>>>
0b1000011

bytearray() /bytes（）

详细参考地址：

bytearray() / bytes（

…后面的省略：

实在太多了：可以自行CSON

垃圾回收机制 (gc机制)

一、引入：

解释器在执行到定义变量的语法时，会申请内存空间来存放变量的值，而内存的容量是有限的，这就涉及到变量值所占用内存空间的回收问题，当一个变量值没有用了（简称垃圾）就应该将其占用的内存给回收掉，那什么样的变量值是没有用的呢？

单从逻辑层面分析，我们定义变量将变量值存起来的目的是为了以后取出来使用，而取得变量值需要通过其绑定的直接引用（如x=10，10被x直接引用）或间接引用（如l=[x,]，x=10，10被x直接引用，而被容器类型l间接引用），所以当一个变量值不再绑定任何引用时，我们就无法再访问到该变量值了，该变量值自然就是没有用的，就应该被当成一个垃圾回收。

毫无疑问，内存空间的申请与回收都是非常耗费精力的事情，而且存在很大的危险性，稍有不慎就有可能引发内存溢出问题，好在Cpython解释器提供了自动的垃圾回收机制来帮我们解决了这件事。

二、什么是垃圾回收机制？

垃圾回收机制（简称GC）是Python解释器自带一种机，专门用来回收不可用的变量值所占用的内存空间

三、为什么要用垃圾回收机制？

程序运行过程中会申请大量的内存空间，而对于一些无用的内存空间如果不及时清理的话会导致内存使用殆尽（内存溢出），导致程序崩溃，因此管理内存是一件重要且繁杂的事情，而python解释器自带的垃圾回收机制把程序员从繁杂的内存管理中解放出来。

四、理解GC原理需要储备的知识

4.1、堆区与栈区

在定义变量时，变量名与变量值都是需要存储的，分别对应内存中的两块区域：堆区与栈区。

# 1、变量名与值内存地址的关联关系存放于栈区

# 2、变量值存放于堆区，内存管理回收的则是堆区的内容，

定义了两个变量x = 10、y = 20，详解如下图,

img

当我们执行x=y时，内存中的栈区与堆区变化如下

img

4.2 直接引用与间接引用

直接引用指的是从栈区出发直接引用到的内存地址。

间接引用指的是从栈区出发引用到堆区后，再通过进一步引用才能到达的内存地址。

如

l2 = [20, 30]  # 列表本身被变量名l2直接引用，包含的元素被列表间接引用
x = 10  # 值10被变量名x直接引用
l1 = [x, l2]  # 列表本身被变量名l1直接引用，包含的元素被列表间接引用

图解如下：

img

五、垃圾回收机制原理分析

Python的GC模块主要运用了“引用计数”（reference counting）来跟踪和回收垃圾。在引用计数的基础上，还可以通过“标记-清除”（mark and sweep）解决容器对象可能产生的循环引用的问题，并且通过“分代回收”（generation collection）以空间换取时间的方式来进一步提高垃圾回收的效率。

img

5.1、引用计数

引用计数就是：变量值被变量名关联的次数

如：age=18

变量值18被关联了一个变量名age，称之为引用计数为1

img

引用计数增加：

age=18 （此时，变量值18的引用计数为1）

m=age （把age的内存地址给了m，此时，m,age都关联了18，所以变量值18的引用计数为2）

img

引用计数减少：

age=10（名字age先与值18解除关联，再与3建立了关联，变量值18的引用计数为1）

del m（del的意思是解除变量名x与变量值18的关联关系，此时，变量18的引用计数为0）

img

值18的引用计数一旦变为0，其占用的内存地址就应该被解释器的垃圾回收机制回收

5.2、引用计数的问题与解决方案

img

5.2.1 问题一：循环引用

引用计数机制存在着一个致命的弱点，即循环引用（也称交叉引用）

# 如下我们定义了两个列表，简称列表1与列表2，变量名l1指向列表1，变量名l2指向列表2
>>> l1=['xxx']  # 列表1被引用一次，列表1的引用计数变为1   
>>> l2=['yyy']  # 列表2被引用一次，列表2的引用计数变为1   
>>> l1.append(l2)             # 把列表2追加到l1中作为第二个元素，列表2的引用计数变为2
>>> l2.append(l1)             # 把列表1追加到l2中作为第二个元素，列表1的引用计数变为2

# l1与l2之间有相互引用
# l1 = ['xxx'的内存地址,列表2的内存地址]
# l2 = ['yyy'的内存地址,列表1的内存地址]
>>> l1
['xxx', ['yyy', [...]]]
>>> l2
['yyy', ['xxx', [...]]]
>>> l1[1][1][0]
'xxx'

img

循环引用会导致：值不再被任何名字关联，但是值的引用计数并不会为0，应该被回收但不能被回收，什么意思呢？试想一下，请看如下操作

>>> del l1 # 列表1的引用计数减1，列表1的引用计数变为1
>>> del l2 # 列表2的引用计数减1，列表2的引用计数变为1

此时，只剩下列表1与列表2之间的相互引用

img

但此时两个列表的引用计数均不为0，但两个列表不再被任何其他对象关联，没有任何人可以再引用到它们，所以它俩占用内存空间应该被回收，但由于相互引用的存在，每一个对象的引用计数都不为0，因此这些对象所占用的内存永远不会被释放，所以循环引用是致命的，这与手动进行内存管理所产生的内存泄露毫无区别。 所以Python引入了“标记-清除” 与“分代回收”来分别解决引用计数的循环引用与效率低的问题

img

5.2.2 解决方案：标记-清除

容器对象（比如：list，set，dict，class，instance）都可以包含对其他对象的引用，所以都可能产生循环引用。而“标记-清除”计数就是为了解决循环引用的问题。

标记/清除算法的做法是当应用程序可用的内存空间被耗尽的时，就会停止整个程序，然后进行两项工作，第一项则是标记，第二项则是清除

#1、标记
通俗地讲就是：
栈区相当于“根”，凡是从根出发可以访达（直接或间接引用）的，都称之为“有根之人”，有根之人当活，无根之人当死。

具体地：标记的过程其实就是，遍历所有的GC Roots对象(栈区中的所有内容或者线程都可以作为GC Roots对象），然后将所有GC Roots的对象可以直接或间接访问到的对象标记为存活的对象，其余的均为非存活对象，应该被清除。

#2、清除
清除的过程将遍历堆中所有的对象，将没有标记的对象全部清除掉。

基于上例的循环引用，当我们同时删除l1与l2时，会清理到栈区中l1与l2的内容以及直接引用关系

img

这样在启用标记清除算法时，从栈区出发，没有任何一条直接或间接引用可以访达l1与l2，即l1与l2成了“无根之人”，于是l1与l2都没有被标记为存活，二者会被清理掉，这样就解决了循环引用带来的内存泄漏问题。

5.2.3 问题二：效率问题

基于引用计数的回收机制，每次回收内存，都需要把所有对象的引用计数都遍历一遍，这是非常消耗时间的，于是引入了分代回收来提高回收效率，分代回收采用的是用“空间换时间”的策略。

5.2.4 解决方案：分代回收

分代：

分代回收的核心思想是：在历经多次扫描的情况下，都没有被回收的变量，gc机制就会认为，该变量是常用变量，gc对其扫描的频率会降低，具体实现原理如下：

分代指的是根据存活时间来为变量划分不同等级（也就是不同的代）

新定义的变量，放到新生代这个等级中，假设每隔1分钟扫描新生代一次，如果发现变量依然被引用，那么该对象的权重（权重本质就是个整数）加一，当变量的权重大于某个设定得值（假设为3），会将它移动到更高一级的青春代，青春代的gc扫描的频率低于新生代（扫描时间间隔更长），假设5分钟扫描青春代一次，这样每次gc需要扫描的变量的总个数就变少了，节省了扫描的总时间，接下来，青春代中的对象，也会以同样的方式被移动到老年代中。也就是等级（代）越高，被垃圾回收机制扫描的频率越低

回收：

回收依然是使用引用计数作为回收的依据

img

虽然分代回收可以起到提升效率的效果，但也存在一定的缺点：

#例如一个变量刚刚从新生代移入青春代，该变量的绑定关系就解除了，该变量应该被回收，但青春代的扫描频率低于新生代，这就到导致了应该被回收的垃圾没有得到及时地清理。

没有十全十美的方案：
毫无疑问，如果没有分代回收，即引用计数机制一直不停地对所有变量进行全体扫描，可以更及时地清理掉垃圾占用的内存，但这种一直不停地对所有变量进行全体扫描的方式效率极低，所以我们只能将二者中和。

综上
垃圾回收机制是在清理垃圾&释放内存的大背景下，允许分代回收以极小部分垃圾不会被及时释放为代价，以此换取引用计数整体扫描频

垃圾回收机制细节

进程概念/并发编程

引入：

1.程序

程序就是一堆代码文件

2.进程

  • 进程一个抽象的概念
  • 进程指的是程序的运行过程
  • 进程是操作系统最核心的概念

3.操作系统

3.1、操作系统的作用

  • 1：隐藏丑陋复杂的硬件接口，提供良好的抽象接口
  • 2：管理、调度进程，并且将多个进程对硬件的竞争变得有序

3.2、多道技术

话不多说先上图：

时间段T就是CPU运行的时间：

img

多道技术：

多道技术中的多道指的是多个程序，多道技术的实现是为了解决多个程序竞争或者说共享同一个资源（比如cpu）的有序调度问题，解决方式即多路复用，多路复用分为时间上的复用和空间上的复用。

空间上的复用：将内存分为几部分，每个部分放入一个程序，这样，同一时间内存中就有了多道程序。

img

时间上的复用：当一个程序在等待I/O时，另一个程序可以使用cpu，如果内存中可以同时存放足够多的作业，则cpu的利用率可以接近100%，类似于我们小学数学所学的统筹方法。（操作系统采用了多道技术后，可以控制进程的切换，或者说进程之间去争抢cpu的执行权限。这种切换不仅会在一个进程遇到io时进行，一个进程占用cpu时间过长也会切换，或者说被操作系统夺走cpu的执行权限）

空间复用问题：

空间上的复用最大的问题是：程序之间的内存必须分割，这种分割需要在硬件层面实现，由操作系统控制。如果内存彼此不分割，则一个程序可以访问另外一个程序的内存

首先丧失的是安全性，比如你的qq程序可以访问操作系统的内存，这意味着你的qq可以拿到操作系统的所有权限。

其次丧失的是稳定性，某个程序崩溃时有可能把别的程序的内存也给回收了，比方说把操作系统的内存给回收了，则操作系统崩溃。

Linux系统的出现更加巩固了其地位。

ps：

    串行：一个运行完毕再运行下一个
    并行：多个进程是真正意义上一起运行
    并发：看起来是同时运行的，本质还是一个个的运行

    进程彼此之间的内存空间隔离，而且是物理隔离
posted @ 2020-08-19 20:23  Orange-ONE  阅读(133)  评论(0)  编辑  收藏  举报