4.Python3标准库--算法

（一）functools：管理函数的工具

　　

1.修饰符

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
from functools import partial
 
 
'''
functools模块提供的主要工具就是partial类，可以用来包装一个有默认参数的callable对象。
得到的对象本身就是callable，可以把它看作是原来的参数。
'''
 
 
# 举个栗子
def foo(name, age, gender):
    print(name, age, gender)
 
 
p = partial(foo, "mashiro", 16)
p("female")  # mashiro 16 female
'''
可以看到p相当于是已经绑定了name和age的foo函数，name我们在传参的时候只需要传入一个gender就可以了
这个函数的源码实现比较复杂，但是如果以简单的装饰器的方式实现就很清晰了
'''
 
 
def my_partial(f, name, age):
    def inner(gender):
        return f(name, age, gender)
    return inner
 
 
p = my_partial(foo, "satori", 16)
p("female")  # satori 16 female
'''
可以看到，当我调用my_partial(foo, "satori", 16)的时候，返回了inner函数
此时的p相当于是inner，当我再调用p("female")的时候，等价于调用inner("female")
然后将两次传入的参数，按照顺序组合起来传递给foo函数，如果不限制参数的话就是：
def my_partial(f, *args1, **kwargs1):
    def inner(*args2, **kwargs2):
        from collections import ChainMap
        args = args1 + args2
        kwargs = dict(ChainMap(kwargs1, kwargs2))
        return f(*args, **kwargs)
    return inner
     
所以一定要和原函数的参数顺序保持一致，如果我传入p = my_partial("mashiro", 16),此时"mashiro"会传给name，16传给age
我再调用p(name="xxx")的话，肯定会报错的
'''

　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
from functools import partial
import functools
 
 
'''
默认情况下，partial对象没有__name__属性的，如果没有这些属性，那么被修饰的函数会很难调试。
'''
 
 
def foo():
    # fucking
    pass
 
 
print(foo.__name__)  # foo
p = partial(foo)
try:
    print(p.__name__)
except AttributeError as e:
    print(e)  # 'functools.partial' object has no attribute '__name__'
 
 
# 那么如何添加呢？首先增加到包装器的属性在WRAPPER_ASSIGNMENTS中定义，另外WRAPPER_UPDATES列出了要修改的值
print("assign:", functools.WRAPPER_ASSIGNMENTS)  # assign: ('__module__', '__name__', '__qualname__', '__doc__', '__annotations__')
print("update:", functools.WRAPPER_UPDATES)  # update: ('__dict__',)
 
# 添加，表示从原函数将属性赋值或增加到partial对象
functools.update_wrapper(p, foo)
print(p.__name__)  # foo

　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
from functools import partial
 
 
'''
可以把partial看成是一个简单的装饰器，装饰器不仅可以装饰函数，还可以装饰类，只要是callable对象，说白了只要是能加上()的都可以
这就是Python的魅力，非常的动态。比如列表进行extend, 其实不仅仅可以extend一个列表,还可以是元组，甚至是字典，只要是iterable对象都可以。
'''
 
 
class A:
    def __init__(self, name, age, gender):
        self.name = name
        self.age = age
        self.gender = gender
 
    def print_info(self):
        print(f"name: {self.name}, age: {self.age}, gender: {self.gender}")
 
 
p = partial(A, "mashiro", 16)
a = p("female")  # 这两步等价于 a = A("mashiro", 16, "female")
a.print_info()  # name: mashiro, age: 16, gender: female

　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
from functools import partial, partialmethod
 
 
'''
partial返回一个可以直接使用的callable，partialmethod返回的callable则可以用做对象的非绑定方法
'''
 
 
# 举个例子
def standalone(self):
    print(f"self = {self}")
 
 
class A:
    method1 = partial(standalone)
    method2 = partialmethod(standalone)
 
 
a = A()
try:
    a.method1()
except TypeError as e:
    # 由于standalone需要一个参数self，我们这里没有传，因此报错
    print(e)  # standalone() missing 1 required positional argument: 'self'
 
# 但是我们调用method2呢？
a.method2()  # self = <__main__.A object at 0x0000000002964588>
'''
得到了一个A的实例对象。
所以，partial在哪里调用时没有区别的，必须手动显示地传递，该是几个就是几个。
但是在类中如果使用partialmethod定义的话，那么在使用实例(a)调用的话，会自动将实例传进去。
'''

　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
from functools import wraps
 
 
'''
我们在知道在使用装饰器装饰完函数的时候，属性会变。比如：
'''
 
 
def deco(func):
    def inner(*args, **kwargs):
        return func(*args, **kwargs)
    return inner
 
 
@deco
def foo():
    pass
 
 
# 函数从下到下执行，加上@deco等价于，foo = deco(foo) = inner,也就是说此时的foo不再是foo了，已经是inner了
print(foo.__name__)  # inner
# 那么如何在装饰的时候，还保证原来函数的信息呢
 
 
def deco(func):
    @wraps(func)  # 只需要加上这一个装饰器即可，会自动对所修饰的函数应用update_wrapper
    def inner(*args, **kwargs):
        return func(*args, **kwargs)
    return inner
 
 
@deco
def bar():
    pass
 
 
# 可以看到原来函数的信息并没有改变
print(bar.__name__)  # bar

　　

2.比较

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
import functools
 
 
'''
在Python2中，类可以一个__cmp__()方法，它会根据这个对象小于、等于、或者大于所比较的元素而分别返回-1、0、1.
Python2.1中引入了富比较(rich comparision)的方法。
如：__lt__(),__gt__(),__le__(),__eq__(),__ne__(),__gt__()和__ge__()，可以完成一个比较操作并返回一个bool值。
Python3已经废弃了__cmp__()方法。
另外，functools提供了一些工具，从而能更容易地编写符合新要求的类，即符合Python3中新的比较需求。
'''
 
 
@functools.total_ordering
class A:
    def __init__(self, val):
        self.val = val
 
    def __eq__(self, other):
        return self.val == other.val
 
    def __gt__(self, other):
        return self.val > other.val
 
 
a1 = A(1)
a2 = A(2)
print(a1 < a2)
 
'''
这个类必须提供__eq__()和另外一个富比较方法的实现，这个修饰符会自动增加其余的方法。
'''

　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
import functools
 
'''
由于Python3废弃了老式的比较函数，sort()之类的函数中也不再支持cmp参数。
对于使用了比较函数的较老的程序，可以使用cmp_to_key()将比较函数转换为一个比对键的函数，这个键用于确定元素在最终序列中的位置
'''
 
 
def compare_obj(a, b):
    if a < b:
        return -1
    elif a > b:
        return 1
    else:
        return 0
 
 
l = [1, 5, 2, 11, 2, 44, 54, 5, 1]
 
print(sorted(l, key=functools.cmp_to_key(compare_obj)))  # [1, 1, 2, 2, 5, 5, 11, 44, 54]

　　

3.缓存

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
import functools
 
'''
lru_cache()修饰符将一个函数包装在一个"最近最少使用的"缓存中。函数的参数用来建立一个散列键，然后映射到这个结果。
后续调用如果有相同的参数，就会从这个缓存中获取值而不会再次调用这个函数。
这个修饰符还会为函数增加方法来检查缓存的状态(cache_info)和清空缓存(cache_clear)
'''
 
 
@functools.lru_cache()  # 里面可以执行参数maxsize，默认是128
def foo(a, b):
    print(f"foo({a} * {b})")
    return a * b
 
 
print("第一次调用")
for i in range(2):
    for j in range(2):
        foo(i, j)
print(foo.cache_info())
 
print("\n第二次调用")
for i in range(3):
    for j in range(3):
        foo(i, j)
print(foo.cache_info())
 
print("清除缓存")
foo.cache_clear()
print(foo.cache_info())
 
print("\n第三次调用")
for i in range(2):
    for j in range(2):
        foo(i, j)
print(foo.cache_info())
'''
第一次调用
foo(0 * 0)
foo(0 * 1)
foo(1 * 0)
foo(1 * 1)
CacheInfo(hits=0, misses=4, maxsize=128, currsize=4)
 
第二次调用
foo(0 * 2)
foo(1 * 2)
foo(2 * 0)
foo(2 * 1)
foo(2 * 2)
CacheInfo(hits=4, misses=9, maxsize=128, currsize=9)
清除缓存
CacheInfo(hits=0, misses=0, maxsize=128, currsize=0)
 
第三次调用
foo(0 * 0)
foo(0 * 1)
foo(1 * 0)
foo(1 * 1)
CacheInfo(hits=0, misses=4, maxsize=128, currsize=4)
'''
# 我们观察一下第二次调用，3 * 3应该是9次，为什么只有5次，因为第一次调用有4次执行过了，放到缓存里，因此不需要执行了

　　

4.reduce

1
2
3
4
5
6
7
8
9
10
11
12
13
import functools
 
'''
reduce这个函数无需介绍，在Python2中是内置的，但是在Python3中被移到functools下面
'''
l = range(100)
print(functools.reduce(lambda x, y: x+y, l))  # 4950
print(functools.reduce(lambda x, y: x+y, l, 10))  # 4960
print(functools.reduce(lambda x, y: x+y, l, 100))  # 5050
 
 
l = [1, 2, 3, 4, 5]
print(functools.reduce(lambda x, y: x*y, l))  # 120

　　

5.泛型函数

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
import functools
 
'''
在类似Python的动态类型语言中，通常需要基于参数的类型完成稍有不同的操作，特别是在处理元素列表与单个元素的差别时。
直接检查参数的类型固然很简单，但是有些情况下，行为差异可能被隔离到单个的函数中。
对于这些情况，functools提供了singledispatch修饰符来注册一组泛型函数，可以根据函数第一个参数的类型自动切换
'''
 
 
@functools.singledispatch
def myfunc(arg):
    print(f"default myfunc {arg}")
 
 
@myfunc.register(int)
def myfunc1(arg):
    print(f"myfunc1 {arg}")
 
 
@myfunc.register(list)
def myfunc2(arg):
    print(f"myfunc2 {arg}")
 
 
myfunc("string")  # default myfunc string
myfunc(123)  # myfunc1 123
myfunc(["1", "2"])  # myfunc2 ['1', '2']
'''
可以看到使用signledispatch包装的是默认实现，在未指定其他类型特定函数的时候就用这个默认实现。
然后使用包装的函数这里是myfunc,通过register(数据类型)进行注册，根据所传参数的类型，从而执行对应的函数
'''

　　

（二）itertools：迭代器函数

1.合并和分解迭代器

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
import itertools
 
 
'''
chain函数可以接收多个可迭代对象(或者迭代器)作为参数，最后返回一个迭代器。
它会生成所有输入迭代器的内容，就好像这些内容来自一个迭代器一样。
类似于collections下的ChainMap，可以合并多个字典。chain可以合并多个可迭代对象
'''
 
c = itertools.chain([1, 2, 3], "abc", {"k1": "v1", "k2": "v2"})
print(c)  # <itertools.chain object at 0x00000000029745F8>
for i in c:
    print(i, end=" ")  # 1 2 3 a b c k1 k2
 
print()
# 还可以使用chain.from_iterable,参数接收多个可迭代对象组成的一个可迭代对象
c = itertools.chain.from_iterable([[1, 2, 3], "abc", {"k1": "v1", "k2": "v2"}])
for i in c:
    print(i, end=" ")  # 1 2 3 a b c k1 k2
 
 
# 函数zip则是把多个迭代器对象组合到一个元组中
name = ["古明地觉", "椎名真白", "雪之下雪乃"]
where = ["东方地灵殿", "樱花张的宠物女孩", "春物"]
z = zip(name, where)
print("\n", z)  # <zip object at 0x0000000001DC03C8>
print(list(z))  # [('古明地觉', '东方地灵殿'), ('椎名真白', '樱花张的宠物女孩'), ('雪之下雪乃', '春物')]
 
# zip英文意思是拉链，很形象，就是把对应元素给组合起来
# 但如果两者长度不一致怎么办？
name = ["古明地觉", "椎名真白", "雪之下雪乃", "xxx"]
where = ["东方地灵殿", "樱花张的宠物女孩", "春物"]
print(list(zip(name, where)))  # [('古明地觉', '东方地灵殿'), ('椎名真白', '樱花张的宠物女孩'), ('雪之下雪乃', '春物')]
# 可以看到，不一致的时候，当一方结束之后就停止匹配。
 
# 如果想匹配长的，那么可以使用zip_longest,这个函数不像zip一样是内置的，它在itertools下面
print(list(itertools.zip_longest(name, where)))  # [('古明地觉', '东方地灵殿'), ('椎名真白', '樱花张的宠物女孩'), ('雪之下雪乃', '春物'), ('xxx', None)]
# 可以看到没有的默认赋值为None了，当然我们也可以指定填充字符
print(list(itertools.zip_longest(name, where, fillvalue="你输入的是啥啊")))
# [('古明地觉', '东方地灵殿'), ('椎名真白', '樱花张的宠物女孩'), ('雪之下雪乃', '春物'), ('xxx', '你输入的是啥啊')]
 
 
# isslice返回一个迭代器，按照索引从迭代器返回所选择的元素
num = range(20)
# 从index=5的地方选到index=10(不包含)的地方
s = itertools.islice(num, 5, 10)
print(list(s))  # [5, 6, 7, 8, 9]
#  从开头选到index=5的地方
s = itertools.islice(num, 5)
print(list(s))  # [0, 1, 2, 3, 4]
# 从index=5的地方选择到index=15的地方，步长为3
s = itertools.islice(num, 5, 15, 3)
print(list(s))  # [5, 8, 11, 14]
'''
所以除了迭代器之外，
如果只传一个参数，比如5，表示从index=0选到index=5(不包含)的地方
如果传两个参数，比如5和10，表示从index=5选到index=10(不包含)的地方
如果传三个参数，比如5和10和2，表示从index=5选到index=10(不包含)的地方，步长为2
'''
# 那么支不支持负数索引呢？答案是不支持的，因为不知道迭代器有多长，除非全部读取，可是那样的话干嘛不直接转化为列表之后再用[:]这种形式呢？
# 之所以使用isslice这种形式，就是为了在不全部读取的情况下，也能选择出我们想要的部分，所以这种方式只支持从前往后，不能从后往前读。
 
 
# tee()函数根据一个原输入迭代器返回多个独立、和原迭代器一模一样的迭代器(默认为两个)
r = [1, 2, 3, 4, 5]
i1, i2 = itertools.tee(r)
print(list(i1))  # [1, 2, 3, 4, 5]
print(list(i2))  # [1, 2, 3, 4, 5]

　　

2.转换输入

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
import itertools
 
 
'''
内置的map()函数返回一个迭代器，它对输入迭代器中的值调用一个函数并返回结果。
输入迭代中的元素全部被消费时，map()函数就会停止
'''
l = [1, 2, 3]
map_l = map(lambda x: str(x)+"a", l)
print(list(map_l))  # ['1a', '2a', '3a']
 
l1 = [(0, 5), (1, 6), (2, 7)]
'''
注意map里面的函数只能有一个参数，因此不可以写成以下格式
map_l1 = map(lambda x, y: x*y, l1)
但是可以这样
'''
map_l1 = map(lambda x: x[0]*x[1], l1)
print(list(map_l1))  # [0, 6, 14]
 
# 但是itertools下的startmap()是支持的
l2 = [(1, 2, 3), (4, 5, 6), (7, 8, 9)]
# 注意里面的函数的参数的参数个数是由我们后面传入对象决定的,这里每个元组显然有三个元素，所以需要三个参数
map_l1 = itertools.starmap(lambda x, y, z: f"{x} + {y} + {z} = {x+y+z}", l2)
print(list(map_l1))  # ['1 + 2 + 3 = 6', '4 + 5 + 6 = 15', '7 + 8 + 9 = 24']
# map的话只能通过lambda x: x[0], x[1], x[2]这样的形式
# starmap只能对类似于[(), (), ()]这种值进行处理,比如[1, 2, 3]使用starmap是会报错的，但是[(1, ), (2, ), (3, )]不会报错

　　

3.生成新值

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
import itertools
 
 
'''
count(start=0, step=1)函数返回一个迭代器，该迭代器能够无限地生成连续的整数。
接收两个参数：起始（默认为0）和步长（默认为1）
等价于：
def count(firstval=0, step=1):
    x = firstval
    while 1:
        yield x
        x += step
'''
 
'''
cycle(iterable)返回一个迭代器，会无限重复里面的内容，直到内存耗尽
'''
c2 = itertools.cycle("abc")
print(list(itertools.islice(c2, 0, 10)))  # ['a', 'b', 'c', 'a', 'b', 'c', 'a', 'b', 'c', 'a']
 
 
'''
repeat(obj, times=None),无限重复obj，除非指定times。
'''
print(list(itertools.repeat("abc", 3)))  # ['abc', 'abc', 'abc']

　　

4.过滤

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
import itertools
 
l = [1, 2, 3, 4, 5]
drop_l = itertools.dropwhile(lambda x: x < 3, l)
print(list(drop_l))  # [3, 4, 5]
take_l = itertools.takewhile(lambda x: x < 3, l)
print(list(take_l))  # [1, 2]
filter_l = filter(lambda x: x < 3, l)
print(list(filter_l))  # [1, 2]
filterfalse_l = itertools.filterfalse(lambda x: x < 3, l)
print(list(filterfalse_l))  # [3, 4, 5]
'''
filter和takewhile一样，过滤出条件为True的值
filterfalse和dropwhile一样，过滤出条件为False的值 
'''
 
 
# compress则提供了另一种过滤可迭代对象内容的方法。
# 举个栗子
condition = [True, False, True, True, False]
data = [1, 2, 3, 4, 5]
print(list(itertools.compress(data, condition)))  # [1, 3, 4]
# 或者
condition = [1, 0, "x", "x", {}]
print(list(itertools.compress(data, condition)))  # [1, 3, 4]

　　

5.合并输入

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
import itertools
 
 
'''
accumulate函数处理输入迭代器，得到一个类似于斐波那契的结果
'''
print(list(itertools.accumulate(range(5))))  # [0, 1, 3, 6, 10]
print(list(itertools.accumulate("abcde")))  # ["a", "ab", "abc", "abcd", "abcde"]
# 所以这里的相加还要看具体的含义
 
try:
    print(list(itertools.accumulate([[1, 2], (3, 4)])))
except TypeError as e:
    print(e)  # can only concatenate list (not "tuple") to list
    # 这里就显示无法将列表和元组相加
 
 
# 当然也可以自定义
data = [1, 2, 3, 4, 5]
method = lambda x, y: x*y
print(list(itertools.accumulate(data, method)))  # [1, 2, 6, 24, 120]
# 可以看到这里的结果就改变了
 
 
'''
product则是会将多个可迭代对象组合成一个笛卡尔积
'''
print(list(itertools.product([1, 2, 3], [2, 3])))  # [(1, 2), (1, 3), (2, 2), (2, 3), (3, 2), (3, 3)]
 
 
'''
permutations函数从输入迭代器生成元素，这些元素以给定长度的排列形成组合。默认会生成所以排列的全集
'''
data = [1, 2, 3, 4]
print(list(itertools.permutations(data)))
'''
[(1, 2, 3, 4), (1, 2, 4, 3), (1, 3, 2, 4), (1, 3, 4, 2), (1, 4, 2, 3), (1, 4, 3, 2),
(2, 1, 3, 4), (2, 1, 4, 3), (2, 3, 1, 4), (2, 3, 4, 1), (2, 4, 1, 3), (2, 4, 3, 1),
(3, 1, 2, 4), (3, 1, 4, 2), (3, 2, 1, 4), (3, 2, 4, 1), (3, 4, 1, 2), (3, 4, 2, 1),
(4, 1, 2, 3), (4, 1, 3, 2), (4, 2, 1, 3), (4, 2, 3, 1), (4, 3, 1, 2), (4, 3, 2, 1)]
'''
 
print(list(itertools.permutations(data, 2)))
# [(1, 2), (1, 3), (1, 4), (2, 1), (2, 3), (2, 4), (3, 1), (3, 2), (3, 4), (4, 1), (4, 2), (4, 3)]
 
 
# permutations只要顺序不同就看做一种结果，combinations则保证只要元素相同就是同一种结果
data = "abcd"
print(list(itertools.combinations(data, 3)))  # [('a', 'b', 'c'), ('a', 'b', 'd'), ('a', 'c', 'd'), ('b', 'c', 'd')]
# 尽管combinations不会重复单个的输入元素，但是有时候可能也需要考虑包含重复元素的组合。
# 对于这种情况，可以使用combination_with_replacement
print(list(itertools.combinations_with_replacement(data, 3)))
'''
[('a', 'a', 'a'), ('a', 'a', 'b'), ('a', 'a', 'c'), ('a', 'a', 'd'), ('a', 'b', 'b'),
('a', 'b', 'c'), ('a', 'b', 'd'), ('a', 'c', 'c'), ('a', 'c', 'd'), ('a', 'd', 'd'),
('b', 'b', 'b'), ('b', 'b', 'c'), ('b', 'b', 'd'), ('b', 'c', 'c'), ('b', 'c', 'd'),
('b', 'd', 'd'), ('c', 'c', 'c'), ('c', 'c', 'd'), ('c', 'd', 'd'), ('d', 'd', 'd')]
'''

　　

（三）operator：内置操作符的函数接口

1
2
3
4
5
6
7
8
import operator
 
 
'''
使用迭代器编程时，有时需要为简单的表达式创建小函数。
operator模块提供了一些函数，可以对应标准API中内置的算术、比较和其他操作。
注意：operator中提供的操作，都可以通过lambda函数实现，就我个人而言更喜欢lambda函数
'''

　　

1.逻辑操作

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
import operator
 
 
'''
有些函数可以用来确定一个值得相应布尔值，将其取反以创建相反的布尔值，以及比较对象以查看它们是否相等
'''
a = -1  # 为真
b = 5  # 为真
 
# not为关键字，所以是not_,判断值是否为假。由于a=-1为真，不为假，所以是False
print(operator.not_(a))  # False
# truth，判断值是否为真
print(operator.truth(b))  # True
# is_, 等价于a is b
print(operator.is_(a, b))  # False
# is_not,等价于a is not b
print(operator.is_not(a, b))  # True

　　

2.比较操作符

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
import operator
 
 
'''
支持所有的富比较操作符
'''
a = -1
b = 5
for func in ("lt", "le", "gt", "ge", "eq", "ne"):  # <, <=, >, >=, ==, !=
    print(f"{func}(a, b): {getattr(operator, func)(a, b)}")
'''
lt(a, b): True
le(a, b): True
gt(a, b): False
ge(a, b): False
eq(a, b): False
ne(a, b): True
'''

　　

3.算术操作符

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
import operator
 
 
'''
支持处理数字值的算术操作符
'''
a = -1
b = 5.0
c = 2
d = 6
 
print("abs(a): ", operator.abs(a))
print("neg(a): ", operator.neg(a))
print("neg(b): ", operator.neg(b))
print("pos(a): ", operator.pos(a))
print("pos(b): ", operator.pos(b))
print("add(a, b): ", operator.add(a, b))
print("floordiv(a, b): ", operator.floordiv(a, b))
print("floordiv(a, c): ", operator.floordiv(a, c))
print("mod(a, b): ", operator.mod(a, b))
print("mul(a, b): ", operator.mul(a, b))
print("pow(c, d): ", operator.pow(c, d))
print("sub(b, a): ", operator.sub(b, a))
print("truediv(a, b): ", operator.truediv(a, b))
print("truediv(d, c): ", operator.truediv(d, c))
print("and_(c, d): ", operator.and_(c, d))
print("invert(c): ", operator.invert(c))
print("lshift(c, d): ", operator.lshift(c, d))
print("or_(c, d): ", operator.or_(c, d))
print("rshift(d, c): ", operator.rshift(d, c))
print("xor(c, d): ", operator.xor(c, d))
 
'''
a = -1
b = 5.0
c = 2
d = 6
 
abs(a):  1
neg(a):  1 
neg(b):  -5.0
pos(a):  -1
pos(b):  5.0
add(a, b):  4.0
floordiv(a, b):  -1.0
floordiv(a, c):  -1
mod(a, b):  4.0
mul(a, b):  -5.0
pow(c, d):  64
sub(b, a):  6.0
truediv(a, b):  -0.2
truediv(d, c):  3.0
and_(c, d):  2
invert(c):  -3
lshift(c, d):  128
or_(c, d):  6
rshift(d, c):  1
xor(c, d):  4
'''

　　

4.序列操作符

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
import operator
 
 
'''
处理序列的操作符可以分为四组：建立序列，搜索元素，访问内容，以及从序列删除元素
'''
a = [1, 2, 3]
b = ['a', 'b', 'c']
print("a =", a)
print("b =", b)
print("concat(a, b): ", operator.concat(a, b))
print("contains(a, 1): ", operator.contains(a, 1))
print("contains(b, 'd'): ", operator.contains(b, 'd'))
print("countOf(a, 1): ", operator.countOf(a, 1))
print("countOf(b, 'd'): ", operator.countOf(b, 'd'))
print("indexOf(a, 5): ", operator.indexOf(a, 1))
print("getitem(b, 1): ", operator.getitem(b, 1))
print("getitem(b slice(1, 3): ", operator.getitem(b, slice(1, 3)))
print("setitem(b, 1, 'd'): ", end=' ')
operator.setitem(b, 1, 'd')
print(b)
print("setitem(a, slice(1, 3), [4, 5]): ", end=' ')
operator.setitem(a, slice(1, 3), [4, 5])
print(a)
 
print("delitem(b, 1)", end=' ')
operator.delitem(b, 1)
print(b)
print("delitem(a, slice(1, 3): ", end=' ')
operator.delitem(b, slice(1, 3))
print(a)
# 其中的一些操作（setitem()和delitem()）会原地修改序列，返回的是None
'''
a = [1, 2, 3]
b = ['a', 'b', 'c']
concat(a, b):  [1, 2, 3, 'a', 'b', 'c']
contains(a, 1):  True
contains(b, 'd'):  False
countOf(a, 1):  1
countOf(b, 'd'):  0
indexOf(a, 5):  0
getitem(b, 1):  b
getitem(b slice(1, 3):  ['b', 'c']
setitem(b, 1, 'd'):  ['a', 'd', 'c']
setitem(a, slice(1, 3), [4, 5]):  [1, 4, 5]
delitem(b, 1) ['a', 'c']
delitem(a, slice(1, 3):  [1, 4, 5]
'''
 
# 个人觉得这些都没有什么乱用，可以直接实现的，没必要使用这个库

　　

5.原地操作符

略

6.排序

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
import operator
 
 
'''
这一节书上没有，是我自己加的。个人觉得这个库只有在这一方面会有用。
'''
l = [
    [1, 3],
    [7, 4],
    [6, 2],
    [3, 5]
]
# 现在我要将这个列表进行排序，怎么排呢？里面里面列表的第一个元素的顺序从小到大排
# 也就是说，排完序之后应该是这样的, [[1, 3], [3, 5], [6, 2], [7, 4]]
l.sort(key=operator.itemgetter(0))
# 按照key来排序，itemgetter(0)，表示获取各自索引为0的元素，进行比较
print(l)  # [[1, 3], [3, 5], [6, 2], [7, 4]]
 
 
# 但是我们可以使用lambda函数来实现，而且还可以实现更加复杂的效果
l1 = [
    [1, 3],
    [7, 4],
    [6, 2],
    [3, 5]
]
l1.sort(key=lambda x: x[0])
print(l1)  # [[1, 3], [3, 5], [6, 2], [7, 4]]
 
 
l2 = [-3, -5, 3, -9, 8, 2]
# 对l2我想这样排序，首先按照正负数排序，负数排左边，正数排右边。
# 然后按照绝对值得大小排， 绝对值大的排左边，小的排右边
# 也就是说排完之后应该是这样的，[-9, -5, -3, 8, 3, 2]
l2.sort(key=lambda x: (x > 0, ~abs(x)))
print(l2)  # [-9, -5, -3, 8, 3, 2]
# 因此可以看到这个x代表的就是序列里面的元素
# 如果是字典的话，那么x就是字典里面的key
 
d = {"a": 4, "c": 3, "b": 2}
# 可是字典没有sort，我们如何验证呢？
import heapq
# 按照value选择两个最大的
# 参数：选择几个，从哪里选择，按照什么规则去选择
print(heapq.nlargest(2, d, key=lambda x: d[x]))  # ['a', 'c']
 
 
'''
个人总结一下哈，我个人觉得这个库是真的没有什么用，完全可以使用其他的方法代替，而且更容易理解。
当然也可能是我能力不够，这个库的更高级的用法我没有看到(雾)
'''

 

　　

（四）contextlib：上下文管理器工具

1
2
3
4
5
6
import contextlib
 
 
'''
contextlib模块包含的工具用于处理上下文管理器和with语句
'''

1.上下文管理器API

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
import contextlib
 
 
'''
上下文管理器(context manager)负责管理一个代码块中的资源，会在进入代码块时创建资源，然后再退出代码后清理这个资源。
比如：文件就支持上下文管理器API，可以确保文件读写后关闭文件。
with open("xxx") as f:
    f.read()
'''
 
 
# 那么这是如何实现的呢？我们可以手动模拟一下
class Open:
 
    def __init__(self, filename, mode='r', encoding=None):
        self.filename = filename
        self.mode = mode
        self.encoding = encoding
 
    def __enter__(self):
        print("__enter__,有了这个就可以使用with Open() as xx语句，这里的xx就是我return的内容")
        return self
 
    def read(self):
        print(f"文件进行读操作,读取文件：{self.filename}, 模式：{self.mode}, 编码：{self.encoding}")
 
    def __exit__(self, exc_type, exc_val, exc_tb):
        print("__exit__,我是用来清理资源的，当操作执行完毕之后就会执行我，比如：关闭文件")
 
 
with Open("1.xxx") as f:
    f.read()
'''
__enter__,有了这个就可以使用with Open() as xx语句，这里的xx就是我return的内容
文件进行读操作,读取文件：1.xxx, 模式：r, 编码：None
__exit__,我是用来清理资源的，当操作执行完毕之后就会执行我，比如：关闭文件
'''

　　

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
import contextlib
 
 
# 相较于try:finally语法，结合上下文管理器和with语句是一种更加紧凑的写法，因为__exit__这个方法总是会被调用的，即使产生了异常
 
class Open:
 
    def __init__(self, filename, mode='r', encoding=None):
        self.filename = filename
        self.mode = mode
        self.encoding = encoding
 
    def __enter__(self):
        return 123
 
    def __exit__(self, exc_type, exc_val, exc_tb):
        # 注意到这里有三个参数，使用pycharm的时候，会很智能地自动帮我们加上去
        print(exc_type)
        print(exc_val)
        print(exc_tb)
        return True
 
 
with Open("1.xx") as f:
    print(f)
'''
123
None
None
None
'''
 
with Open("1.xx") as f:
    print(f)
    1 / 0
    print(123)
    print(456)
    print(789)
print("你猜我会被执行吗？")
'''
123
<class 'ZeroDivisionError'>
division by zero
<traceback object at 0x0000000009EDD848>
你猜我会被执行吗？
'''
 
'''
可以看到当我们程序没有出错的时候，打印的值全为None。一旦with语句里面出现了异常，那么会立即执行__exit__函数。
里面的参数就是：异常的类型，异常的值，异常的信息栈。
因此：当with语句结束之后会调用__exit__函数，如果with语句里面出现了错误则会立即调用__exit__函数。
但是__exit__函数返回了个True是什么意思呢？
当with语句里面出现了异常，理论上是会报错的，但是由于要执行__exit__函数，所以相当于暂时把异常塞进了嘴里。
如果__exit__函数最后返回了一个布尔类型为True的值，那么会把塞进嘴里的异常吞下去，程序不报错正常执行。如果返回布尔类型为False的值，会在执行完__exit__函数之后再把异常吐出来，引发程序崩溃。
这里我们返回了True，因此程序正常执行，最后一句话被打印了出来。
但是1/0这句代码后面的几个print却没有打印，为什么呢？
因为上下文管理执行是有顺序的，
with Open("1.xxx") as f:
    code1
    code2
先执行Open函数的__init__函数，再执行__enter__函数，把其返回值给交给f，然后执行with语句里面的代码，最后执行__exit__函数。
只要__exit__函数执行结束，那么这个with语句就算结束了。
而with语句里面如果有异常会立即进入__exit__函数，因此异常语句后面的代码是无论如何都不会被执行的。
'''

　　

2.上下文管理器作为函数修饰符

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
import contextlib
 
'''
类ContextDecorator增加了对常规上下文管理器类的支持，因此不仅可以作为上下文管理器，也可以作为函数修饰符
'''
 
 
class Context(contextlib.ContextDecorator):
    def __init__(self, how_used):
        self.how_used = how_used
        print(f"__init__({self.how_used})")
 
    def __enter__(self):
        print(f"__enter__({self.how_used})")
        return self
 
    def __exit__(self, exc_type, exc_val, exc_tb):
        print(f"__exit__({self.how_used})")
 
 
# 一旦继承了ContextDecorator这个类，那么便可以作为装饰器去装饰。
# 说白了Context("as decorator")返回了Context的一个实例对象，理论上是不可调用的，但是父类实现了call方法。
# 因此如果我们自己实现了一个定义了__call__方法的类，让Context去继承，也是可以达到类似的效果
@Context("as decorator")
def func(message):
    print(message)
    '''
    __init__(as decorator)
    '''
 
 
# 当我执行执行func的时候，此时的func已经不再是原来的那个func了
# func = self(func),从而调用Context的__call__方法，可是Context没有这个方法，那么它的父类肯定有。
# 我们看看contextlib.ContextDecorator的源码,去掉了注释
'''
class ContextDecorator(object):
 
    def _recreate_cm(self):
        return self
 
    def __call__(self, func):
        @wraps(func)
        def inner(*args, **kwds):
            with self._recreate_cm():
                return func(*args, **kwds)
        return inner
 
可以看到首先@Context("as decorator")会执行Context的__init__方法，打印__init__(as decorator)，得到实例对象self
此时等价于@self, -->func = self(func)，执行__call__方法，-->func = inner
当执行inner的时候，会先调用__enter__方法，然后执行inner，最后执行__exit__方法
'''
 
func("doing work i the wrapped function")
 
 
# 这个无需解释
with Context("as contetx manager"):
    print("doing work in the context")
    '''
    __init__(as contetx manager)
    __enter__(as contetx manager)
    doing work in the context
    __exit__(as contetx manager)
    '''
 
 
 
    

　　

3.从生成器到上下文管理器

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
import contextlib
 
'''
采用传统方式创建上下文管理器并不难，只需要包含一个__enter__方法和一个__exit__方法的类即可。
不过某些时候，如果只有很少的上下文需要管理，那么完整地写出所以代码便会成为额外的负担。
在这些情况下，可以使用contextmanager修饰符将一个生成器函数转换为上下文管理器。
代码结构：
@contextlib.contextmanager
def foo():
    print(123)
    yield 456
    print(789)
     
with foo() as f:
    print(f)
     
123
456
789
 
只要给函数加上这个装饰器，那么便可以使用with   as  语句。
当中的yield相当于将代码块分隔为两个战场，yield上面的代码相当于__exter__会先执行，然后将yield的值交给f，然后执行yield下面的代码块
'''
 
 
@contextlib.contextmanager
def bar(name, age):
    print(f"name is {name}, age is {age}")
    yield list
    print("我是一匹狼，却变成了狗")
 
 
with bar("mashiro", 16) as b:
    print(b("abcde"))
'''
name is mashiro, age is 16
['a', 'b', 'c', 'd', 'e']
我是一匹狼，却变成了狗
'''
# 先执行yield上面的内容，然后yield list，那么b = list，最后执行yield下面的内容
 
 
# contextmanager返回的上下文管理器排成子ContextDecorator,所以也可以被用作函数修饰符
@bar("satori", 16)
def foo():
    print("猜猜我会在什么地方输出")
 
 
foo()
'''
name is satori, age is 16
猜猜我会在什么地方输出
我是一匹狼，却变成了狗
'''
# bar中含有yield，肯定是一个生成器，所以直接@bar("satori", 16)是不会输出的。当我执行foo的时候，还会先执行bar里面yield上面的内容，
# 然后执行foo代码的内容，最后执行yield下面的内容

　　

4.关闭打开的句柄

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
import contextlib
 
'''
file类直接支持上下文管理器API，但另外一些表示打开句柄的对象却并不支持。
为了确保关闭句柄，要是用closing为它创建一个上下文管理器
'''
 
 
class Door:
    def __init__(self):
        print("__init__()")
        self.status = "open"
 
    def close(self):
        print("close()")
        self.status = "closed"
 
 
with contextlib.closing(Door()) as door:
    print(f"{door.status}")
# 先不急看结果，先来分析一下。首先contextlib.closing本身就是一个上下文管理器
'''
class closing(AbstractContextManager):
    def __init__(self, thing):
        self.thing = thing
    def __enter__(self):
        return self.thing
    def __exit__(self, *exc_info):
        self.thing.close()
'''
# 可以看到当我with contextlib.closing(Door()) as door的时候，直接将Door的实例对象传入了closing这个类中
# 然后enter返回了self.thing也就是我们传进去的Door的实例对象，__enter__返回self.thing交给door
# 然后执行我们的逻辑，最后__exit__函数再调用self.thing.close函数，所以我们定义的类中一定要实现close函数
 
# 执行结果
'''
__init__()
open
close()
'''
# 先执行__init__函数，再执行我们自己的逻辑，打印"open"，最后执行close函数，将状态改为"closed"。
# 怎么证明这一点呢？
print(door.status)  # closed
 
 
# 如果出现了异常怎么办呢？不用怕，依旧会执行close语句.
# 由于contextlib.closing的__exit__函数并没有返回布尔类型为True的值，所以最后还是会抛出异常，我们手动捕获一下
try:
    with contextlib.closing(Door()) as boy_next_door:
        print(123)
        1/0
        print(456)
 
except Exception:
    pass
 
print(boy_next_door.status)
'''
__init__()
123
close()
closed
'''
# 最后还是打印了"closed"，所以还是执行了close()方法

　　

5.忽略异常

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
import contextlib
 
'''
很多情况下，忽略库产生的异常很有用，因为这个错误可能会显示期望的状态已经被实现，否则该错误就可以被忽略。
要忽略异常，最常用的办法就是利用一个try except语句。
但是在我们此刻的主题中，try except也可以被替换成contextlib.suppress()，以更显示地抑制with块中产生的异常
'''
def foo():
    print(123)
    1 / 0
    print(456)
 
 
with contextlib.suppress(ZeroDivisionError):
    foo()
    print(789)
'''
123
'''
# 最终只输出了123，可以看到不仅1/0中下面的456没有被打印，连foo()下面的789也没有被打印
 
 
# 可以传入多个异常
with contextlib.suppress(ZeroDivisionError, BaseException, Exception):
    foo()
'''
123
'''
# 出现异常之后，会将异常全部丢弃

　　

6.重定向到输出流

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
import contextlib
import io
import sys
 
'''
设计不当的代码可能会直接写sys.stdout或sys.stderr，而没有提供参数来配置不同的输出目标。
可以用redirect_stdout和redirect_stderr上下文管理器从这些函数中捕获输出，因为无法修改这个函数的源代码来接收新的输出参数
'''
 
 
def func(a):
    sys.stdout.write(f"stdout :{a}")
    sys.stderr.write(f"stderr :{a}")
 
 
capture = io.StringIO()
'''
我们执行func本来是要往sys.stdout和sys.stderr里面写的
但这是在with语句contextlib.redirect_stdout(capture), contextlib.redirect_stderr(capture)下面，
因此可以理解往sys.stdout和sys.stderr里面写的内容就被捕获到了，然后会将捕获到的内容输入到capture里面，因为我们指定了capture
'''
with contextlib.redirect_stdout(capture), contextlib.redirect_stderr(capture):
    func("蛤蛤蛤蛤")
 
 
print(capture.getvalue())  # stdout :蛤蛤蛤蛤stderr :蛤蛤蛤蛤
 
 
'''
redirect_stdout和redirect_stderr会修改全局状态，替换sys模块中的对象，可以想象gevent里面的patch_all会将Python里面socket，ssl等都换掉。
因此要使用这两个函数，必须要注意。这些函数并不保证线程安全，所以在多线程应用中调用这些函数可能会有不确定的结果。
如果有其他希望标准输出流关联到终端设备，那么redirect_stdout和redirect_stderr将会干扰和影响那些操作。
'''

　　

7.动态上下文管理器栈

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
import contextlib
 
 
'''
大多数上下文管理器都一次处理一个对象，如单个文件或数据库句柄。
在这些情况下，对象是提前已知的，并且使用上下文管理器的代码可以建立这一对象上。
另外一些情况下，程序可能需要在一个上下文中创建未知数目的对象，控制流退出这个上下文时所有这些对象都要清理，ExitStack就是用来处理这些更动态的情况。
 
ExitStack实例会维护清理回调的一个栈数据结构，这些回调显示地填充在上下文中，在控制流退出上下文时会以逆序调用所有注册的回调。
结果类似于有多个嵌套的with语句，只不过它们是动态建立的。
'''
 
 
# 可以使用多种方法填充ExitStack，比如
@contextlib.contextmanager
def make_context(i):
    print(f"{i}: entering")
    yield {}
    print(f"{i}: exiting")
 
 
def variable_stack(n, msg):
    with contextlib.ExitStack() as stack:
        for i in range(n):
            stack.enter_context(make_context(i))
        print(msg)
 
 
variable_stack(2, "inside stack")
'''
contextlib.ExitStack()相当于创建了上下文管理器栈
stack.enter_context将上下文管理器放入到栈中，注意此时已经执行了
会先输出：
    0: entering
    1: entering
等于是把yield之后的结果压入栈中
然后执行后面的代码，所以会打印出msg
当里面的代码执行完毕之后，会继续执行栈里面的数据，但是栈是后入先出的。i=1后入栈，所以先执行
随意最后输出：
    1: exiting
    0: exiting
'''
# 输出结果
''''
0: entering
1: entering
inside stack
1: exiting
0: exiting
'''

　　

posted @ 2019-08-22 17:38  不夜男人  阅读(225)  评论(0)  编辑  收藏  举报