【13.0】协程操作
- 基于 async 和 await 关键字的协程可以实现异步编程,这也是目前 Python 异步相关的主流技术。在这里我们主要介绍一下实现异步的模块:asyncio 模块
【一】asyncio 模块
- asyncio 模块是 Python 中实现异步的一个模块,该模块在 Python3.4 的时候发布
- async 和 await 关键字在 Python3.5 中引入。
- 因此,想要使用asyncio模块,建议 Python 解释器的版本不要低于 Python3.5 。
【二】事件循环
- 所谓的事件循环,我们可以把它当作是一个 while 循环,这个 while 循环在循环生命周期内运行并执行一些任务,在特定的条件下结束循环。
- 在编写程序的时候可以通过如下代码来获取和创建事件循环:
import asyncio
loop = asyncio.get_event_loop()
【三】协程函数和协程对象
【1】什么是协程函数
- 首先我们来看一下协程函数
- 什么是协程函数呢?
- 直白的讲,定义为如下形式的函数
- 我们可以称之为协程函数,如下代码所示:
# 使用 async 声明的函数就是协程函数
async def fn():
pass
【2】什么是协程对象
- 知道了什么是协程函数
- 接下来我们再来看一下什么是协程对象
- 所谓的协程对象就是调用协程函数之后返回的对象
- 我们称之为 协程对象,如下代码所示:
# 使用 async 声明的函数就是协程函数
async def fn():
pass
# 调用携程函数得到的对象就是协程对象
res = fn()
print(res) # <coroutine object fn at 0x1029684a0>
- 注意事项:调用协程函数时,函数内部的代码不会执行,只是会返回一个协程对象!
【四】协程函数应用
【1】基本应用
- 在编写程序的时候,如果想要执行协程函数内部的代码,通过 函数名() 调用函数是不可以的,需要 事件循环 和 协程对象 配合才能实现,如下代码所示:
import asyncio
async def fn():
print('协程函数内部的代码')
# 执行协程代码的方式一
def main_first():
# 调用协程函数,返回一个协程对象
res = fn()
# todo:1、创建一个事件循环
loop = asyncio.get_event_loop()
# todo:2、将协程当作任务提交到事件循环的任务列表中,协程执行完成之后终止
loop.run_until_complete(res)
# 执行协程代码的方式二
def main_second():
# 调用协程函数,返回一个协程对象
res = fn()
# 解析:第二种方式在本质上和第一种方式是相同的,其内部先创建事件循环,然后执行 run_until_complete
# 但是要注意:该方式只支持 Python3.7+ 的解释器,因为该方式在 Python3.7 加入的。
asyncio.run(res)
if __name__ == '__main__':
main_first()
main_second()
- 这个过程可以简单理解为:
- 将 协程函数 当做任务添加到 事件循环 的任务列表
- 然后事件循环检测列表中的协程函数 是否已准备就绪(默认可理解为就绪状态)
- 如果准备就绪则执行其内部代码。
【2】await关键字
- await 是一个 只能 在协程函数中使用的关键字,用于当协程函数遇到IO操作的时候挂起当前协程(任务),
- 当前协程挂起过程中,事件循环可以去执行其他的协程(任务)
- 当前协程IO处理完成时,可以再次切换回来执行 await 之后的代码
- 怎么理解呢?请看如下代码:
(1)实例1
import asyncio
async def fn():
print('协程函数内部的代码')
# 遇到IO操作之后挂起当前协程(任务),等IO操作完成之后再继续往下执行。
# 当前协程挂起时,事件循环可以去执行其他协程(任务)
response = await asyncio.sleep(2) # 模拟遇到了IO操作
print(f'IO请求结束,结果为:{response}')
def main():
# 调用协程函数,返回一个协程对象
res = fn()
# 执行协程函数
asyncio.run(res)
if __name__ == '__main__':
main()
'''
运行结果:
协程函数内部的代码
IO请求结束,结果为:None
'''
(2)实例2
import asyncio
async def other_tasks():
print('start')
await asyncio.sleep(2) # 模拟遇到了IO操作
print('end')
return '返回值'
async def fn():
print('协程函数内部的代码')
# 遇到IO操作之后挂起当前协程(任务),等IO操作完成之后再继续往下执行。
# 当前协程挂起时,事件循环可以去执行其他协程(任务)
response = await other_tasks() # 模拟执行其他协程任务
print(f'IO请求结束,结果为:{response}')
def main():
# 调用协程函数,返回一个协程对象
res = fn()
# 执行协程函数
asyncio.run(res)
if __name__ == '__main__':
main()
'''
运行结果:
协程函数内部的代码
start
end
IO请求结束,结果为:返回值
'''
(3)实例3
import asyncio
async def other_tasks():
print('start')
await asyncio.sleep(2) # 模拟遇到了IO操作
print('end')
return '返回值'
async def fn():
print('协程函数内部的代码')
# 遇到IO操作之后挂起当前协程(任务),等IO操作完成之后再继续往下执行。
# 当前协程挂起时,事件循环可以去执行其他协程(任务)
respnse1 = await other_tasks()
print(f'IO请求结束,结果为:{respnse1}')
respnse2 = await other_tasks()
print(f'IO请求结束,结果为:{respnse2}')
def main():
# 调用协程函数,返回一个协程对象
cor_obj = fn()
# 执行协程函数
asyncio.run(cor_obj)
if __name__ == '__main__':
main()
'''
运行结果:
协程函数内部的代码
start
end
IO请求结束,结果为:返回值
start
end
IO请求结束,结果为:返回值
'''
(4)小结
- 上述的所有实例都只是创建了一个任务
- 即:事件循环的任务列表中只有一个任务
- 所以在IO等待时无法演示切换到其他任务效果。
- 在程序中想要创建多个任务对象
- 需要使用Task对象来实现。
【3】Task 对象
- Tasks 用于并发调度协程
- 通过 asyncio.create_task(协程对象) 的方式创建 Task 对象
- 这样可以让协程加入事件循环中等待被调度执行。
- 除了使用 asyncio.create_task() 函数以外
- 还可以用低层级的loop.create_task() 或 ensure_future() 函数。并且不建议手动实例化 Task 对象。
- 本质上是将协程对象封装成 Task 对象
- 并将协程立即加入事件循环,同时追踪协程的状态。
- 注意事项:
- asyncio.create_task() 函数在 Python3.7 中被加入。
- 在 Python3.7 之前,可以改用低层级的
- asyncio.ensure_future() 函数。
(1)协程运行方式一
async.run()
运行协程async.create_task()
创建task
import asyncio
async def other_tasks():
print('start')
await asyncio.sleep(2) # 模拟遇到了IO操作
print('end')
return '返回值'
async def fn():
print('fn开始')
# 创建协程,将协程封装到一个Task对象中并立即添加到事件循环的任务列表中,等待事件循环去执行(默认是就绪状态)。
task1 = asyncio.create_task(other_tasks())
# 创建协程,将协程封装到一个Task对象中并立即添加到事件循环的任务列表中,等待事件循环去执行(默认是就绪状态)。
task2 = asyncio.create_task(other_tasks())
print('fn结束')
# 当执行某协程遇到IO操作时,会自动化切换执行其他任务。
# 此处的await是等待相对应的协程全都执行完毕并获取结果
response1 = await task1
response2 = await task2
print(response1, response2)
def main():
asyncio.run(fn())
if __name__ == '__main__':
main()
'''
运行结果:
fn开始
fn结束
start
start
end
end
返回值 返回值
'''
(2)协程运行方式二
import asyncio
async def other_tasks():
print('start')
await asyncio.sleep(2) # 模拟遇到了IO操作
print('end')
return '返回值'
async def fn():
print('fn开始')
# 创建协程,将协程封装到一个Task对象中并立即添加到事件循环的任务列表中,等待事件循环去执行(默认是就绪状态)。
task_lis = [
asyncio.create_task(other_tasks()),
asyncio.create_task(other_tasks()),
]
print('fn结束')
# 当执行某协程遇到IO操作时,会自动化切换执行其他任务。
# 此处的await是等待所有协程执行完毕,并将所有协程的返回值保存到done
# 如果设置了timeout值,则意味着此处最多等待的秒,完成的协程返回值写入到done中,未完成则写到pending中。
done, pending = await asyncio.wait(task_lis, timeout=None)
print(f"done :>>>> {done}")
print(f"pending :>>>> {pending}")
def main():
asyncio.run(fn())
if __name__ == '__main__':
main()
'''
fn开始
fn结束
start
start
end
end
done :>>>> {<Task finished name='Task-2' coro=<other_tasks() done, defined at /Users/dream/Desktop/PythonProjects/12并发编程/02协程/01.py:4> result='返回值'>, <Task finished name='Task-3' coro=<other_tasks() done, defined at /Users/dream/Desktop/PythonProjects/12并发编程/02协程/01.py:4> result='返回值'>}
pending :>>>> set()
'''
(3)获取协程返回值
async.gather()
获取返回值
import asyncio
async def other_tasks():
print('start')
await asyncio.sleep(2) # 模拟遇到了IO操作
print('end')
return '返回值'
async def fn():
print('fn开始')
# 创建协程,将协程封装到一个Task对象中并立即添加到事件循环的任务列表中,等待事件循环去执行(默认是就绪状态)。
task_lis = [
asyncio.create_task(other_tasks()),
asyncio.create_task(other_tasks()),
]
print('fn结束')
# 当执行某协程遇到IO操作时,会自动化切换执行其他任务。
# 此处的await是等待所有协程执行完毕,并将所有协程的返回值保存到done
# 如果设置了timeout值,则意味着此处最多等待的秒,完成的协程返回值写入到done中,未完成则写到pending中。
await asyncio.wait(task_lis, timeout=None)
response = await asyncio.gather(task_lis[0], task_lis[1]) # 将task_lis作为参数传入gather,等异步任务都结束后返回结果列表
print(f'response :>>>> {response}')
def main():
asyncio.run(fn())
if __name__ == '__main__':
main()
'''
fn开始
fn结束
start
start
end
end
response :>>>> ['返回值', '返回值']
'''
【4】aiohtpp对象
- 我们之前学习过爬虫最重要的模块requests,但它是阻塞式的发起请求,每次请求发起后需阻塞等待其返回响应,不能做其他的事情。
- 本文要介绍的aiohttp可以理解成是和requests对应Python异步网络请求库,它是基于 asyncio 的异步模块,可用于实现异步爬虫,有点就是更快于 requests 的同步爬虫。
- 安装方式,pip install aiohttp。
- aiohttp是一个为Python提供异步HTTP 客户端/服务端编程,基于
asyncio
的异步库。- asyncio可以实现单线程并发IO操作,其实现了TCP、UDP、SSL等协议,
- aiohttp就是基于asyncio实现的http框架。
import aiohttp
import asyncio
async def main():
async with aiohttp.ClientSession() as session:
async with session.get("http://httpbin.org/headers") as response:
print(await response.text())
asyncio.run(main())
【五】异步迭代器
【1】什么是异步迭代器?
- 实现了 aiter() 和 anext()方法的对象。
- anext 必须返回一个 awaitable 对象。
- async for会处理异步迭代器的 anext()方法所返回的可等待对象,直到其引发一个 StopAsyncIteration异常。
【2】什么是异步可迭代对象?
- 可在 async for语句中被使用的对象。
- 必须通过它的 aiter()方法返回一个 asynchronous iterator 。
import asyncio
class Reader:
""" 自定义异步迭代器(同时也是异步可迭代对象) """
def __init__(self):
self.count = 0
async def readline(self):
self.count += 1
if self.count == 100:
return None
return self.count
def __aiter__(self):
return self
async def __anext__(self):
val = await self.readline()
if val is None:
raise StopAsyncIteration
return val
async def fn():
# 创建异步可迭代对象
async_iter = Reader()
# async for 必须放在async def 函数内,否则语法错误。
async for item in async_iter:
print(item)
asyncio.run((fn()))
【六】异步上下文管理器
- 此种对象通过定义
__aenter__()
和__aexit__()
方法来对 async with 语句中的环境进行控制。
import asyncio
class AsyncContextManager:
def __init__(self):
self.conn = None
async def do_something(self):
# 异步操作数据库
return 123
async def __aenter__(self):
# 异步链接数据库
self.conn = await asyncio.sleep(1)
return self
async def __aexit__(self, exc_type, exc_val, exc_tb):
# 异步关闭数据库链接
await asyncio.sleep(1)
async def fn():
async with AsyncContextManager() as f:
res = await f.do_something()
print(res)
asyncio.run(fn())
【七】小结
- 在程序中只要看到 async 和 await 关键字
- 其内部就是基于协程实现的异步编程
- 这种异步编程是通过一个线程在IO等待时间去执行其他任务,从而实现并发。
以上就是异步编程的常见操作,更多内容请参考 Python 官方文档:https://docs.python.org/zh-cn/3.8/library/asyncio.html
【八】小试牛刀
- 需求:访问苹果官网 50 次,测试其总访问时间。
【1】同步版本
import time
import requests
def calc_visit_time(url):
"""
计算程序的执行时间**
:param url:
:return:
"""
start_time = time.time()
for times in range(1, 51):
response = requests.get(url=url)
if response.status_code == 200:
print(f'第【{times}】次链接成功!')
else:
print(f'链接失败!'.center(50, '-'))
end_time = time.time()
print(f'任务消耗了{end_time - start_time}秒的时间!')
def main():
calc_visit_time('https://www.baidu.com')
if __name__ == '__main__':
main()
'''
运行结果:
第【1】次链接成功!
第【2】次链接成功!
第【3】次链接成功!
第【4】次链接成功!
第【5】次链接成功!
...
第【46】次链接成功!
第【47】次链接成功!
第【48】次链接成功!
第【49】次链接成功!
第【50】次链接成功!
任务消耗了5.65秒的时间!
'''
【2】异步版本
# 异步版本
import asyncio
import time
import aiohttp
async def fetch_async(url):
"""
异步的aiohttp模块,替代了之前的同步的requests模块
:param url:
:return:
"""
async with aiohttp.ClientSession() as session:
# 跳过证书验证 :>>>> ssl=False
async with session.get(url=url, ssl=False) as response:
if response.status == 200:
print(f'链接成功!')
else:
print(f'链接失败!'.center(50, '-'))
return True
async def calc_visit_time(url):
"""
计算程序的执行时间
:param url:
:return:
"""
start_time = time.time()
task_lis = []
for _ in range(50):
task_lis.append(fetch_async(url))
await asyncio.gather(*task_lis)
end_time = time.time()
print(f'任务消耗了{end_time - start_time}秒的时间!')
def main():
asyncio.run(calc_visit_time('https://www.baidu.com'))
if __name__ == '__main__':
main()
'''
运行结果:
链接成功!
链接成功!
链接成功!
链接成功!
链接成功!
...
链接成功!
链接成功!
链接成功!
链接成功!
链接成功!
任务消耗了0.31秒的时间!
'''
- 通过上述两个实例的运行结果,我们可以看到,使用了异步之后,其效率提升18倍。
本文来自博客园,作者:Chimengmeng,转载请注明原文链接:https://www.cnblogs.com/dream-ze/p/17982403