基于队列实现生产者消费者(Python)
# 进城之间数据隔离 # 进程之间通信(IPC) Inter Process communication # 基于文件 :同一台机器上的多个进程之间通信 # Queue 队列 # 基于socket的文件级别的通信来完成数据传递的 # 基于网络 :同一台机器或者多台机器上的多进程间通信 # 第三方工具(消息中间件) # memcache # redis # rabbitmq # kafka # from multiprocessing import Queue,Process # def pro(q): # for i in range(10): # print(q.get()) # def son(q): # for i in range(10): # q.put('hello%s'%i) # # if __name__ == '__main__': # q = Queue() # p = Process(target=son,args=(q,)) # p.start() # p = Process(target=pro, args=(q,)) # p.start() # 生产者消费者模型 # 爬虫的时候 # 分布式操作 : celery # 本质 :就是让生产数据和消费数据的效率达到平衡并且最大化的效率 # import time # import random # from multiprocessing import Queue,Process # # def consumer(q): # 消费者:通常取到数据之后还要进行某些操作 # for i in range(10): # print(q.get()) # # def producer(q): # 生产者:通常在放数据之前需要先通过某些代码来获取数据 # for i in range(10): # time.sleep(random.random()) # q.put(i) # # if __name__ == '__main__': # q = Queue() # c1 = Process(target=consumer,args=(q,)) # p1 = Process(target=producer,args=(q,)) # c1.start() # p1.start() import time import random from multiprocessing import Queue,Process def consumer(q,name): # 消费者:通常取到数据之后还要进行某些操作 while True: food = q.get() if food: print('%s吃了%s'%(name,food)) else:break def producer(q,name,food): # 生产者:通常在放数据之前需要先通过某些代码来获取数据 for i in range(10): foodi = '%s%s'%(food,i) print('%s生产了%s'%(name,foodi)) time.sleep(random.random()) q.put(foodi) if __name__ == '__main__': q = Queue() c1 = Process(target=consumer,args=(q,'alex')) c2 = Process(target=consumer,args=(q,'alex')) p1 = Process(target=producer,args=(q,'大壮','泔水')) p2 = Process(target=producer,args=(q,'b哥','香蕉')) c1.start() c2.start() p1.start() p2.start() p1.join() p2.join() q.put(None) q.put(None)
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· 从HTTP原因短语缺失研究HTTP/2和HTTP/3的设计差异
· 三行代码完成国际化适配,妙~啊~