摘要: 一、RabbitMQ消息队列介绍 RabbitMQ也是消息队列,那RabbitMQ和之前的Python的Queue有什么区别呢: py消息队列 1. 线程queue(同一进程下线程之间进行交互) 2. 进程Queue(父子进程进行交互或者同属于同一进程下的多个子进程进行交互) 类似于这种公共的中间有 阅读全文
posted @ 2019-10-23 02:38 智、心 阅读(190) 评论(0) 推荐(0) 编辑
摘要: 1、操作模式 redis py提供两个类Redis和StrictRedis用于实现Redis的命令,StrictRedis用于实现大部分官方的命令,并使用官方的语法和命令,Redis是StrictRedis的子类,用于向后兼容旧版本的redis py 2、连接池 redis py使用connecti 阅读全文
posted @ 2019-10-20 19:38 智、心 阅读(2116) 评论(0) 推荐(0) 编辑
摘要: Hash操作 hash表现形式上有些像python中的dict,可以存储一组关联性较强的数据,redis中Hash在内存中的存储格式如下图: 1、hset(name,key,value) 2、hmset(name,mapping) 3、hget(name,key) 4、hmget(name,keys 阅读全文
posted @ 2019-10-20 17:25 智、心 阅读(2342) 评论(0) 推荐(0) 编辑
摘要: 缓存数据库介绍 redis操作 1、缓存数据介绍 NoSQL(NoSQL = Not Only SQL),意即"不仅仅是SQL",泛指非关系型的数据库,随着互联网web的兴起,传统的关系数据库在应付web网站,特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得得力不从心,暴露了很多难 阅读全文
posted @ 2019-10-18 01:31 智、心 阅读(375) 评论(0) 推荐(0) 编辑
摘要: 参考:https://www.cnblogs.com/wupeiqi/articles/6229292.html 上面使用HtmlXPathSelector,python3.7没有这个模块,我就直接使用Selector了 ImportError: cannot import name 'HtmlXP 阅读全文
posted @ 2019-10-16 01:07 智、心 阅读(609) 评论(0) 推荐(0) 编辑
摘要: 告诉我我不是一个人被安装scrapy坑死 安装scrapy python3.7 ,win10 1、下载wheel,twisted这两个我是直接用pycharm的setting下载的 下载pywin32 1、我使用pycharm安装pywin32不起作用只能去官网下载与python3.7对应的版本,下 阅读全文
posted @ 2019-10-16 00:54 智、心 阅读(514) 评论(0) 推荐(0) 编辑
摘要: tornado 异步IO的基本简单流程原理 上面的异步IO有一个缺陷就是没有保存获取响应结果的数据,可以新建一个类来解决这个问题 阅读全文
posted @ 2019-10-12 00:34 智、心 阅读(432) 评论(0) 推荐(0) 编辑
摘要: 对于多线程和多进程的缺点是在IO阻塞时会造成线程和进程的浪费,所以异步IO会是首选,有下面几种: 一、异步IO 1、asyncio + aiohttp + requests 2、gevent + requests +grequests 3、twisted 4、tornado 5、asyncio 6、 阅读全文
posted @ 2019-10-11 21:59 智、心 阅读(573) 评论(0) 推荐(0) 编辑
摘要: asyncio异步IO,能够异步网络操作,并发,协程 1、asyncio的关键字说明 event_loop事件循环:程序开启一个无限循环,把一些函数注册到事件循环上,当满足事件发生的时候,调用相应的协程函数 coroutine协程:协程对象,指一个使用async关键字定义的函数,它的调用不会立即执行 阅读全文
posted @ 2019-10-10 00:19 智、心 阅读(1745) 评论(0) 推荐(0) 编辑
摘要: ProcessPoolExecutor线程池 1、为什么需要线程池呢,如果创建了20个线程,而同时只允许3个线程在运行,但是20个线程都需要创建和销毁,线程的创建是需要消耗系统资源的,所以线程池的思想就是:每个线程各分配一个任务,剩下的任务皮队等待,当某个线程完成了任务的时候,排队任务就可以安排给这 阅读全文
posted @ 2019-09-28 00:46 智、心 阅读(9684) 评论(1) 推荐(0) 编辑