摘要: 1 搭建免费代理池 # requests模拟发送http请求,频率限制 》变换ip 》代理(免费,收费) 》 # 搭建代理池 》开源(参照:python,flask+爬虫) 通过爬虫去免费网站爬取 免费代理--》验证一下 》存到库中(redis) >请求一个接口,就随机返回一个代理地址 #搭建步骤 阅读全文
posted @ 2022-03-16 20:05 迪迦张 阅读(66) 评论(0) 推荐(0) 编辑
摘要: 1 爬虫介绍 # http协议 》应用层协议 》主流软件(web,app,小程序) >基本都是走http # 爬取:网站pc端,app,小程序 的数据 # 爬虫的本质 》网络蜘蛛 # 模拟发送http请求(python模块) 》服务端返回数据 》数据清洗(模块) 》入库(mysql,文件,redis 阅读全文
posted @ 2022-03-15 20:51 迪迦张 阅读(361) 评论(0) 推荐(0) 编辑
摘要: redis哨兵、集群、缓存穿透、击穿、雪崩 1 redis 哨兵 #主从复制存在的问题: -1 主从复制,主节点发生故障,需要做故障转移,可以手动转移:让其中一个slave变成master -哨兵 》高可用,一旦主库挂掉,从库变为主库,自动做 -2 主从复制,只能主写数据,所以写能力和存储能力有限 阅读全文
posted @ 2022-03-09 17:37 迪迦张 阅读(50) 评论(0) 推荐(0) 编辑
摘要: redis高级用法 1 redis高级用法之慢查询 慢查询是一个先进先出的队列 # 通过配置文件,两个参数配置慢查询 slowlog-max-len 慢查询是一个先进先出的队列 固定长度 保存在内存中 slowlog-max-len 慢查询阈值(单位:微秒) slowlog-log-slower-t 阅读全文
posted @ 2022-03-08 21:57 迪迦张 阅读(70) 评论(0) 推荐(0) 编辑
摘要: 1 docker-compose一键上线 # 容器化: # 纯手工一个个部署容器 # docker-compose:单机容器编排 # 安装 docker sudo yum install -y yum-utils device-mapper-persistent-data lvm2 sudo yum 阅读全文
posted @ 2022-03-07 21:50 迪迦张 阅读(104) 评论(0) 推荐(0) 编辑
摘要: 路飞上线 1 购买云服务器 # 部署架构 # 公网服务器:买云服务器+公网ip # vmwarm:虚拟化硬件 》装操作系统 # openstack,阿里飞天:管理虚拟化的机器的 # docker:轻量级 # 单机编排 docker-compose # k8s:多机容器编排 2 安装mysql # 安 阅读全文
posted @ 2022-03-06 20:47 迪迦张 阅读(41) 评论(0) 推荐(0) 编辑
摘要: luffy之支付宝使用 复习 #1 课程列表页面 #2 课程详情页面 》vue-video-player #3 视频托管(文件) -直接放到项目中 -公司自己搭建文件服务器(fastdfs,ceph,minio) 小而量大的问题 -第三方存储:阿里oss,七牛云存储(sdk) -上传文件:js--》 阅读全文
posted @ 2022-03-06 12:25 迪迦张 阅读(75) 评论(0) 推荐(0) 编辑
摘要: luffy之前端调用后端接口,动态显示页面内容 复习 1 设计课程相关表(开发阶段,字段的增减很正常) -课程分类 -课程(每个课程一个表) -章节表 -课时表 -老师表 # 关系型数据库中 其实就只有一种关系,就是外键关系:一对一,一对多,多对多 2 录入数据 3 所有课程分类接口 4 查询所有课 阅读全文
posted @ 2022-03-02 20:28 迪迦张 阅读(182) 评论(0) 推荐(0) 编辑
摘要: luffy之课程表的创建、课程接口 复习 # celery:分布式异步任务框架 其他定时任务框架:apscheduler -异步任务 -延迟任务 -定时任务: # 消息队列(redis),任务执行单元(worker),结果存储(redis) # 如何使用:包管理的方式 -包名 -celery.py 阅读全文
posted @ 2022-03-02 15:19 迪迦张 阅读(58) 评论(0) 推荐(0) 编辑
摘要: luffy项目之django操作redis,celery使用 复习 # redis:非关系型数据库,存数据的地方,纯内存操作,6.x之前 单线程架构,5大数据类型 # 编译安装,win支持不好 # 启动服务:redis-server 配置文件 使用win的服务启动 # 停止服务: shutdown 阅读全文
posted @ 2022-02-28 20:47 迪迦张 阅读(112) 评论(0) 推荐(0) 编辑