05 2019 档案
摘要:本次目标地址为梨视频:https://www.pearvideo.com/category_59 在实现数据抓取的时候需要注意以下几点: 视频资源数据大多数网站都是加密或者隐藏在js文件或者某个文件下面的,很少有在页面能够直接解析到源地址的。 在已知视频路径的情况下,避免使用有界面浏览器或者无界面浏
阅读全文
摘要:selenium是浏览器自动化测试框架,使用前可直接pip install selenium安装 需要选择与当前使用浏览器匹配的驱动下载调用。本次采用Chrome 74版,Chrome驱动下载地址:http://chromedriver.storage.googleapis.com/index.ht
阅读全文
摘要:本次登录站点为古诗文网 URL:https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx 对于验证码的解析:采用云打码API接口实现 http://www.yundama.com 主页面
阅读全文
摘要:爬虫类型:通用爬虫、聚焦爬虫、增量式爬虫 在使用fiddler工具抓包时,需要注意下:因为它需要安装证书,在项目请求HTTPS页面是会ssl要求提供安全证书,可能会被拒绝请求 可以在发送requests请求时,关闭安全认证,或者暂时关闭fiddler代理。末尾也会提到,这个坑…… 使用 Beauti
阅读全文
摘要:Anaconda指的是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。 Conda是一个开源的包、环境管理器,可以用于在同一个机器上安装不同版本的软件包及其依赖 Jupyter notebook基于web的交互式计算环境,可以编辑易于人们阅读的文档,用于
阅读全文
摘要:对表格的数据写操作: 对表格数据的读操作:
阅读全文
摘要:利用ansible脚本模块化安装redis数据库,实现同步安装多台主机。 从安全角度出发,会对Redis配置文件进行修改,所以,会先在控制端主机直接安装,从而获取Redis.conf配置文件 vim /etc/redis.conf 打开并编辑配置文件: 修改默认端口号6379为其他端口号。 关于访问
阅读全文
摘要:playbook支持的文件为.yml格式,也支持字典方式key:value 和列表格式 -abc 支持的文件格式为yml yaml 对格式要求比较严格: 1.冒号后面必须有空格 2.等号后面不能有空格 3. -后面也要有空格 为了灵活使用.yml配置文件,一般会采用模板输出方式取值 - hosts
阅读全文
摘要:ansible属于第三方库,可以通过配置阿里云的镜像实现快速下载安装,它在阿里云的epel模型仓库下 在配置阿里源时,为确保正常安装,一定要清空缓存 :sudo yum clean all 再执行生成元缓存:sudo yum makecache . 元仓库缓存生成后,就可以安装ansible了:su
阅读全文
摘要:创建计划任务: 调用方法执行指定的任务: 获取返回值中运行计划的ID 判断计划是否执行完成: 启动celery在命令行执行: Celery worker -A s1 -l INFO -P eventlet -c 6 -A:指定要执行的目录 -l: 指定要使用的打印日志级别 -p:指定使用eventl
阅读全文
摘要:由于flask是基于轻量级的框架,没有向Django那么庞大的功能,因此,其本身无法实现DJango那种migrate数据迁移的方式,鉴于此,flask可以采用第三方的扩展组件来实现。 需要添加两个组件flask-script、flask-migrate 添加脚本插件,在脚本插件添加指令集 采用pi
阅读全文
摘要:主程序入口manages.py: 项目初始化配置文件_init_.py: 程序在加载前需要指定的配置,及蓝图注册使用会在此处被完成。 蓝图的测试代码: 创建数据库模型关系类:models.py
阅读全文
摘要:创建指定的数据库表: 对数据库中表数据的添加及批量添加操作: 单表查询: 更新数据: 删除数据: *****************************************************************************************************
阅读全文
摘要:在正文开始前必须吐槽下,耶稣都拦不住我,怼他! 按照码农对chrome浏览器的依赖。基本调试页面什么的都会无条件Chrome有木有,但是,作为一位非前端的新司机,确实被安排的妥妥的了,怀疑人生有木有啊! 此次在实现websocket语音交互时,会调用app手机端的麦克风和web端的麦克风。 在手机端
阅读全文
摘要:测试了一下:通过发送 GET 到 http://127.0.0.1:5000/test/a?x=1,
阅读全文
摘要:当用户登录成功之后,去添加玩具,扫码读取玩具信息,并完善绑定信息 在个人中心页面去点击“管理我的玩具”会跳转到玩具管理页面,点击“添加绑定玩具”,会跳转至扫码页面,去识别玩具的信息。 监听触发事件: 实现的效果图: 添加绑定玩具: 监听触发事件: 效果截图: 创建扫码对象,并识别二维码: <!doc
阅读全文
摘要:在登录页面login.html初次登录时,发送post请求,对返回的数据判断,如果code=0,表示已经登录成功的用户。则将其_id数据设置到类似cookie的全局中去。 createNew:true 是对页面刷新数据,不刷新页面会默认使用原页面,无法获取到数据 在index.html点击设置时,会
阅读全文