摘要: 【第1章】爬虫介绍及环境软件 【第2章】requests基本使用 【第3章】requests高级部分 【第4章】多任务异步爬虫及selenium模块使用 阅读全文
posted @ 2019-12-02 16:33 犇羴鱻龘毳 阅读(144) 评论(0) 推荐(0) 编辑
摘要: 【第1章】RESTFUL规范 【第2章】初识DRF 【第3章】CBV到DRF视图源码 【第4章】DRF内置的分页和筛选功能 【第5章】DRF版本和认证流程 【第6章】DRF权限和频率限制 阅读全文
posted @ 2019-11-23 11:06 犇羴鱻龘毳 阅读(133) 评论(0) 推荐(0) 编辑
摘要: 权限 views PYTHON from rest_framework.permissions import BasePermission from rest_framework import exceptions 权限类操作 class MyPermission(BasePermission): 阅读全文
posted @ 2019-12-18 21:10 犇羴鱻龘毳 阅读(187) 评论(0) 推荐(0) 编辑
摘要: request源码封装和版本 首先举个示例 版本源码分析 DRF认证流程 settings views urls 认证源码分析 阅读全文
posted @ 2019-12-18 08:35 犇羴鱻龘毳 阅读(132) 评论(0) 推荐(0) 编辑
摘要: requests高级部分 代理 cookie 验证码的识别 模拟登陆 代理 代理概念:代理服务器。 作用:接受请求==》请求转发。 代理和爬虫之间的关联: 可以使用请求转发的机制使得目的服务器接收到的请求对应ip的一个改变。 为什么要使用代理改变请求的ip地址? 爬虫程序在短时间内对指定的服务器发起 阅读全文
posted @ 2019-12-16 21:53 犇羴鱻龘毳 阅读(147) 评论(0) 推荐(0) 编辑
摘要: 多任务异步爬虫及selenium模块使用 知识结构 线程池 多任务的异步协程 asyncio 特殊的函数 协程 任务对象 任务对象绑定 事件循环 多任务异步爬虫 1.协程基础 2.多任务协程 3.多任务异步爬虫(错误示范) 4.基于aiohttp的多任务异步爬虫 5.总结 selenium模块 1. 阅读全文
posted @ 2019-12-06 21:05 犇羴鱻龘毳 阅读(1324) 评论(0) 推荐(0) 编辑
摘要: requests模块的基本使用 基于网络请求的模块。 环境的安装:pip install requests 作用:模拟浏览器发起请求 分析requests的编码流程: 1.指定url 2.发起了请求 3.获取响应数据 4.持久化存储 需求:爬取搜狗首页的页面源码数据 需求:简易的网页采集器 上述代码 阅读全文
posted @ 2019-12-02 16:27 犇羴鱻龘毳 阅读(875) 评论(0) 推荐(0) 编辑
摘要: 爬虫 什么是爬虫 就是通过编写程序模拟浏览器上网,让其去互联网中抓取数据的过程。 爬虫的分类: 通用爬虫:爬取一整张页面源码数据。 聚焦爬虫:爬取页面中局部的数据。一定是在通用爬虫的基础上实现。 数据解析 增量式爬虫:用来监测网站数据更新的情况。以便于爬取最新更新出来的数据! 爬虫合法性探究: 爬虫 阅读全文
posted @ 2019-12-02 16:24 犇羴鱻龘毳 阅读(266) 评论(0) 推荐(0) 编辑
摘要: Flask生命周期 1.app = Flask(),实例化时,执行app的\__init__方法 2.app.config.from_object('xx.xx'),导入配置文件 3.执行before_first_request,before_request,after_request 4.执行路由 阅读全文
posted @ 2019-11-26 19:41 犇羴鱻龘毳 阅读(1141) 评论(0) 推荐(0) 编辑
摘要: DRF中有内置的serializer序列化 小知识扩展:类的约束 分页 PageNumberPagination 分页功能使用方式一 配置settings.py 在视图的列表页面 分页功能使用方式二 DRF除了提供一个APIView还提供其它类供我们使用(分页功能一般和ListAPIView,Cre 阅读全文
posted @ 2019-11-23 18:46 犇羴鱻龘毳 阅读(453) 评论(0) 推荐(0) 编辑
摘要: 安装 使用 注册app 写路由 写视图 DRF的应用场景 CBV到视图函数源码分析 1.首先注册,写好url,视图 首先下载并安装好djangorestframework 在settings中注册 写路由 写视图 2.CBV到视图函数源码分析 第一步 第二步 第三步 阅读全文
posted @ 2019-11-23 14:45 犇羴鱻龘毳 阅读(166) 评论(0) 推荐(0) 编辑