摘要: 1.requests高阶用法 1.requests上传文件操作 2.会话维持: Session对象(重点) 3.设置超时时间: timeout, 请求5秒内没有返回响应, 则抛出异常 4.Prepare Request: 构建request对象, 可以放入队列中实现爬取队列调度 1.requests 阅读全文
posted @ 2020-09-09 14:45 高登汗 阅读(176) 评论(0) 推荐(0) 编辑
摘要: 1.requests模块介绍 # requests模块介绍 对比:urllib使用麻烦 安装: pip install requests ​ # 初体验: 爬取搜狗首页 2.requests发送请求 1.requests的get请求: # requests的简单get请求 # requests.ge 阅读全文
posted @ 2020-09-09 11:43 高登汗 阅读(827) 评论(0) 推荐(0) 编辑
摘要: 1.数据解析 1.数据解析就是应用一定的技术手段在响应数据中获取目标数据 2.常用数据解析方式: 正则: 匹配高效, 但正则表达式书写有难度 BS4: 解析数据速度慢, 但使用简单 xpath: 解析速度快, 使用简单 3.环境配置: (1).正则: pip install re (2).BS4: 阅读全文
posted @ 2020-09-09 11:35 高登汗 阅读(503) 评论(0) 推荐(0) 编辑
摘要: 1. requests高级用法 1.1 文件上传功能 import requests ​ # 定义上传文件数据, 键为file, 值为文件句柄 f=open('filepath','rb') files = { 'file':f } r = requests.post(url=url,headers 阅读全文
posted @ 2020-09-09 11:30 高登汗 阅读(229) 评论(0) 推荐(0) 编辑
摘要: 1.get请求: 不携带参数的get请求 不携带参数的get请求 + headers 携带参数的get请求 + headers 2.post请求: 构建参数的post请求 3.响应数据的获取与属性 (1).响应数据的获取: res.text: 文本数据 res.json(): json数据 res. 阅读全文
posted @ 2020-09-09 11:23 高登汗 阅读(316) 评论(0) 推荐(0) 编辑
摘要: 导包 import requests from lxml import etree headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) 阅读全文
posted @ 2020-09-07 14:25 高登汗 阅读(279) 评论(0) 推荐(0) 编辑
摘要: 1 vue init webpack 项目名 2 cd 项目名 3 cnpm install 4 cnpm install axios 镜像源下载: npm install -g cnpm --registry=https://registry.npm.taobao.org 在 main.js 写入 阅读全文
posted @ 2020-08-06 21:15 高登汗 阅读(101) 评论(0) 推荐(0) 编辑
摘要: 1 安装django 命令 pip install django==2.1.14 -i https://pypi.douban.com/simple 2 创建一个项目:django -admin startproject 项目名 3 cd 项目名 4 python manage.py starapp 阅读全文
posted @ 2020-08-06 21:06 高登汗 阅读(79) 评论(0) 推荐(0) 编辑
摘要: 1 安装: pipenv pip install pipenv 2 安装虚拟环境: pipenv install 3 进入交互模式: pipenv shell 4 安装各种模块: pipenv install django==2.1.14 pip install django==2.1.* -i h 阅读全文
posted @ 2020-08-06 20:50 高登汗 阅读(87) 评论(0) 推荐(0) 编辑
摘要: 百度翻译案例: # 导包 import requests def transfer(kw): # 确定url, 发起请求, 获取响应 url = 'https://fanyi.baidu.com/sug' headers = { 'User-Agent': 'Mozilla/5.0 (Windows 阅读全文
posted @ 2020-08-04 16:36 高登汗 阅读(123) 评论(0) 推荐(0) 编辑