上一页 1 2 3 4 5 6 ··· 16 下一页
摘要: 1 配置参数 #1 是否遵循爬虫协议ROBOTSTXT_OBEY = False#2 浏览器类型(默认写的是scrapy,)USER_AGENT = 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko 阅读全文
posted @ 2021-03-02 19:59 投降输一半! 阅读(69) 评论(0) 推荐(0) 编辑
摘要: 1 xpath的使用 1 css xpath 通用的2 XPath 使用路径表达式在 XML 文档中选取节点3 lxml模块为例,讲xpath选择(selenium,scrapy 》css/xpath)4 用法:​# / :从当前节点开始选择,子节点# // :从当前节点开始选择,子子节点# @选取 阅读全文
posted @ 2021-03-02 19:57 投降输一半! 阅读(94) 评论(0) 推荐(0) 编辑
摘要: 爬拉勾网职位信息 ​​#https://www.lagou.com/jobs/positionAjax.json?city=%E4%B8%8A%E6%B5%B7&needAddtionalResult=falseimport requests#实际要爬取的urlurl = 'https://www. 阅读全文
posted @ 2021-03-02 19:56 投降输一半! 阅读(868) 评论(0) 推荐(0) 编辑
摘要: 1 bs4 遍历文档树 ​​​'''#遍历文档树:即直接通过标签名字选择,特点是选择速度快,但如果存在多个相同的标签则只返回第一个#1、用法#2、获取标签的名称#3、获取标签的属性#4、获取标签的内容#5、嵌套选择#6、子节点、子孙节点#7、父节点、祖先节点#8、兄弟节点'''​from bs4 i 阅读全文
posted @ 2021-03-02 19:51 投降输一半! 阅读(119) 评论(0) 推荐(0) 编辑
摘要: 1 RBAC-基于角色的访问控制 RBAC :是基于角色的访问控制(Role-Based Access Control )在 RBAC 中,权限与角色相关联,用户通过成为适当角色的成员而得到这些角色的权限。这就极大地简化了权限的管理。这样管理都是层级相互依赖的,权限赋予给角色,而把角色又赋予用户,这 阅读全文
posted @ 2021-01-26 12:56 投降输一半! 阅读(76) 评论(0) 推荐(0) 编辑
摘要: 1 jwt:重点(跟语言,框架无关) -json web token -cookie:客户端浏览器上的键值对,数据不安全 -session:服务端的键值对(内存,数据库,redis,文件),安全,对服务端压力大 -token:三段:头.荷载.签名 -header(公司信息,加密方式。。。) -pay 阅读全文
posted @ 2021-01-21 21:19 投降输一半! 阅读(502) 评论(0) 推荐(0) 编辑
摘要: 1 爬取汽车之家新闻 ​​# request模块(发送请求)+bs4(解析html的模块)# 汽车之家为例​​# pip3 install beautifulsoup4# pip3 install lxml​import pymysql​import requestsfrom bs4 import 阅读全文
posted @ 2021-01-20 19:01 投降输一半! 阅读(97) 评论(0) 推荐(0) 编辑
摘要: 1 jwt认证介绍 1 不再使用Session认证机制,而使用Json Web Token(本质就是token)认证机制,用户登录认证2 用户只要登录了,返回用户一个token串(随机字符串),每次用户发请求,需要携带这个串过来,验证通过,我们认为用户登录了3 JWT的构成(字符串) -三部分(每一 阅读全文
posted @ 2021-01-20 18:57 投降输一半! 阅读(126) 评论(0) 推荐(0) 编辑
摘要: 1 爬虫基本原理 1 百度是个大爬虫2 模拟浏览器发送http请求 (请求库)(频率,cookie,浏览器头。。js反扒,app逆向)(抓包工具) 》从服务器取回数据 》解析数据--(解析库)(反扒) 》入库(存储库,)3 爬虫协议: 2 requests模块 0 urllib 内置库,发送http 阅读全文
posted @ 2021-01-19 19:13 投降输一半! 阅读(158) 评论(0) 推荐(0) 编辑
摘要: 1 购买阿里云服务器 1 2核4g按流量计费2 centos7.9 2 服务器配置,软件安装 2.1 前置配置 yum update -y​yum -y groupinstall "Development tools" # 开发相关的工具包 git unzip。。。​yum install open 阅读全文
posted @ 2021-01-19 19:11 投降输一半! 阅读(116) 评论(0) 推荐(0) 编辑
上一页 1 2 3 4 5 6 ··· 16 下一页