摘要: 目录1 scrapy1.1 简介1.1.1 scrapy原理1.2 环境安装1.3 使用scrapy1.3.1 使用步骤1.4 持久化存储1.4.1 基于终端指令1.4.2 基于管道1.4.2.1 基于管道步骤1.4.2.2 基于管道操作1.4.3 多渠道存储1.5 全站数据爬取 1 scrapy 阅读全文
posted @ 2021-08-30 12:49 上善若泪 阅读(269) 评论(0) 推荐(0) 编辑
摘要: 阿里巴巴为什么能抗住90秒100亿?--服务端高并发分布式架构演进之路 1 概述 本文以淘宝作为例子,介绍从一百个并发到千万级并发情况下服务端的架构的演进过程,同时列举出每个演进阶段会遇到的相关技术,让大家对架构的演进有一个整体的认知,文章最后汇总了一些架构设计的原则。 2 基本概念 在介绍架构之前 阅读全文
posted @ 2021-08-26 12:41 上善若泪 阅读(362) 评论(0) 推荐(1) 编辑
摘要: 1 十进制转其他进制 十进制转成十六进制: Integer.toHexString(int i) 十进制转成八进制 Integer.toOctalString(int i) 十进制转成二进制 Integer.toBinaryString(int i) 2 其他进制转十进制 十六进制转成十进制 Int 阅读全文
posted @ 2021-08-21 10:13 上善若泪 阅读(333) 评论(0) 推荐(0) 编辑
摘要: 目录1 selenium1.1 selenium简介1.2 selenium环境1.3 selenium基本操作1.4 selenium处理iframe1.5 selenium动作链1.6 无头浏览器和规避检测 1 selenium 1.1 selenium简介 Selenium是一个 Web 的自 阅读全文
posted @ 2021-08-15 21:23 上善若泪 阅读(437) 评论(0) 推荐(0) 编辑
摘要: 以下方法除了11和12,其他版本nacicat也都支持,本文是用navicat 12 for mysql作为讲解 ​**navicat注册机是针对nacicat公司开发的软件而制作的一款激活工具,能够生成相对应的注册码和激活码,不仅能够支持激活 nacicat 11系列软件,同时可以激活nacica 阅读全文
posted @ 2021-08-14 18:14 上善若泪 阅读(1777) 评论(0) 推荐(0) 编辑
摘要: 目录1 git简介1.1 Git四大工作区域1.2 Git工作流程1.3 Git文件四种状态2 和gitee连接2.1 创建git仓库2.2 通过ssh公钥连接2.2.1 获取公钥2.2.2 gitee免密码登录2.2.3 配置本地仓库连接远程仓库2.3 通过https连接3 git常用命令3.1 阅读全文
posted @ 2021-08-09 18:15 上善若泪 阅读(534) 评论(0) 推荐(0) 编辑
摘要: 目录1 异步爬虫1.1 异步了解2 多线程2.1 多线程讲解2.2 thread模块2.3 threading3 线程池3.1 单线程串行3.2 使用线程池4 协程操作4.1 协程基本概念4.2 协程基本操作4.2.1 协程对象4.2.2 task对象4.2.3 future对象4.2.4 绑定回调 阅读全文
posted @ 2021-08-09 16:05 上善若泪 阅读(1512) 评论(0) 推荐(0) 编辑
摘要: 目录1 了解robots.txt1.1 基础理解1.2 使用robots.txt2 Cookie2.1 两种cookie处理方式3 常用爬虫方法3.1 bs43.1.1 基础介绍3.1.2 bs4使用3.1.2.1 获取解析对象3.1.2.2 使用bs4解析3.1.2 使用例子3.2 xpath3. 阅读全文
posted @ 2021-08-05 21:22 上善若泪 阅读(198) 评论(0) 推荐(0) 编辑
摘要: [toc] 使用`vscode`一段时间后发现相关配置文件太多需要注意 # 1 修改插件地址 [修改VSCode插件地址](https://jingzh.blog.csdn.net/article/details/108281379) # 2 配置语言环境 ## 2.1 通用配置 在 `vscode 阅读全文
posted @ 2021-07-03 10:57 上善若泪 阅读(221) 评论(0) 推荐(0) 编辑
摘要: 1 配置环境 settings.json·是设置语言环境,launch.json是设置执行环境来执行代码,tasks.json是用来设置指令编译代码 1.1 settings.json 配置python解释器,在vscode界面内按下ctrl+shift+p键,输入python,选择python解释 阅读全文
posted @ 2021-07-03 10:55 上善若泪 阅读(2050) 评论(2) 推荐(0) 编辑