摘要: 一、利用requests请求同步和aiohttp异步,两个结合来获取小说里的内容 1、先利用cookie和session来实现登录 根据post请求,带入参数来建立会话,并获取session 利用session来进行同步请求获取,每一章节的名称和链接地址 通过上面的图,发现在/html/body/d 阅读全文
posted @ 2024-01-26 21:36 zhang0513 阅读(16) 评论(0) 推荐(0) 编辑
摘要: 一、网络背景 现场用的是一台CloudEngine S5731-H24P4XC和一台CloudEngine S5731-H48P4XC来跑分布式 问题1、两台交换机万兆口双芯的线序应该是接反导致两台数据不通,【双芯】 问题2、dir切换盒子视频切不过去,原因两台交换机基本都满载,万兆口带宽不够,采用 阅读全文
posted @ 2024-01-25 20:23 zhang0513 阅读(4) 评论(0) 推荐(0) 编辑
摘要: 一、链接聚合 链路聚合(Eth-Trunk),是将多个物理接口捆绑为一个逻辑接口,实现增加链路带宽、提高可靠性、提供负载分担的目的。 SW1 [SW1]interface Eth-Trunk 1 [SW1-Eth-Trunk1]mode manual load-balance //选择为手动负载分担 阅读全文
posted @ 2024-01-24 20:19 zhang0513 阅读(61) 评论(0) 推荐(0) 编辑
摘要: 一、什么是协程 在单线程中,一个线程在运行的过程中,如果遇到一些IO操作的时候,CPU会停止等待,此时线程会处于阻塞状态,为了更好的利用CPU, 当线程阻塞的时候,让线程去做其他的事情,从而提高CPU的利用率,如下面代码 import time def fun(): print("开始打印,然后休息 阅读全文
posted @ 2024-01-18 20:52 zhang0513 阅读(2) 评论(0) 推荐(0) 编辑
摘要: 一、目的 利用多线程的方式爬取图片,地址:其他电脑动态壁纸 - 其他桌面动态壁纸 - 元气壁纸 (cheetahfun.com) 二、分析 F12分析网页结构,图片的地址都在class = "flex flex-wrap justify-between font-normal"标签中的li里面,只需 阅读全文
posted @ 2024-01-16 19:59 zhang0513 阅读(25) 评论(0) 推荐(0) 编辑
摘要: 一、多线程 1、了解多线程之前,先了解一下单线程程,顾名思义就是一条流水线;看下面代码 def func(): for i in range(100): print('func',i) if __name__ =='__main__': func() for i in range(100): pri 阅读全文
posted @ 2024-01-15 22:45 zhang0513 阅读(11) 评论(0) 推荐(0) 编辑
摘要: 一、图片是以Base64的url地址形式存在 在做爬虫的时候,发现图片URL地址是用data:image/jpeg;base64,开头的,如下图所示 部分开头样式如下:1、data:image/jpg; base64,2、data:image/png; base64,3、data:image/web 阅读全文
posted @ 2024-01-15 16:57 zhang0513 阅读(122) 评论(1) 推荐(0) 编辑
摘要: 一、在使用pycharm的时候有时候会遇到编码问题 pycharm设置模板,每次创建文件都会默认在前面加上utf-8,操作如下 File Encoding中设置编码 二、设置编码 阅读全文
posted @ 2024-01-14 20:38 zhang0513 阅读(8) 评论(0) 推荐(0) 编辑
摘要: 一、分析 要在地址https://www.pearvideo.com/video_1747820中下载视频,首先要找打视频的源地址,查看源代码未发现有源代码, 在元素中找,视频播放的时候,在<video>标签中找下载链接 注意:视频不播放,是看不到视频源地址的,把视频下载地址单独复制下来如下 src 阅读全文
posted @ 2024-01-14 17:06 zhang0513 阅读(20) 评论(0) 推荐(0) 编辑
摘要: 一、以17k的小说网的登录为例,网址小说_17K小说网|最新小说下载-一起免费看小说 当想要在小说网中看一下书架上的书都有哪些,必须得先登录一个账户才能看到,不同的用户登录看到内容也是不一样的,服务器是如何区分的呢? 这里要引入cookie,不同的用户访问到服务器的时候,除了访问地址外,会带cook 阅读全文
posted @ 2024-01-14 15:22 zhang0513 阅读(10) 评论(0) 推荐(0) 编辑