上一页 1 2 3 4 5 6 7 ··· 19 下一页
摘要: TestCase(测试用例): 是unittest中最重要的一个类,用于编写测试用例类,是所有测试用例类的父类,实现了测试用例的基本代码 TestSuite(测试套件、测试集) 可以把对歌TestCase组织、打包集成到一个测试集中一起执行,TestSuite可以实现多个测试用例的执行。 TextT 阅读全文
posted @ 2022-06-15 22:47 安好_世界 阅读(41) 评论(0) 推荐(0) 编辑
摘要: 改成字符串,完美解决。哈哈哈哈 实例:'true','false' 阅读全文
posted @ 2022-06-06 23:19 安好_世界 阅读(369) 评论(0) 推荐(0) 编辑
摘要: bookstoscrape 1 import scrapy 2 from spider_01_books.items import BookItem 3 4 class BookstoscrapeSpider(scrapy.Spider): 5 """爬虫类,继承spider""" 6 #爬虫名称- 阅读全文
posted @ 2022-05-30 23:41 安好_世界 阅读(202) 评论(0) 推荐(0) 编辑
摘要: 测试命令:scrapy shell http://books.toscrape.com/可以填写任何url 返回的这些对象我们可以直接去使用 例如验证自己的xpath编写是否正确。 阅读全文
posted @ 2022-05-30 00:03 安好_世界 阅读(20) 评论(0) 推荐(0) 编辑
摘要: 实例: class Request(url, callback=None,method='GET',headers= None,body=None,cookies=None, meta=None,encodings='utf-8',priority=0,dont_filter=False,errba 阅读全文
posted @ 2022-05-05 17:27 安好_世界 阅读(367) 评论(0) 推荐(0) 编辑
摘要: 安装:pip install scrapy -i https://pypi:tuna.tsinghua.edu.cn/simple 测试验证安装结果: 创建一个项目:在shell中使用scrapyard startproject name 使用pycharm工具打开 1.scrapy.cfg :sc 阅读全文
posted @ 2022-05-02 23:03 安好_世界 阅读(59) 评论(0) 推荐(0) 编辑
摘要: #!/usr/bin/env python# -*- coding: utf-8 -*-# @Time : 2022/1/18 20:51# @Author : Lhtester# @Site : # @File : 灰度化.py# @Software: PyCharmimport pytesser 阅读全文
posted @ 2022-01-18 21:24 安好_世界 阅读(93) 评论(0) 推荐(0) 编辑
摘要: 1.模拟用户操作获取数据 #!/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2021/12/2 21:10 # @Author : Lhtester # @Site : # @File : 爬取京东商品.py # @Software: P 阅读全文
posted @ 2021-12-03 01:58 安好_世界 阅读(64) 评论(0) 推荐(0) 编辑
摘要: #!/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2021/11/30 21:15 # @Author : Lhtester # @Site : # @File : try.py # @Software: PyCharm from sel 阅读全文
posted @ 2021-11-30 21:31 安好_世界 阅读(186) 评论(0) 推荐(0) 编辑
摘要: 总结思路: 1.循环遍历得到所有的URL 2.使用线程池发送所有的请求,获取响应。 3.在2的响应字符串中使用json.loads()方法转换为字典后提取需要的数据信息。 4.将信息数据保存到MongoDB中 注释:mongoDB需要开通外网访问。默认只有本地访问。 #!/usr/bin/env p 阅读全文
posted @ 2021-11-16 22:48 安好_世界 阅读(31) 评论(0) 推荐(0) 编辑
上一页 1 2 3 4 5 6 7 ··· 19 下一页