摘要: movie.py import scrapyfrom scrapy.linkextractors import LinkExtractorfrom scrapy.spiders import CrawlSpider, Rulefrom zlsPro.items import ZlsproItemfr 阅读全文
posted @ 2021-01-16 15:36 失忆525 阅读(101) 评论(0) 推荐(0) 编辑
摘要: fenbushi.py import scrapyfrom scrapy.linkextractors import LinkExtractorfrom scrapy.spiders import CrawlSpider, Rulefrom scrapy_redis.spiders import R 阅读全文
posted @ 2021-01-16 15:11 失忆525 阅读(66) 评论(0) 推荐(0) 编辑
摘要: 提取符合正则要求的urlimport scrapyfrom scrapy.linkextractors import LinkExtractorfrom scrapy.spiders import CrawlSpider, Ruleclass SunSpider(CrawlSpider): name 阅读全文
posted @ 2021-01-13 21:33 失忆525 阅读(41) 评论(0) 推荐(0) 编辑
摘要: middlewares.py class MiddlewareDownloaderMiddleware: @classmethod def from_crawler(cls, crawler): # This method is used by Scrapy to create your spide 阅读全文
posted @ 2021-01-13 20:57 失忆525 阅读(67) 评论(0) 推荐(0) 编辑
摘要: 爬取电影网站 movie.py import scrapyfrom MyProjectDianying.items import MyprojectdianyingItemclass MovieSpider(scrapy.Spider): name = 'movie' # allowed_domai 阅读全文
posted @ 2021-01-13 19:44 失忆525 阅读(193) 评论(0) 推荐(0) 编辑
摘要: window下: 1.先安装well pip install wheel 2.先下载twisted 网址:https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 3.安装twisted pip install Twisted-20.3.0-cp38-c 阅读全文
posted @ 2021-01-09 21:31 失忆525 阅读(150) 评论(0) 推荐(0) 编辑
摘要: 处理办法 将operations.py中的query = query .decode(errors='replace')改为query = query .encode(errors='replace') 阅读全文
posted @ 2020-11-29 21:15 失忆525 阅读(62) 评论(0) 推荐(0) 编辑
摘要: 1.打开电脑系统属性,然后点击环境变量 2.创建环境变量 2.1创建虚拟环境的环境变量 点击新建 输入变量名:WORKON_HOME;变量值:环境变量的路径,然后确定 2.2设置SQL的环境变量 选择Path,然后点击编辑 然后点击新建,添加路径D:\software\phpstudy_pro\Ex 阅读全文
posted @ 2020-11-29 18:26 失忆525 阅读(130) 评论(0) 推荐(0) 编辑