scrapy学习2
使用scrapy的版本:1.6.0
1.新建一个爬虫项目
scrapy startproject <项目名称>
我创建第一个scrapy爬虫:scrapy startproject firstSpider
执行过后会生成一个文件,文件结构为:
文件介绍:
firstSpider/:项目的python模块
firstSpider/items.py: 目标文件
作用:定义结构化数据字段,用来保存爬取的数据
mySpider/pipelines.py: 管道文件
mySpider/setting.py: 设置文件
mySpider/spiders/: 存储爬虫代码目录
scrapy.cfg: 项目的配置文件
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 地球OL攻略 —— 某应届生求职总结
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 提示词工程——AI应用必不可少的技术
· .NET周刊【3月第1期 2025-03-02】