摘要: windows操作系统 python版本是3.6.0 通过Anaconda命令conda install scrapy安装scrapy,安装过程中没有问题。 然后在命令行输入命令准备新建项目时,输入 scrapy startproject firstscrapy时出现了 from cryptogra 阅读全文
posted @ 2019-01-12 15:39 橙子的小马甲 阅读(3237) 评论(1) 推荐(1) 编辑
摘要: 以爬取慕课网数据为例 慕课网的数据很简单,就是通过get方式获取的 连接地址为https://www.imooc.com/course/list?page=2 根据page参数来分页 这个时候有两种爬取方式 一种是获取到跳转到下一页的链接,通过递归回调爬取函数来完成爬取过程 主要代码如下:通过css 阅读全文
posted @ 2019-01-12 15:17 橙子的小马甲 阅读(597) 评论(0) 推荐(0) 编辑
摘要: 二话不说,先上代码~ import requests import json def getdata(index): a=input("调用gedata方法") print("正在抓取{index}页数据") payload = {"pageIndex":index, "pageSize":700, 阅读全文
posted @ 2019-01-12 15:11 橙子的小马甲 阅读(2142) 评论(0) 推荐(0) 编辑
Fork me on GitHub