摘要: 0x00 概述 需要成功安装scrapy,安装方法与本文无关,不在这多说。 0x01 配置settings 由于百度对于user-agent进行验证,所以需要添加。 settings.py中找到DEFAULT_REQUEST_HEADERS,设置好后如下: settings.py中找到ROBOTST 阅读全文
posted @ 2017-07-18 23:29 米怀特 阅读(615) 评论(0) 推荐(0) 编辑