会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
英雄莫问出处,富贵当思缘由
博客园
首页
新随笔
联系
订阅
管理
解决 scrapy 爬虫出现Forbidden by robots.txt
我们在爬取网站的时候,scrapy 默认的是遵循 robots.txt 协议,怎么破解这个文件
操作很简单,找到setting 文件
直接改成
如果觉得对您有帮助,麻烦您点一下推荐,谢谢!
好记忆不如烂笔头
posted @
2017-07-27 21:08
淋哥
阅读(
1731
) 评论(
0
)
编辑
收藏
举报
刷新页面
返回顶部
公告