Scrapy 中Filtered offsite request to 'www.sohu.com':报错的解决方法

 

 

1.查到的原因为:

allow domain中的地址和request的地址不一致。

2.解决方案:

将allow domain中的地址修改成和request的地址一致。

或者yield scrapy.Request中添加dont_filter = True

posted @ 2020-03-11 11:07  BruceLong  阅读(379)  评论(0编辑  收藏  举报