抓取某网站数据被限制时的解决方案
1 2 3 4 5 6 7 8 9 | server { listen 80; server_name abc.bbb.cn; location / { proxy_pass http: //www.abxxx.com/; proxy_set_header User-Agent "Mozilla/5.0 (iPhone; CPU iPhone OS 13_2_3 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/13.0.3 Mobile/15E148 Safari/604.1" ; } } |
如果你想抓去 www.abxxx.com 网站中的数据,出现链接被重置等问题时,可以使用nginx 进行伪造正常用户的请求,得到抓取数据的效果。此时代码中请求的 www.abxxx.com 需要替换成 anc.bbb.cn
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步