摘要: 一、背景 目前百度爬虫爬取业务总是按照自己的性能进行抓取客户数据,从来不考虑客户端的网络承受能力,导致客户端网络带宽超出预算范围,因此在客户端方面针对百度的无限制抓取采取相应的策略。 二、解决方案: 1、单独用一个公网IP承载百度抓取业务。例:123.103.77.13 2、在交换机上针对IP:12 阅读全文
posted @ 2021-05-31 11:28 语~默 阅读(1067) 评论(0) 推荐(0) 编辑