摘要: User-Agent 其值为一些搜索引擎,代表是谁在访问此网页 一般我们需要通过设置此值来伪装成浏览器,从而绕过一些反爬措施 注意:如果需要频繁的爬取一个网页,最好弄一个User-Agent的列表来随时切换,从而避免被网站检测到 Accept-Encoding 一般我们请求网页的时候,服务器有可能会 阅读全文
posted @ 2021-08-10 10:05 YruiZ 阅读(363) 评论(0) 推荐(0) 编辑