爬虫 修改 下拉框

爬取某个网站,可以通过修改下拉框来实现数据批量加载

 

上图我们可以看到   view 下面的下拉框  的值是25 ,50 ,100 ,200。我们把200的值修改为5200,然后提交页面

 

 

 

然后直接出来所有的数据,不在需要做翻页:

 

 爽不爽啊,请求的时候注意把cookie复制到请求头里面,有些网站是通过cookie控制翻页的

 

posted @   淋哥  阅读(2512)  评论(0编辑  收藏  举报
编辑推荐:
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
阅读排行:
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 提示词工程——AI应用必不可少的技术
点击右上角即可分享
微信分享提示