Python-爬虫-selenium下拉刷新到底部

def parse():         browser = webdriver.Chrome()
     # 加载界面
     browser.get(response.request.url)
     sleep(3)
     # 获取页面初始高度
     js = "return action=document.body.scrollHeight"
     height = browser.execute_script(js)
     # 将滚动条调整至页面底部
     browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')
     sleep(5)
     # 定义初始时间戳(秒)
     t1 = int(time.time())
     # 定义循环标识,用于终止while循环
     status = True
     # 重试次数
     num = 0
     while status:
        # 获取当前时间戳(秒)
        t2 = int(time.time())
        # 判断时间初始时间戳和当前时间戳相差是否大于30秒,小于30秒则下拉滚动条
        if t2 - t1 < 30:
           new_height = browser.execute_script(js)
           if new_height > height:
                    sleep(2)
                    browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')
                    # 重置初始页面高度
                    height = new_height
                    # 重置初始时间戳,重新计时
                    t1 = int(time.time())
            elif num < 3:  # 当超过30秒页面高度仍然没有更新时,进入重试逻辑,重试3次,每次等待30秒
                sleep(3)
                t1 = int(time.time())
                num = num + 1
            else:  # 超时并超过重试次数,程序结束跳出循环,并认为页面已经加载完毕!
                print("滚动条已经处于页面最下方!")
                status = False
                # 滚动条调整至页面顶部
                browser.execute_script('window.scrollTo(0, 0)')
                break
            sleep(3)
        # 打印页面源码
        driver = browser.page_source
        print(driver)

 

参考资料

  1. https://www.cnblogs.com/ZH-YC/p/14430062.html
  2. selenium下拉框拉到最底部的判断
posted @   猴子吃桃_Q  阅读(11)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
阅读排行:
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?
点击右上角即可分享
微信分享提示