selenium模拟页面向下滚动加载全部页面

一些网站在访问时不会一次加载所有元素,需要下拉至底部后等待刷新更多元素出来,利用selenium执行js代码滚动页面,每次重新获取页面高度,直到页面高度不再变化。

复制代码
js='return document.body.scrollHeight;'
height=0
while True: new_height = driver.execute_script(js) if new_height > height: driver.execute_script('window.scrollTo(0, document.body.scrollHeight)') height = new_height time.sleep(5) else: print("滚动条已经处于页面最下方!") driver.execute_script('window.scrollTo(0, 0)')#页面滚动到顶部 break
复制代码

这是通用的做法,对于具体的网站可以做一些针对性变化,比如,某网站页面初始载入比较慢,利用某个元素判断是否已加载完成

total=browser.find_element_by_id('total').text#判断元素是否已加载
while total == '':
    time.sleep(1)
    total=browser.find_element_by_id('total').text

然后开始循环下拉载入所有元素,利用元素属性判断是否已加载,

当全部载入完毕后,页面底部会有提示,利用这个元素判断是否已载入完毕

复制代码
is_done=browser.find_element_by_id('loading').text
while is_done == '':  
    browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')#一撸到底
    is_ready=browser.find_element_by_id('loading').get_attribute('class')
    while is_ready == 'tc mt-10':#判断下拉页面是否刷新
        time.sleep(1)
        is_ready=browser.find_element_by_id('loading').get_attribute('class')
        is_done=browser.find_element_by_id('loading').text#当页面底部提示出现,表示已经加载全部元素
        if is_done != '':
            break

print("滚动条已经处于页面最下方!")
复制代码

 

posted @   shang的学习园地  阅读(3161)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
阅读排行:
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 零经验选手,Compose 一天开发一款小游戏!
· 因为Apifox不支持离线,我果断选择了Apipost!
· 通过 API 将Deepseek响应流式内容输出到前端
点击右上角即可分享
微信分享提示