选择、操作web元素

11月1日

什么是web元素

Selenium自动化主要就是:选择界面元素,操作界面元素(输入操作:点击、输入文字、拖拽等,输出操作:获取元素的各种属性),根据界面上获取的数据进行分析和处理

选择元素

webdriver:操作整个浏览器和当前整个页面

  当前页面上的选择符合查找条件的对象

  打开网页,回退,前进,刷新网页

  获取、改变浏览器窗口的大小,关闭浏览器,截屏

  获取、设置cookies

WebElement:操作和对应web元素

  当前web元素的所有子元素里面符合查找条件的对象

  操作该web元素,比如:点击元素,输入字符,获取元素坐标、尺寸、文本内容、其它的属性信息

通过id选择元素

一个web元素

id是在DOM中唯一标志这个元素的属性:查找的效率最高

写法1:element = driver.find_element_by_id("kw")

写法2:

from selenium.webdirver.common.by import By

element = driver.find_element(by = By.ID,value = "kw")

没有找到

selenium.common.exception.NoSuchElementException

获取元素信息

text属性 显示该元素在web页面显示出来的文本内容

get_attribute 方法

某个属性的值 :ele.get_attribute('href')

该元素对应html源代码 :ele.get_attribute('outerHTML')

该元素的内部部分的html代码:ele.get_attribute('innerHTML')

BeautifulSpup4               官方文档https://www.crummy.com/software/BeautifulSoup/bs4/doc.zh/

BS 是可以从HTML或XML文件中提取数据的库,Selenium 可以用来远程获取数据,有的时候感觉用selenium获取某些元素数据不太方便,可以将其父节点的html获取回来,利用BS在本地做分析

我们可以将它和Selenium 两种技术融合使用,达到我们的目的

安装

pip install beautifulsoup4 -i https://pypi.douban.com/simple/

pip install html5lib

soup =BeautifulSoup(html_doc, "html5lib")

print (soup.find('title')) <=> print (soup.title)     查找结尾为标签名为title的第一个元素

print (soup.find('title').name) <=> print (soup.title.name)  获取标签名

print (soup.find('title').string)  <=> print (soup.find('title').get_text())     获取标签名为title的文本

获取元素在尖括号里                         获取元素有子节点

print (soup.find_all('a')) 标签为a的所有元素的列表

通过name选择元素

一个web元素

<input name = "cheese" type = "text"/>

返回的是第一个找到的元素

cheese = driver.find_element_by_name("cheese")

或者

from selenium.webdirver.common.by import By

cheese = driver.find_element(By.NAME,"cheese")

返回所有元素

cheese = driver.find_elements_by_name("cheese")

或者

form selenium.webdriver.common.by import By

cheese = driver.find_elements(BY.NAME, "cheese")

如果找不到,返回空列表,不抛出异常

else = driver.find_elements_by_name('button3')

if eles:

  print('存在‘)

else:

  print(‘不存在’)

通过class选择元素,class比较多,通常查找的是列表

一个web元素

<div class= "cheese"><span>Cheddar</span></div>

<div class= "cheese"><span>Gouda</span></div>

返回所有元素

cheese = driver.find_elements_by_class_name("cheese")

或者

form selenium.webdirver.common.by import By

cheese = driver.find_elements(By.CLASS_NAME, "cheese")

通过tag名选择元素

tag名如果唯一的,可以通过tag名定位

假设html中有如下片段

<iframe src="..."></iframe>

可以

frame = driver.find_element_by_tag_name("iframe")

或者

from selenium.webdriver.common.by import By

frame = dirver.find_element(By.TAG_NAME,"iframe")

通过链接文本选择元素

对于链接,可以通过其链接文本的内容

<a href = "http://www.baidu.com">转到百度</a>

可以这样选择

ele = driver.find_element_by_link_text(u"转到百度"),python3 中不用加u

或者

from selenium.webdirver.common.by import By

ele = dirver.find_element(By.LINK_TEXT,u"转到百度“)

我们甚至只需要通过部分文本去找到该链接元素

ele = driver.find_element_by_partial_link_text(u"百度")

多钟技术实现目的

方法一

from selenium import webdriver

driver = webdriver.Chrome(r‘’)

driver.get('http://www.weather.com.cn/html/province/jiangsu.shtml')

ele = driver.find_element_by_id('forecastID')

# 写到这里,先运行一下,看看执行结果 
# 然后就是安装我们前面的一贯的思路,可以将
# 每个城市的信息存放到一个列表中
# 问大家怎么做?

cityWeathers = ele.text.split('℃\n')

#南京

#11℃/22

 

# 这样:citysWeather是每个城市的温度信息 list 
#
# 每个元素像这样: # 南京 # 12/27
#下面就是算法,算出温度最低城市,
# 有很多方法,大家看看这种
# 我们循环 去遍历这个城市文档信息列表,
# 得到城市名和 低气温的值,
#
# 依次和取出当前的所有城市最低气温比较,
# 如果更低,就记录到当前的低温城市列表中。

 

lowest = None # 记录目前最低温,先设置为None

lowestCities = [] # 温度最低城市列表

for one in cityWeahters:

  one = one.replace('','')

  cityname = one.split('\n')[0]

  lowTemp = int(one.split('\n')[1].split('/')[0])

  if lowest == None:

    lowest = lowTemp

    lowestCities.append()

  else lowTemp < lowest:

    lowest = lowTemp

    lowestCities = [cityname]

  elif lowTemp == lowest:

    lowestCities.append(cityname)

  print(f"最低温度为{lowest},城市有{','.join(lowestCities)}")

  driver.quit()

*************************************

 

from selenium import webdriver

driver = webdriver.Chrome(r‘’)

driver.get('http://www.weather.com.cn/html/province/jiangsu.shtml')

ele = driver.find_element_by_id('forecastID')

dls = ele.find_elements_by_tag_name('dl')

citys = []

for dl in dls:

  name = dl.find_element_by_tag_name('dt')

  ltemp = dl.find_element_by_tag_name('span').text

# 最高最低气温位置会变,根据位置决定是span还是b

 

  ltemp = int(ltemp.replace('','')

  citys.append([name,ltemp)

lowest = None

lowestCities = []

for one in citys:

  urcity = one[0]

  ltemp = one[1]

  curlowweather = ltemp

  if lowest == None or ltemp < lowest:

    lowest = ltemp

    lowestcitys = [curcity]

  elif ltemp == lowest:

    lowestCitys.append(curcity)

 

  print(f"最低温度为{lowest},城市有{','.join(lowestCities)}")

 

  driver.quit()

************************************************

 

from selenium import webdriver

driver = webdriver.Chrome(r‘’)

driver.get('http://www.weather.com.cn/html/province/jiangsu.shtml')

ele = driver.find_element_by_id('forecastID')

html_doc = ele.get_attribute('innerHTML')

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_doc, "html5lib")

dls = soup.find_all('d1')

citys = []

for dl in dls;

  name =dl.dt.a.string

  ltemp = dl.dd.span.string

  ltemp = int(ltemp.replace('℃',''))

  print(name, ltemp)

  citys.append([name,ltemp])

 

lowest = None

lowestCities = []

for one in citys:

  curcity = one[0]

  ltemp = one[1]

  curlowweather = ltemp

  if lowest == None or ltemp < lowest:

    lowest = ltemp

    lowestcitys = [curcity]

  elif ltemp == lowest:

    lowestCitys.append(curcity)

  print(f"最低温度为{lowest},城市有{','.join(lowestCities)}")

  driver.quit()

 

  

 

 

Selenium 作业 1

  1. 请到如下网址下载Chrome浏览器 的 web driver 驱动

https://chromedriver.storage.googleapis.com/2.33/chromedriver_win32.zip

  1. pip 安装Selenium Web driver Python 客户端库
练习1


1 访问如下网站,
http://121866.com/cust/sign.html

先注册一个账号, 记住用户名和密码。

2 然后开发一个自动化程序, 使用 用户名密码 自动化登录该网站,
并通过检查登录后右上角显示的用户名判断,是否登录成功。




练习2


1. 访问天气查询网站(网址如下),查询江苏省天气 
http://www.weather.com.cn/html/province/jiangsu.shtml

2. 获取江苏所有城市的天气,并找出其中每天最低气温最低的城市,显示出来,比如 
温度最低为12℃, 城市有连云港 盐城 

参考答案,往下翻

 

练习1

from selenium import webdriver
import time

driver = webdriver.Chrome(r"d:\tools\webdrivers\chromedriver.exe")

# ------------------------
driver.get('http://121866.com/cust/sign.html')

driver.find_element_by_id("username").send_keys('xxxx')
driver.find_element_by_id("password").send_keys('xxxx')

driver.find_element_by_id("btn_sign").click()
time.sleep(2)

expectStr = driver.find_element_by_id("username").text
if 'xxxx' ==  expectStr:
    print('测试通过')
else:
    print('测试不通过')

# ------------------------
input()
driver.quit()

练习2

from selenium import webdriver
driver = webdriver.Chrome(r"d:\tools\webdrivers\chromedriver.exe")

# ------------------------
driver.get('http://www.weather.com.cn/html/province/jiangsu.shtml')

ele = driver.find_element_by_id("forecastID")
print(ele.text)

''' 
citysWeather是每个城市的温度信息 list

每个元素像这样:
南京
12℃/27
'''
citysWeather = ele.text.split(u'℃\n')


# 算出温度最低城市

lowest = 100
lowestCity = []  # 温度最低城市列表
for one in citysWeather:
    one = one.replace(u'℃','')
    print(one)
    curcity = one.split('\n')[0]
    lowweather = one.split('/')[1]
    lowweather = int(lowweather)
    # 发现气温更低的城市
    if lowweather<lowest:
        lowest = lowweather
        lowestCity = [curcity]
    #  温度和当前最低相同,加入列表
    elif lowweather ==lowest:
        lowestCity.append(curcity)

print('温度最低为%s℃, 城市有%s' % (lowest, ' '.join(lowestCity)))

# ------------------------

driver.quit()

 

 

 

 

 

 

 

posted @ 2017-11-06 18:01  午间小憩  阅读(466)  评论(0编辑  收藏  举报