python+selenium实现网页自动化与爬虫技术

目录：

一、python环境与selenium环境安装

二、搜索商品后点击搜索按钮提交

三、元素定位，找到对应信息，并保存

四、结果预览与总结

 

 

 

举例某购物网站，通过selenium与python，实现主页上商品的搜索，并将信息爬虫保存至本地excel表内。

一、python环境与selenium环境安装

python在官网下载并安装并且设置环境变量。

selenium通过命令行下，pip install selenium进行安装，python与selenium都建议使用3.0版本

这里使用chrome浏览器，下载chrome对应版本的webdrver驱动，将webdriver驱动放在python跟目录下。

 

chrome浏览器的版本通过这个方法查询:帮助-关于Google Chrome(G)

 

 

 

 

二、搜索商品后点击搜索按钮提交

这里需要用到selenium库、time库（其中sleep用于等待）以及xlwt（用于保存excel表）

from selenium import  webdriver
from time import sleep
import xlwt
#打开浏览器,这里用的chrome
d=webdriver.Chrome()
#设置窗口最大化
d.maximize_window()
#设置隐式等待
d.implicitly_wait(30)
#打开网页
d.get("https://www.jd.com/")
#使用元素定位id找到搜索框
d.find_element_by_id("key").send_keys("洗发水")
#使用xpath定位到搜索按钮
d.find_element_by_xpath("/html/body/div[1]/div[4]/div/div[2]/div/div[2]/button").clic

 

 

三、元素定位，找到对应信息，并保存

 

#初始化excel表
excel=xlwt.Workbook(encoding="utf-8")
#增加sheet页
sheet=excel.add_sheet("sheet1",cell_overwrite_ok=True)
#定义第1行的内容,以及初始化num,用于从第二行开始写入对应的数据
sheet.write(0,0,'序号')
sheet.write(0,1,'商品')
sheet.write(0,2,'价格')
num=1
#通过元素定位面找到,在页面上找到对应商品的各个元素位置
goods=d.find_elements_by_xpath("/html/body/div[6]/div[2]/div[2]/div[1]/div/div[2]/ul/li")
sleep(5)
for good in goods:
    #分别找到商品与价格所在的元素,并且取其中的文本信息,并去空行
    price=good.find_element_by_xpath("div/div[3]/strong").text.replace("\n","-")
    goodtext=good.find_element_by_xpath("div/div[4]/a/em").text.replace("\n","-")
    sheet.write(num,0,num)
    sheet.write(num,1,goodtext)
    sheet.write(num,2,price)
    num+=1
    #print(goodtext,"|",price)
#保存至excel表
excel.save(r"C:\Users\Mr.White\Desktop\test001\jd.xls")
#页面退出
d.quit()

 

 

 

 

 

四、结果预览与总结

 

1、网页自动化过程中最主要的难度是元素定位，后面会专门去介绍一下元素定位

2、页面可能随着前端代码的变化，会使原本可以跑通的脚本失效，有一定维护成本，如何设计合理的自动化脚本就显得比较重要。