python xpath定位

最近在学习python爬虫,找到一个有趣的xpath库,记录一下啊

 

表达式描述
nodename 选取此节点的所有子节点。
/ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
. 选取当前节点。
.. 选取当前节点的父节点。
@ 选取属性。
路径表达式结果
bookstore 选取 bookstore 元素的所有子节点。
/bookstore

选取根元素 bookstore。

注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径!

bookstore/book 选取属于 bookstore 的子元素的所有 book 元素。
//book 选取所有 book 子元素,而不管它们在文档中的位置。
bookstore//book 选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。
//@lang 选取名为 lang 的所有属性。

 

需求,我要爬一下啊这个网站的免费代理ip,又想来点简单爬虫。嗯

 

 

 

 

找到ip,定位一下,复制xpath路径

 

 

 到google插件xpath插件,可以提取到ip

 

 

 

 根据规则,提取这页ip可以这样写

//*[@id="content"]/section/div[2]/table/tbody/tr/td[1]/text()

 

 

 

 1 import requests
 2 from lxml import html
 3 etree = html.etree
 4 
 5 headers={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:87.0) Gecko/20100101 Firefox/87.0'}
 6 
 7 url = 'https://www.7yip.cn/free/?action=china&page=1'
 8 html = requests.get(url,headers=headers,timeout=10)
 9 xhtml = etree.HTML(html.content.decode('utf-8'))  #解析网页
10 node = xhtml.xpath('//*[@id="content"]/section/div[2]/table/tbody/tr/td[1]/text()') #填入要获取的xapth地址
11 #把表里面的ip排序一下
12 for i in node:
13     print(i)
14     

 

posted @ 2021-04-18 16:45  蓝银花  阅读(198)  评论(0编辑  收藏  举报
Live2D