python爬虫：scrapy框架xpath和css选择器语法

Xpath基本语法

一、常用的路径表达式：

表达式	描述	实例
nodename	选取nodename节点的所有子节点	//div
/	从根节点选取	/div
//	选取所有的节点，不考虑他们的位置	//div
.	选取当前节点	./div
..	选取当前节点的父节点	..
@	选取属性	//@calss

举例元素标签为artical标签

语法	说明
artical	选取所有artical元素的子节点
/artical	选取根元素artical
./artical	选取当前元素下的artical
../artical	选取父元素下的artical
artical/a	选取所有属于artical的子元素a元素
//div	选取所有div 子元素，无论div在任何地方
artical//div	选取所有属于artical的div 元素,无论div元素在artical的任何位置
//@class	选取所有名为class 的属性的
a/@href	选取a标签的href属性
a/text()	选取a标签下的文本
string(.)	解析出当前节点下所有文字
string(..)	解析出父节点下所有文字

二、谓语 
谓语被嵌在方括号内，用来查找某个特定的节点或包含某个制定的值的节点

语法	说明
/artical/div[1]	选取所有属于artical 子元素的第一个div元素
/artical/div[last()]	选取所有属于artical子元素的最后一个div元素
/artical/div[last()-1]	选取所有属于artical子元素的倒数第2个div元素
/artical/div[position()<3]	选取所有属于artical子元素的前2个div元素
//div[@class]	选取所有拥有属性为class的div节点
//div[@class=”main”]	选取所有div下class属性为main的div节点
//div[price>3.5]	选取所有div下元素值price大于3.5的节点

三、通配符 
Xpath通过通配符来选取未知的XML元素

表达式	结果
//*	选取所有元素
//div/*	选取所有属于div元素的所有子节点
//div[@*]	选取所有带属性的元素

四、取多个路径 
使用“|”运算符可以选取多个路径

表达式	结果
//div | //table	选取文档中所有的div和table节点
//div/a | //div/p	选取所有div元素的a和p 元素
artical/div/pl | //span	选取所有div下的pl和文档中所有span

五、Xpath轴 
轴可以定义相对于当前节点的节点集

轴名称	表达式	描述
ancestor	./ancestor::*	选取当前节点的所有先辈节点（父、祖父）
ancestor-or-self	./ancestor-or-self::*	选取当前节点的所有先辈节点以及节点本身
descendant	./descendant::*	返回当前节点的所有后代节点（子节点、孙节点）
child	./child::*	返回当前节点的所有子节点
parent	./parent::*	选取当前节点的父节点
following	./following::*	选取文档中当前节点结束标签后的所有节点
following-sibling	./following-sibling::*	选取当前节点之后的兄弟节点
preceding	./preceding::*	选取文档中当前节点开始标签前的所有节点
preceding-sibling	./preceding-sibling::*	选取当前节点之前的兄弟节点
self	./self::*	选取当前节点
attribute	./attribute::*	选取当前节点的所有属性

六、功能函数 
使用功能函数能够更好的进行模糊搜索

函数	用法	解释
starts-with	//div[starts-with(@id,”ma”)]	选取id值以ma开头的div节点
contains	//div[contains(@id,”ma”)]	选取所有id值包含ma的div节点
and	//div[contains(@id,”ma”) and contains(@id,”in”)]	选取id值包含ma和in的div节点
text()	//div[contains(text(),”ma”)]	选取节点文本包含ma的div节点

注意事项：

1) 按照审查元素的写法不一定正确，要按照网页源码的才行

因为不一样，网页源码才是你看到的

2) 浏览器有自带的复制xpath功能，firefox下载firebug插件

3) xpath有c的速度，所以按照[@class=""]准确性较高

CCS选择器语法

语法	说明
*	选择所有节点
#container	选择id为container的节点
.container	选择所有class包含container的节点
div,p	选择所有 div 元素和所有 p 元素
li a	选取所有li 下所有a节点
ul + p	选取ul后面的第一个p元素
div#container > ul	选取id为container的div的第一个ul子元素
ul ~p	选取与ul相邻的所有p元素
a[title]	选取所有有title属性的a元素
a[href=”http://baidu.com”]	选取所有href属性为http://baidu.com的a元素
a[href*=”baidu”]	选取所有href属性值中包含baidu的a元素
a[href^=”http”]	选取所有href属性值中以http开头的a元素
a[href$=”.jpg”]	选取所有href属性值中以.jpg结尾的a元素
input[type=radio]:checked	选择选中的radio的元素
div:not(#container)	选取所有id为非container 的div属性
li:nth-child(3)	选取第三个li元素
li:nth-child(2n)	选取第偶数个li元素
a::attr(href)	选取a标签的href属性
a::text	选取a标签下的文本

关于更多css语法，可以查看 
http://www.w3school.com.cn/cssref/css_selectors.asp

提取内容

方法	返回
Selector.xpath()	返回SelectorList对象
Selector.css()	返回SelectorList对象
SelectorList.extract()	返回List对象
SelectorList.extract_first(default)	返回String对象，可以有默认值，类似dict.get(key, default)

 

Xpath语法笔记

一、选取节点

常用的路劲表达式：

 

表达式	描述	实例
nodename	选取nodename节点的所有子节点	xpath('//div')	选取了div节点的所有子节点
/	从根节点选取	xpath('/div')	从根节点上选取div节点
//	选取所有的当前节点，不考虑他们的位置	xpath('//div')	选取所有的div节点
.	选取当前节点	xpath('./div')	选取当前节点下的div节点
..	选取当前节点的父节点	xpath('..')	回到上一个节点
@	选取属性	xpath（'//@calss'）	选取所有的class属性

 

二、谓语

谓语被嵌在方括号内，用来查找某个特定的节点或包含某个制定的值的节点

实例：

 

表达式	结果
xpath('/body/div[1]')	选取body下的第一个div节点
xpath('/body/div[last()]')	选取body下最后一个div节点
xpath('/body/div[last()-1]')	选取body下倒数第二个div节点
xpath('/body/div[positon()<3]')	选取body下前两个div节点
xpath('/body/div[@class]')	选取body下带有class属性的div节点
xpath('/body/div[@class="main"]')	选取body下class属性为main的div节点
xpath('/body/div[price>35.00]')	选取body下price元素值大于35的div节点

 

三、通配符

Xpath通过通配符来选取未知的XML元素

 

表达式	结果
xpath（'/div/*'）	选取div下的所有子节点
xpath('/div[@*]')	选取所有带属性的div节点

 

四、取多个路径

使用“|”运算符可以选取多个路径

 

表达式	结果
xpath('//div|//table')	选取所有的div和table节点

 

五、Xpath轴

轴可以定义相对于当前节点的节点集

轴名称	表达式	描述
ancestor	xpath('./ancestor::*')	选取当前节点的所有先辈节点（父、祖父）
ancestor-or-self	xpath('./ancestor-or-self::*')	选取当前节点的所有先辈节点以及节点本身
attribute	xpath('./attribute::*')	选取当前节点的所有属性
child	xpath('./child::*')	返回当前节点的所有子节点
descendant	xpath('./descendant::*')	返回当前节点的所有后代节点（子节点、孙节点）
following	xpath('./following::*')	选取文档中当前节点结束标签后的所有节点
following-sibing	xpath('./following-sibling::*')	选取当前节点之后的兄弟节点
parent	xpath('./parent::*')	选取当前节点的父节点
preceding	xpath('./preceding::*')	选取文档中当前节点开始标签前的所有节点

 

preceding-sibling	xpath('./preceding-sibling::*')	选取当前节点之前的兄弟节点
self	xpath('./self::*')	选取当前节点

 

六、功能函数    

使用功能函数能够更好的进行模糊搜索

 

函数	用法	解释
starts-with	xpath('//div[starts-with(@id,"ma")]')	选取id值以ma开头的div节点
contains	xpath('//div[contains(@id,"ma")]')	选取id值包含ma的div节点
and	xpath('//div[contains(@id,"ma") and contains(@id,"in")]')	选取id值包含ma和in的div节点
text()	xpath('//div[contains(text(),"ma")]')	选取节点文本包含ma的div节点

 

#!/usr/bin/env python

# -*- coding:utf-8 -*-

from scrapy.selector import Selector, HtmlXPathSelector

from scrapy.http import HtmlResponse

html = """<!DOCTYPE html>

<html>

    <head lang="en">

        <meta charset="UTF-8">

        <title></title>

    </head>

    <body>

        <ul>

            <li class="item-"><a id='i1' href="link.html">first item</a></li>

            <li class="item-0"><a id='i2' href="llink.html">first item</a></li>

            <li class="item-1"><a href="llink2.html">second item<span>vv</span></a></li>

        </ul>

        <div><a href="llink2.html">second item</a></div>

    </body>

</html>

"""

response = HtmlResponse(url='http://example.com', body=html,encoding='utf-8')

# hxs = HtmlXPathSelector(response)

# print(hxs)

# hxs = Selector(response=response).xpath('//a')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[2]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[@id]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[@id="i1"]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[@href="link.html"][@id="i1"]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[contains(@href, "link")]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[starts-with(@href, "link")]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[re:test(@id, "i\d+")]')

# print(hxs)

# hxs = Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/text()').extract()

# print(hxs)

# hxs = Selector(response=response).xpath('//a[re:test(@id, "i\d+")]/@href').extract()

# print(hxs)

# hxs = Selector(response=response).xpath('/html/body/ul/li/a/@href').extract()

# print(hxs)

# hxs = Selector(response=response).xpath('//body/ul/li/a/@href').extract_first()

# print(hxs)

 

# ul_list = Selector(response=response).xpath('//body/ul/li')

# for item in ul_list:

#     v = item.xpath('./a/span')

#     # 或

#     # v = item.xpath('a/span')

#     # 或

#     # v = item.xpath('*/a/span')

#     print(v)