python爬虫：BeautifulSoup库find_all ()、find()方法详解

find()和findAll()官方定义如下：

findAll(tag, attributes, recursive, text, limit, keywords)
find(tag, attributes, recursive, text, keywords)

唯一区别：

   *find()返回的是第一个匹配的标签结果

   *find_all()返回的是所有匹配结果的列表

 

一般只用前2个参数：tag，attributes。

tag
可以传一个标签的名称或多个标签名称组成的 Python列表做标签参数。例如，下面的代码将返回一个包含 HTML 文档中所有标题标签的列表： 
.findAll({"h1","h2","h3","h4","h5","h6"})

 

attributes
属性参数 attributes 是用一个 Python 字典封装一个标签的若干属性和对应的属性值。例如，下面这个函数会返回 HTML 文档里红色与绿色两种颜色的 span 标签：
.findAll("span", {"class":{"green", "red"}})
如果只返回一种颜色的，如绿色：
.findAll("span", {"class": "green"})

 

recursive
递归参数 recursive 是一个布尔变量。你想抓取 HTML 文档标签结构里多少层的信息？如果recursive 设置为 True ， findAll 就会根据你的要求去查找标签参数的所有子标签，以及子标签的子标签。如果 recursive 设置为 False ， findAll 就只查找文档的一级标签。 findAll默认是支持递归查找的（ recursive 默认值是 True ）；一般情况下这个参数不需要设置。

 

text
文本参数 text 有点不同，它是用标签的文本内容去匹配，而不是用标签的属性。假如我们想查找前面网页中包含“the prince”内容的标签数量，我们可以把之前的 findAll 方法换成下面的代码：

nameList = bsObj.findAll(text="the prince")
print(len(nameList))

 

limit
范围限制参数 limit ，显然只用于 findAll 方法。 find 其实等价于 findAll 的 limit 等于1 时的情形。如果你只对网页中获取的前 x 项结果感兴趣，就可以设置它。

 

keywords
可以让你选择那些具有指定属性的标签，属于冗余的技术，如下所示：第一行采用keywords,第二行采用前两个参数：tag、attributes

bsObj.findAll(id="text")
bsObj.findAll("", {"id":"text"})

用 keyword 偶尔会出现问题，尤其是在用 class 属性查找标签的时候，因为 class 是 Python 中受保护的关键字。所以一般只采用前2个参数tag、attributes即可。