BeautifulSoup库使用
# BeautifulSoup库介绍: BeautifulSoup也是一个解析库 BS解析数据是依赖解析器的, BS支持的解析器有html.parser, lxml, xml, html5lib等, 其中lxml 解析器解析速度快, 容错能力强. BS现阶段应用的解析器多数是lxml
# BeautifulSoup 使用步骤: from bs4 import BeautifulSoup soup = BeautifulSoup(res.text, 'lxml') tag = soup.select("CSS选择器表达式") # 返回一个列表
# 选择器分类: 1).节点选择器 2).方法选择器 3).CSS选择器
# CSS选择器: 1.根据节点名及节点层次关系定位标签: 标签选择器 & 层级选择器 soup.select('title') soup.select('div > ul > li') # 单层级选择器 soup.select('div li') # 多层级选择器 2.根据节点的class属性定位标签: class选择器(classical: 经典) soup.select('.panel') 3.根据id属性定位标签: id选择器 soup.select('#item') 4.嵌套选择: ul_list = soup.select('ul') # 得到的依然是一个列表数据类型 for ul in ul_list: print(ul.select('li'))
# 获取节点的文本或属性: tag_obj.string: 获取直接子文本-->如果节点内有与直系文本平行的节点, 该方法拿到的是None tag_obj.get_text(): 获取子孙节点的所有文本 tag_obj['attribute']: 获取节点属性