Python 爬虫学习------了解网页结构
学习爬虫,首先要懂网页,支撑起这些网页的不是别的,是一些代码,我们称这些代码为HTML,HTML是一种浏览器(Chorme,Safari,IE,Firefox等)看得懂的语言。
除了HTML,一同构成多彩/多功能网页的组件还有CSS和JavaScript。
HTML
HTML由head和body组成,其中head是不显示在网页上的,而是给浏览器看的;body是显示在网页上的,也是我们大多情况下需要爬取的内容。
BeautifulSoup
- 选着要爬的网址(url)
- 使用python登陆上这个网址(urlopen等)
- 读取网页信息(read()出来)
- 将读取的信息放入BeautifulSoup
- 使用BeautifulSoup选区tag信息等(代替正则表达式)
安装request和beautiful:
在cmd中,进入Python安装路径下,然后pip install beautifulsoup4