Python 爬虫学习------了解网页结构

学习爬虫,首先要懂网页,支撑起这些网页的不是别的,是一些代码,我们称这些代码为HTML,HTML是一种浏览器(Chorme,Safari,IE,Firefox等)看得懂的语言。
除了HTML,一同构成多彩/多功能网页的组件还有CSS和JavaScript。

HTML

HTML由head和body组成,其中head是不显示在网页上的,而是给浏览器看的;body是显示在网页上的,也是我们大多情况下需要爬取的内容。

BeautifulSoup

  1. 选着要爬的网址(url)
  2. 使用python登陆上这个网址(urlopen等)
  3. 读取网页信息(read()出来)
  4. 将读取的信息放入BeautifulSoup
  5. 使用BeautifulSoup选区tag信息等(代替正则表达式)

安装request和beautiful:
在cmd中,进入Python安装路径下,然后pip install beautifulsoup4

posted @ 2019-09-08 19:14  旅人_Eric  阅读(159)  评论(0编辑  收藏  举报