用requests库和BeautifulSoup4库爬取新闻列表

1.用requests库和BeautifulSoup4库,爬取校园新闻列表的时间、标题、链接、来源。

import requests
from bs4 import BeautifulSoup
url1='http://news.gzcc.cn/html/xiaoyuanxinwen/'
res=requests.get(url1)
res.encoding='utf-8'
soup=BeautifulSoup(res.text,'html.parser')
##print(res.text)
print("##########################################################################\n##########################################################################")
for news in soup.select('li'):
    if len((news.select('.news-list-title')))>0:
        time=news.select('.news-list-info')[0].span.text#时间
        title=news.select('.news-list-title')[0].contents[0]#标题
        url=news.select('a')[0]['href']#链接
        source=news.select('.news-list-info')[0].select('span')[1].text
        print( "时间:",time,"\t标题:",title,"\t链接:",url,"来源:",source)

结果:

2.选一个自己感兴趣的主题,做类似的操作,为“爬取网络数据并进行文本分析”做准备。

 

posted @ 2017-09-27 17:08  勇敢の牛肉丸  阅读(183)  评论(0编辑  收藏  举报