爬取校园新闻首页的新闻
1. 用requests库和BeautifulSoup库,爬取校园新闻首页新闻的标题、链接、正文。
import requests from bs4 import BeautifulSoup from datetime import datetime res = requests.get("http://news.gzcc.cn/html/xiaoyuanxinwen/") res.encoding = 'utf-8' soup = BeautifulSoup(res.text, 'html.parser') for news in soup.select('li'): if len(news.select('.news-list-title')) > 0: r = news.select('.news-list-title')[0].text #正文内容 d = news.select('.news-list-info')[0].contents[0].text #新闻发布时间 t = news.select('.news-list-info')[0].contents[1].text #来源 g = news.select('a')[0].attrs['href'] #链接 print(r,d,t,g)
2. 分析字符串,获取每篇新闻的发布时间,作者,来源,摄影等信息。
法一:
resd = requests.get(g) resd.encoding = 'utf-8' soupd = BeautifulSoup(resd.text, 'html.parser') x = soupd.select('.show-content')[0].text t1 = soupd.select('.show-info')[0].text.split() #每篇新闻的发布时间,作者,来源 print(t1) s = t1[0].lstrip('发布时间:') + " " + t1[1] #发布时间 s1 = t1[2].lstrip('作者:') #作者 s2 = t1[3].lstrip('审核:') #审核 s3 = t1[4].lstrip("来源:") #来源 print(s, s1, s2, s3)
二:
t2 = soupd.select('.show-info')[0].text print(t2) q = t2.lstrip('发布时间:')[:19] q1 = t2.split()[2].lstrip('作者:') print(q, q1)
3. 将其中的发布时间由str转换成datetime类型。
dati = datetime.strptime(s, '%Y-%m-%d %H:%M:%S') print(type(dati)) print(dati, dati.strftime('%Y/%m/%d'))
4. 将完整的代码及运行结果截图发布在作业上。