获取一篇新闻的全部信息
2019-04-02 22:11 CMis180kg 阅读(203) 评论(0) 编辑 收藏 举报作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894
给定一篇新闻的链接newsUrl,获取该新闻的全部信息
标题、作者、发布单位、审核、来源
发布时间:转换成datetime类型
点击:
- newsUrl
- newsId(使用正则表达式re)
- clickUrl(str.format(newsId))
- requests.get(clickUrl)
- newClick(用字符串处理,或正则表达式)
- int()
整个过程包装成一个简单清晰的函数。
实现的主要代码如下:
import re import requests from bs4 import BeautifulSoup from datetime import datetime def newstime(url,soup):#时间 ''' time=soup.select('.show-info')[0].text[5:24] time=soup.select('.show-info')[0].text.split()[0].lstrip('发布时间') ''' newsdate=soup.select('.show-info')[0].text.split()[0].split(':')[1] newstime=soup.select('.show-info')[0].text.split()[1] time=newsdate+' '+newstime time=datetime.strptime(time,'%Y-%m-%d %H:%M:%S') return time def newsnum(url):#新闻编号 newsid=re.match('http://news.gzcc.cn/html/2019/meitishijie_0321/(.*).html',url).group(1) return newsid def click(url):#浏览次数 clickurl='http://oa.gzcc.cn/api.php?op=count&id=11029&modelid=80' res=requests.get(clickurl) click=res.text.split('.html')[-1].lstrip("('").rstrip("');") return click def news(url):#作者、来源等 res=requests.get(url) res.encoding='utf-8' soup=BeautifulSoup(res.text,'html.parser') title=soup.select('.show-title')[0].text author=soup.select('.show-info')[0].text.split()[2] auditor=soup.select('.show-info')[0].text.split()[3] comefrom=soup.select('.show-info')[0].text.split()[4] detail=soup.select('.show-content p')[0].text newsid=newsnum(url) time=newstime(url,soup) clicktime=click(url) p=print(newsid,title,time,author,auditor,comefrom,detail,clicktime) return p #新闻链接 url="http://news.gzcc.cn/html/2019/meitishijie_0321/11033.html" news(url)
执行结果如下图所示: