获取一篇新闻的全部信息

作业要求来源于：https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894

 

给定一篇新闻的链接newsUrl，获取该新闻的全部信息

标题、作者、发布单位、审核、来源

发布时间:转换成datetime类型

点击：

• newsUrl
• newsId(使用正则表达式re)
• clickUrl(str.format(newsId))
• requests.get(clickUrl)
• newClick(用字符串处理，或正则表达式)
• int()

整个过程包装成一个简单清晰的函数。

 

实现的主要代码如下：

import re
import requests
from bs4 import BeautifulSoup
from datetime import datetime

def newstime(url,soup):#时间
    '''
    time=soup.select('.show-info')[0].text[5:24]
    time=soup.select('.show-info')[0].text.split()[0].lstrip('发布时间')
    '''
    newsdate=soup.select('.show-info')[0].text.split()[0].split(':')[1]
    newstime=soup.select('.show-info')[0].text.split()[1]
    time=newsdate+' '+newstime
    time=datetime.strptime(time,'%Y-%m-%d %H:%M:%S')
    return time  

def newsnum(url):#新闻编号
    newsid=re.match('http://news.gzcc.cn/html/2019/meitishijie_0321/(.*).html',url).group(1)
    return newsid

def click(url):#浏览次数
    clickurl='http://oa.gzcc.cn/api.php?op=count&id=11029&modelid=80'
    res=requests.get(clickurl)
    click=res.text.split('.html')[-1].lstrip("('").rstrip("');")
    return click

def news(url):#作者、来源等
    res=requests.get(url)
    res.encoding='utf-8'
    soup=BeautifulSoup(res.text,'html.parser')
    title=soup.select('.show-title')[0].text
    author=soup.select('.show-info')[0].text.split()[2]
    auditor=soup.select('.show-info')[0].text.split()[3]
    comefrom=soup.select('.show-info')[0].text.split()[4]
    detail=soup.select('.show-content p')[0].text
    newsid=newsnum(url)
    time=newstime(url,soup)
    clicktime=click(url)
    p=print(newsid,title,time,author,auditor,comefrom,detail,clicktime)
    return p

#新闻链接
url="http://news.gzcc.cn/html/2019/meitishijie_0321/11033.html"
news(url)

 

执行结果如下图所示：