获取一篇新闻的全部信息

一.要求：给定一篇新闻的链接newsUrl，获取该新闻的全部信息

标题、作者、发布单位、审核、来源

发布时间:转换成datetime类型

点击：

• newsUrl
• newsId(使用正则表达式re)
• clickUrl(str.format(newsId))
• requests.get(clickUrl)
• newClick(用字符串处理，或正则表达式)
• int()

整个过程包装成一个简单清晰的函数。

尝试去爬取一个你感兴趣的网页。

二.具体代码

import requests
import re
from bs4 import BeautifulSoup

url='http://news.gzcc.cn/html/2018/tongzhigonggao_1224/10768.html'

def click(url):#①获取点击次数
    id=re.findall('(\d{1,5})',url)[-1]
    clickUrl='http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80'.format(id)
    res=requests.get(clickUrl)
    newsClick=res.text.split('.html')[-1].lstrip("('").rstrip("');")
    return newsClick

def newsdt(showinfo):#②获取发布日期，转换成datetime类型
    newsDate=showinfo.split()[0].split(':')[1]
    newsTime=showinfo.split()[1]
    newsDT=newsDate+' '+newsTime
    return newsDT

def newsid(url):#③获取新闻编号
    newsID=re.findall('(\d{1,5})',url)[-1]
    return  newsID

def news(url):
    res=requests.get(url)
    res.encoding='utf-8'
    soup=BeautifulSoup(res.text,'html.parser')
    title=soup.select('.show-title')[0].text
    showinfo=soup.select('.show-info')[0].text
    newsDT=newsdt(showinfo)
    author=soup.select('.show-info')[0].text.split()[2]#④获取作者
    check=soup.select('.show-info')[0].text.split()[3]#⑤获取审核
    comefrom=soup.select('.show-info')[0].text.split()[4]#⑥获取来源
    detail=soup.select('.show-content ')[0].text#⑦获取新闻的具体内容

    newsID=newsid(url)#新闻编号
    newsClick=click(url)#点击次数

    title='新闻标题：'+title
    newsClick='文章点击次数：'+newsClick
    newsID='新闻编号：'+newsID
    newsDT='发布日期：'+newsDT
    pr=(newsClick,title,newsDT,newsID,author,check,comefrom,detail)#输出新闻的各种信息
    return pr

print(news(url))

三.执行结果