获取一篇新闻的全部信息

给定一篇新闻的链接newsUrl，获取该新闻的全部信息

标题、作者、发布单位、审核、来源

发布时间:转换成datetime类型

点击：

newsUrl
newsId(使用正则表达式re)
clickUrl(str.format(newsId))
requests.get(clickUrl)
newClick(用字符串处理，或正则表达式)
int()

整个过程包装成一个简单清晰的函数。

尝试去爬取一个你感兴趣的网页。

代码如下：

#获取一篇新闻的全部信息
import re
import requests
from bs4 import BeautifulSoup
from datetime import datetime

#获取点击次数
def click(url):
    id=re.findall('(d{1,5})',url)[-1]
    clickUrl='http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80'.format(id)
    res=requests.get(clickUrl)
    click=res.text.split('.html')[-1].lstrip("('").rstrip("');")
    return click

#获取新闻编号
def newsnum(url):
    newsid=re.match('http://news.gzcc.cn/html/2019/xiaoyuanxinwen_0320/(.*).html',url).group(1)
    return newsid
    
#发布时间:转换成datetime类型
def newstime(soup):
    newsdate=soup.select('.show-info')[0].text.split()[0].split(':')[1]
    newstime=soup.select('.show-info')[0].text.split()[1]
    time=newsdate+' '+newstime
    time=datetime.strptime(time,'%Y-%m-%d %H:%M:%S')
    return time
    
def anews(url):
    res=requests.get(url)
    res.encoding='utf-8'
    soup=BeautifulSoup(res.text,'html.parser')
    title=soup.select('.show-title')[0].text#标题
    author=soup.select('.show-info')[0].text.split()[2]#作者
    auditor=soup.select('.show-info')[0].text.split()[3]#审核
    comefrom=soup.select('.show-info')[0].text.split()[4]#来源
    detail=soup.select('.show-content p')[0].text#内容
    newsid=newsnum(url)#新闻编号id
    time=newstime(soup)#发布时间
    clicktime=click(url)#点击次数
    p=print(" 编号："+newsid+'
'" 标题："+title+'
',author+'
',auditor+'
',comefrom+'
'" 正文："+detail+'
'" 次数："+clicktime+'
 发布时间： ',time)
    return p

url="http://news.gzcc.cn/html/2019/xiaoyuanxinwen_0320/11029.html"
anews(url)

View Code

运行结果：