熊咪

爬虫学习---贴吧

# -*- coding: utf-8 -*-
#---------------------------------------
# 程序:百度贴吧爬虫
# 版本:0.1
# 作者:why
# 日期:2013-05-14
# 语言:Python 2.7
# 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数。
# 功能:下载对应页码内的所有页面并存储为html文件。
#---------------------------------------

import string, urllib2

#定义百度函数
def baidu_tieba(url,begin_page,end_page):
for i in range(begin_page, end_page+1):
sName = string.zfill(i,5) + '.html'#自动填充成六位的文件名
print '正在下载第' + str(i) + '个网页,并将其存储为' + sName + '......'
f = open(sName,'w+')
m = urllib2.urlopen(url + str(i)).read()
f.write(m)
f.close()


#-------- 在这里输入参数 ------------------

# 这个是山东大学的百度贴吧中某一个帖子的地址
#bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
#iPostBegin = 1
#iPostEnd = 10

bdurl = str(raw_input(u'请输入贴吧的地址,去掉pn=后面的数字:\n'))
begin_page = int(raw_input(u'请输入开始的页数:\n'))
end_page = int(raw_input(u'请输入终点的页数:\n'))
#-------- 在这里输入参数 ------------------

#调用
baidu_tieba(bdurl,begin_page,end_page)

 

 

 

 

 

2.

# -*- coding: utf-8 -*-
#---------------------------------------
# 程序:百度贴吧爬虫
# 版本:0.1
# 作者:why
# 日期:2013-05-14
# 语言:Python 2.7
# 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数。
# 功能:下载对应页码内的所有页面并存储为html文件。
#---------------------------------------

import string, urllib.request

#定义百度函数
def baidu_tieba(url,begin_page,end_page):
for i in range(begin_page, end_page+1):
sName = str(i) + '.html'#自动填充成六位的文件名
print ('正在下载第' + str(i) + '个网页,并将其存储为' + sName + '......')
f = open(sName,'wb')
m = urllib.request.urlopen(url + str(i)).read()
f.write(m)
f.close()


#-------- 在这里输入参数 ------------------

# 这个是山东大学的百度贴吧中某一个帖子的地址
#bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
#iPostBegin = 1
#iPostEnd = 10

bdurl = str(input(u'请输入贴吧的地址,去掉pn=后面的数字:\n'))
begin_page = int(input(u'请输入开始的页数:\n'))
end_page = int(input(u'请输入终点的页数:\n'))
#-------- 在这里输入参数 ------------------

#调用
baidu_tieba(bdurl,begin_page,end_page)

第二个使用3.3的技术,函数

posted on 2015-05-14 20:24  熊咪  阅读(179)  评论(0编辑  收藏  举报