会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
左右1
Powered by
博客园
博客园
|
首页
|
新随笔
|
联系
|
订阅
|
管理
上一页
1
2
3
4
下一页
2017年9月9日
4.3 浏览器模拟--headers属性
摘要: '''4.3 浏览器模拟--headers属性''''''#有的时候,我们无法爬取一些网页,会出现403错误,因为这些网页为了防止别人恶意# 采集其信息所以进行了一些反爬虫的设置。#那么,我们该如何如何爬取我们想爬的这些网页的信息呢?可以通过设置一些headers信息,模拟成浏览器去访问这些网站。此
阅读全文
posted @ 2017-09-09 19:35 左右1
阅读(1709)
评论(0)
推荐(0)
编辑
利用urllib下载图片
摘要: # 爬虫项目原理:打开网址 获取源码 找到图片 匹配取出## urllib模块:urlopen打开 read源码# urlretrieve保存到文件,下载
阅读全文
posted @ 2017-09-09 15:31 左右1
阅读(579)
评论(0)
推荐(0)
编辑
网络爬虫的盗之有道
摘要: '''一 爬虫网络的尺寸:1 小规模,数据量小,爬取速度不敏感;利用Request库爬取网页和玩转网页2 中规模:数据规模较大,爬取速度敏感;可以利用scrapy库爬取网站或者爬取系列网站3 大规模,搜索引擎爬取速度关键,主要是通过定制开发,而不是某一个库就可以完成的,可以用于爬取全网二 爬虫网络的骚扰:受限于编写水平和目的,网络爬虫将会为web服务器带来巨大的资源开销三 网络爬虫具有的风险:网络...
阅读全文
posted @ 2017-09-09 09:58 左右1
阅读(331)
评论(0)
推荐(0)
编辑
2017年9月8日
python文件的基本操作
摘要: 1 #创建文件context='''hello world,hello china'''f=file("hello.txt",'w') #打开文件,若没有就创建吧f.write(context) #把字符串写入文件f.close() #关闭文件.释放资源#######################
阅读全文
posted @ 2017-09-08 14:42 左右1
阅读(649)
评论(0)
推荐(0)
编辑
2017年9月5日
python的re模块理解(re.compile、re.match、re.search)
摘要: import rehelp(re.compile)'''输出结果为:Help on function compile in module re:compile(pattern, flags=0) Compile a regular expression pattern, returning a pa
阅读全文
posted @ 2017-09-05 22:34 左右1
阅读(155968)
评论(4)
推荐(2)
编辑
字符串基本操作汇总
摘要: 从中可知:\t:表示制表符,相当于tab键;\n相当于换行符,会换一行;r:使转义符失效。 4 #使用索引截取字符串word ="world"print word[4]#>>> d#使用split()获取子串sentence = 'Bob said:1,2,3,4'print "使用空格取子串:",
阅读全文
posted @ 2017-09-05 19:03 左右1
阅读(370)
评论(0)
推荐(0)
编辑
元组的常见操作
摘要: '''元组:元组的创建元组的访问元组的遍历'''tuple=("apple","banana","grape","orange")print tuple[-1]print tuple[-2]#orange#grapetuple2=tuple[1:3]tuple3=tuple[0:-2]tuple4=
阅读全文
posted @ 2017-09-05 16:31 左右1
阅读(358)
评论(0)
推荐(0)
编辑
2017年9月4日
python内置函数filter(),map(),reduce()笔记
摘要: '''python reduce()函数:reduce()函数会对参数序列中元素进行积累。函数将一个数据集合(链表,元组等)中的所有数据进行下列操作:用传给reduce中的函数 function(有两个参数)先对集合中的第 1、2 个元素进行操作,得到的结果再与第三个数据用 function 函数运
阅读全文
posted @ 2017-09-04 15:22 左右1
阅读(239)
评论(0)
推荐(0)
编辑
2017年9月2日
回调函数的使用。
摘要: '''1 传入网址,网址的类型一定是字符串2 传入的,本地的网页路径保存+文件名。3 一个函数的调用,我们可以任意来定义这个函数的行为,但是一定要保证这个函数有三个参数(1)到目前为止传递的数据块的数量(2)是每个数据块的大小,单位为byte,字节。(3)远程文件的大小,有时返回为1import u
阅读全文
posted @ 2017-09-02 13:49 左右1
阅读(161)
评论(0)
推荐(0)
编辑
urllib的操作与使用--1
摘要: #################################################'''版本:python2.7编辑器:pycharm标准库:urllibheader网页头部信息:server:centos、microsoft-IIscontent-type:text/html;ch
阅读全文
posted @ 2017-09-02 13:48 左右1
阅读(170)
评论(0)
推荐(0)
编辑
上一页
1
2
3
4
下一页