「黑客必备技能」Python正则表达式详解
说在前面
正则表达式是一个很强大的字符串处理工具，几乎任何关于字符串的操作都可以使用正则表达式来完成，作为一个爬虫工作者，每天和字符串打交道，正则表达式更是不可或缺的技能。
正则表达式在不同的语言中使用方式不尽相同，不过只要学会了任意一门语言的正则表达式用法，其他语言中大部分也只是换了个函数的名称而已，本质都是一样的。
注：本文摘自 i 春秋社区（bbs.ichunqiu.com），欢迎更多优秀作者去社区投稿，帮助更多萌新们快速掌握新技能。文章阅读用时约10分钟。
原子
原子是正则表达式中最基本的单位，每个正则表达式中至少要包含一个原子。常见的原子类型：
- 普通字符作为原子
- 非打印字符作为原子
- 通用字符作为原子
- 原子表
普通字符作为原子
演示代码：
import re#引用re
string = "shentouyun"#定义整段，普通字符作为原子
pat = "yun"#提取yun
ret = re.search(pat,string)#第一个参数为提取，第二个为整个字段
print(ret)#输出
输出
<_sre.SRE_Match object; span=(7, 10), match='yun'>
非打印字符作为原子
什么是非打印字符，如\n,\t(换行，制表)，代表一些操作的字符也可以作为原子
操作代码与小知识
string1 = '''shentouyun
nuibi
'''
pat1 = '\n'
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(10, 11), match='\n'>
小知识
#在这里解释一个基础，我没有提到过
string = '''
shentouyun
nuibi
'''
print(string)
#这段代码里，其特点为string被三引号包裹，并在代码里实现换行其运行结果
shentouyun
nuibi
#实现了一个\n的操作其代码等同于
string ="shentouyun\nnuibi"
print(string)
通用字符作为原子
什么是通用字符？
1. \w匹配任意一个字母数字或下划线；
2. \W匹配除去字母数字或下划线任意一个字符；
3. \d匹配十进制数；
4. \D除十进制以外的任意一个字符；
5. \s匹配一个空白字符；
6. \S除去空白字符。
简单的例子
string1 = "shentouyun3215454biji"
pat1 = '\d\d\d\d'#匹配四个十进制数
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(10, 14), match='3215'>
也可以混合使用
string1 = "shentouyun3215454biji"
pat1 = '\w\d\d\d\d'#匹配一个字母+匹配四个十进制数
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(9, 14), match='n3215'>
没有符合格式的，如空白就不会匹配出来，这里不过多的描述，占用空间。
原子表
[ots]任意的提取一个原子出来，直接任意选择一个原子表原子，如下：
string1 = "shentouyun3215454biji"
pat1 = "shen[otoasdjojds]ou"
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 7), match='shentou'>
只从原子表中选择一个原子，其原子表内原子地位平等。
非原子表
符号^ 英文状态下的shift+6
字符串里出现了非原子表，返回None，其代码如下：
string1 = "shentouyun3215454biji"
pat1 = "shen[^tun]ou"
#shen后面应该是匹配t结果原子表里出了[tun]三个原子外其他的原子都可以匹配
#显然本代码中的原子是无法匹配的
ret=re.search(pat1,string1)
print(ret)
返回如下：
None
如果正常运行非原子表外的字符如string1字符串中截取的shen后面是t，在非原子表上，没有出现t，则返回shent。
string1 = "shentouyun3215454biji"
pat1 = "shen[^asd]"
#为了更加直白我把ou两个字符去掉了
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 5), match='shent'>
元字符
特殊含义的字符
所谓的元字符，就是正则表达式中具有一些特殊含义的字符，比如重复N多次前面的字符。
"."除换行外任意一个字符
代码如下：
string1 = "shentouyun3215454biji"
pat1 = "shen.ou"#这里.匹配除了换行符外的任意字符
ret=re.search(pat1,string1)
print(ret)
运行结果
<_sre.SRE_Match object; span=(0, 7), match='shentou'>
当然你也可以多匹配些，比如多些点点。
string1 = "shentouyun3215454biji"
pat1 = "shen......"
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 10), match='shentouyun'>
开始位置^与结束位置$
string1 = "shentouyun3215454biji"
pat1 = "^s..."
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 4), match='shen'>
因为s是开始，也就是“排头”结束位置也同理。
string1 = "shentouyun3215454biji"
pat1 = "b...$"
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(17, 21), match='biji'>
*""0次1次多次**
string1 = "shentouyun3215454biji"
pat1 = "shen.*"
ret=re.search(pat1,string1)
print(ret)
运行后
<_sre.SRE_Match object; span=(0, 21), match='shentouyun3215454biji'>
为什么会全匹配，看*号的定义为多次，咱们的"."表示除了换行外全匹配，两者一配合。
+号与？号
+匹配多次，正常显示无法匹配0次，演示错误例子。
string1 = "shentouyun3215454biji"
pat1 = "a+"
ret=re.search(pat1,string1)
print(ret)
None
演示正确例子
string1 = "aaaaaaaaaaaa"
pat1 = "a+"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 12), match='aaaaaaaaaaaa'>
问号就更好弄了
问号直接演示错误例子，无法显示多次
string1 = "aaaafsedfsfdffasafadaaaaaaaa"
pat1 = "a?"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 1), match='a'>
{n}与{n,}
string1 = "aaaa"
pat1 = "a{4}"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 4), match='aaaa'>
如果换成3呢
<_sre.SRE_Match object; span=(0, 3), match='aaa'>
打印了三次，成功演示了什么叫做至少，当然你多了不行，改成5试试。
None
{n,m}至少多少次，至多多少次
string1 = "aaaa"
pat1 = "a{3,5}"
ret=re.search(pat1,string1)
print(ret)
<_sre.SRE_Match object; span=(0, 4), match='aaaa'>
模式修正符
所谓的模式修正符，即可以在不改变正则表达式的情况下，通过模式修正符改变正则表达式的含义，从而实现一些匹配结果的调整等功能。
模式修正符有什么？
I忽略大小写
M多行匹配
L本地化识别匹配
U unicode编码
S让，匹配包括换行符
错误代码演示
string = "ShenTouYun"
pat="shen"
ret = re.search(pat,string)
print(ret)
返回None，因为默认有大小写限制，引用一下I就可以了。
string = "ShenTouYun"
pat="shen"
ret = re.search(pat,string,re.I)
print(ret)
运行结果
<_sre.SRE_Match object; span=(0, 4), match='Shen'>
贪婪模式与懒惰模式
贪婪模式的核心点就是尽可能多的匹配
懒惰模式的核心就是尽可能少的匹配
贪婪模式
string = "SheSnTouYunYS"
pat="s.*S"
ret = re.search(pat,string,re.I)
print(ret)
运行结果
<_sre.SRE_Match object; span=(0, 13), match='SheSnTouYunYS'>
贪婪模式与懒惰模式有什么用呢？
看对比
string = "SheSnTouYunYS"
pat="s.*S"#贪婪模式找到最后一个s
pat1="s.*?S"#懒惰模式,特征为？，找到第一个s就不往下找了
ret = re.search(pat,string,re.I)
ret1 = re.search(pat1,string,re.I)
print(ret)
print(ret1)
运行结果
<_sre.SRE_Match object; span=(0, 13), match='SheSnTouYunYS'>
<_sre.SRE_Match object; span=(0, 4), match='SheS'>
正则表达式函数
1、re.match( )函数从头开始匹配
2、re.search( )函数从任何地方开始匹配
3、全局匹配函数
match函数演示
string1 = "a**fewfaaa"
pat1 = "a"
ret=re.match(pat1,string1)
print(ret)
运行结果可匹配
<_sre.SRE_Match object; span=(0, 1), match='a'>
不是第一个开始匹配
string1 = "a**fewfaaa"
pat1 = "d"
ret=re.match(pat1,string1)
print(ret)
运行结果不可匹配
None
全局匹配函数
全局匹配格式
re.compile(正则表达式).findall(数据)
string1 = "a**fewfaaa"
pat1 = "d.*?a"
ret=re.compile(pat1).findall(string1)
print(ret)
结果
['da']
在码文中的一些杂乱代码
import re#引用re
'''
string = "shentouyun"#定义整段，普通字符作为原子
pat = "yun"#提取yun
ret = re.search(pat,string)#第一个参数为提取，第二个为整个字段
print(ret)#输出
match
sub
search
全局匹配
string = "SheSnTouYunYS"
pat="s.*S"#贪婪模式找到最后一个s
pat1="s.*?S"#懒惰模式,特征为？，找到一个y就不往下找了
ret = re.search(pat,string,re.I)
ret1 = re.search(pat1,string,re.I)
print(ret)
print(ret1)
'''
首先预热下，爬取豆瓣首页
导入urllib库下的request
import urllib.request
使用下urlopen打开网站返回HTML
urllib.request.urlopen("https://www.douban.com/")
读一下看看拿到了什么东西，使用read( )，并给douban保存方便再GUI里调用
douban = urllib.request.urlopen("https://www.douban.com/").read()
可以独立尝试，会非常卡。简单点是用len看字节
>>> len(douban)
105653
爬取豆瓣评论
导入正则模块（re）
import re
写了个例子
#豆瓣评论爬取小例子
import urllib.request
import re
douban = urllib.request.urlopen("https://movie.douban.com/subject/27199913/?from=showing").read().decode("UTF-8")
pat = '<span class="short">.*?</span>'
rst = re.compile(pat).findall(douban)
print(rst[0])
引用decode("UTF-8")对其解码为utf-8
正则为
<span class="short">(.*?)</span>
如何写正则与本例的细节
打开网站
https://movie.douban.com/subject/27199913/?from=showing
右键源代码
发现评论格式为
<span class="short">就是山西版本的《两杆大烟枪》或者说《疯狂的石头》，将山西风光和特色与影片融合的很好，虽然还是有所瑕疵，也难逃一些俗套烂大街的剧情和段子，但是还可以。</span>
所有评论被标签包裹，可以进行抓取，使用懒惰模式进行操作。
<span class="short">.*?</span>
"."全匹配，其细节为标签里有双引号，我们再写正则时使用单引号括起来，不要再使用双引号了。
写循环把东西都显示出来
for i in range(0,len(rst)):
print(rst[i])
运行为
>>> ================================ RESTART ================================
>>>
['一直很喜欢这种结构的电影，一圈圈地放出线团，再一段段收回，圆融又宿命。以山西籍为主的演员都挺走心的，生活的鸡飞狗走很是活灵活现，而且骆达华的出场太惊喜。导演说是改编太贵，索性自己写。但要是看过《提着心吊着胆》，会发现许多元素重合度很高，比如生意惨淡的饭店、存在问题的夫妇、警察、笨贼、拜金女、装大款……就连意外之财也是丢在饭店里。电影结尾顾虑较多，但整体完成度与幽默感不差。@平遥，特意买票支持，却来...', '算是一部跟期待打平的作品吧，中规中矩，没有惊艳，王大治倒是真有那么几分长相之外的亮点。故事一圈圈闪回，重复的部分有点多，生怕观众跟不上这个倒叙+插叙的节奏似的。四川话河南话陕西话山西话一锅烩，泱泱大中华式的热闹。想要揭示人心叵测，但终归是浅了一点。【平遥电影节2018.10.19', '这种结构挺好', '审美疲劳，这种太多了，都大同小异。从每组人物的角度，反复讲同一个事。国产电影里的歹徒劫匪都是来搞笑的，都是**，呵呵。', '巧就巧在结构上。']
一直很喜欢这种结构的电影，一圈圈地放出线团，再一段段收回，圆融又宿命。以山西籍为主的演员都挺走心的，生活的鸡飞狗走很是活灵活现，而且骆达华的出场太惊喜。导演说是改编太贵，索性自己写。但要是看过《提着心吊着胆》，会发现许多元素重合度很高，比如生意惨淡的饭店、存在问题的夫妇、警察、笨贼、拜金女、装大款……就连意外之财也是丢在饭店里。电影结尾顾虑较多，但整体完成度与幽默感不差。@平遥，特意买票支持，却来...
算是一部跟期待打平的作品吧，中规中矩，没有惊艳，王大治倒是真有那么几分长相之外的亮点。故事一圈圈闪回，重复的部分有点多，生怕观众跟不上这个倒叙+插叙的节奏似的。四川话河南话陕西话山西话一锅烩，泱泱大中华式的热闹。想要揭示人心叵测，但终归是浅了一点。【平遥电影节2018.10.19
这种结构挺好
审美疲劳，这种太多了，都大同小异。从每组人物的角度，反复讲同一个事。国产电影里的歹徒劫匪都是来搞笑的，都是**，呵呵。
巧就巧在结构上。
>>>
保存到本地
fh = open("G:\\python\\doubanpinglun.txt","w")#打开文件并新建doubanpinglun.txt
open里的路径为本地路径
完整代码如下：
#豆瓣评论爬取小例子
import urllib.request
import re
douban = urllib.request.urlopen("https://movie.douban.com/subject/27199913/?from=showing").read().decode("UTF-8")
pat = '<span class="short">(.*?)</span>'
rst = re.compile(pat).findall(douban)
print(rst)
fh = open("G:\\python\\doubanpinglun.txt","w")#打开文件并新建doubanpinglun.txt
for i in range(0,len(rst)):
print(rst[i])
fh.write(rst[i]+"\n")#写入文件
fh.close()#关闭文件
以上就是今天分享的内容，大家学会了吗？
