铁雪资源网 Design By www.gsvan.com

正则表达式

本节我们看一下正则表达式的相关用法,正则表达式是处理字符串的强大的工具,它有自己特定的语法结构,有了它,实现字符串的检索、替换、匹配验证都不在话下。

当然对于爬虫来说,有了它,我们从HTML里面提取我们想要的信息就非常方便了。

实例引入

说了这么多,可能我们对它到底是个什么还是比较模糊,下面我们就用几个实例来感受一下正则表达式的用法。

我们打开开源中国提供的正则表达式测试工具http://tool.oschina.net/regex/,打开之后我们可以输入待匹配的文本,然后选择常用的正则表达式,就可以从我们输入的文本中得出相应的匹配结果了。

例如我们在这里输入待匹配的文本如下:

Hello, my phone number is 010-86432100 and email is cqc@cuiqingcai.com, and my website is http://cuiqingcai.com.

这段字符串中包含了一个电话号码和一个电子邮件,接下来我们就尝试用正则表达式提取出来。

我们在网页中选择匹配Email地址,就可以看到在下方出现了文本中的Email。如果我们选择了匹配网址URL,就可以看到在下方出现了文本中的URL。是不是非常神奇?

其实,在这里就是用了正则表达式匹配,也就是用了一定的规则将特定的文本提取出来。比如电子邮件它开头是一段字符串,然后是一个@符号,然后就是某个域名,这是有特定的组成格式的。另外对于URL,开头是协议类型,然后是冒号加双斜线,然后是域名加路径。

对于URL来说,我们就可以用下面的正则表达式匹配:

[a-zA-z]+://1*

如果我们用这个正则表达式去匹配一个字符串,如果这个字符串中包含类似URL的文本,那就会被提取出来。

这个正则表达式看上去是乱糟糟的一团,其实不然,这里面都是有特定的语法规则的。比如a-z代表匹配任意的小写字母,s表示匹配任意的空白字符,*就代表匹配前面的字符任意多个,这一长串的正则表达式就是这么多匹配规则的组合,最后实现特定的匹配功能。

写好正则表达式后,我们就可以拿它去一个长字符串里匹配查找了,不论这个字符串里面有什么,只要符合我们写的规则,统统可以找出来。那么对于网页来说,如果我们想找出网页源代码里有多少URL,就可以用匹配URL的正则表达式去匹配,就可以得到源码中的URL了。

在上面我们说了几个匹配规则,那么正则表达式的规则到底有多少?那么在这里把常用的匹配规则总结一下:

模式描述

w匹配字母数字及下划线

W匹配非字母数字及下划线

s匹配任意空白字符,等价于 [tnrf].

S匹配任意非空字符

d匹配任意数字,等价于 [0-9]

D匹配任意非数字

A匹配字符串开始

Z匹配字符串结束,如果是存在换行,只匹配到换行前的结束字符串

z匹配字符串结束

G匹配最后匹配完成的位置

n匹配一个换行符

t匹配一个制表符

^匹配字符串的开头

$匹配字符串的末尾。

.匹配任意字符,除了换行符,当re.DOTALL标记被指定时,则可以匹配包括换行符的任意字符。

[...]用来表示一组字符,单独列出:[amk] 匹配 'a','m'或'k'

2不在[]中的字符:3 匹配除了a,b,c之外的字符。

*匹配0个或多个的表达式。

+匹配1个或多个的表达式。

"color: #ff0000">Python中使用

其实正则表达式不是Python独有的,它在其他编程语言中也可以使用,但是Python的re库提供了整个正则表达式的实现,利用re库我们就可以在Python中使用正则表达式来,在Python中写正则表达式几乎都是用的这个库。

下面我们就来了解下它的用法。

match()

在这里首先介绍第一个常用的匹配方法,match()方法,我们向这个方法传入要匹配的字符串以及正则表达式,就可以来检测这个正则表达式是否匹配字符串了。

match()方法会尝试从字符串的起始位置匹配正则表达式,如果匹配,就返回匹配成功的结果,如果不匹配,那就返回None。

我们用一个实例来感受一下:

import re 
content = 'Hello 123 4567 World_This is a Regex Demo' 
print(len(content)) 
reresult = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}', content) 
print(result) 
print(result.group()) 
print(result.span()) 

运行结果:

41 
<_sre.SRE_Match object; span=(0, 25), match='Hello 123 4567 World_This'> 
Hello 123 4567 World_This 
(0, 25)

在这里我们首先声明了一个字符串,包含英文字母、空白字符、数字等等内容,接下来我们写了一个正则表达式^Hellosdddsd{4}sw{10}来匹配这个长字符串。

开头的^是匹配字符串的开头,也就是以Hello开头,然后s匹配空白字符,用来匹配目标字符串的空格,d匹配数字,三个d匹配123,然后再写一个s匹配空格,后面还有4567,我们其实可以依然用四个d来匹配,但是这么写起来比较繁琐,所以在后面可以跟{4}代表匹配前面的字符四次,也就是匹配四个数字,这样也可以完成匹配,然后后面再紧接一个空白字符,然后w{10}匹配10个字母及下划线,正则表达式到此为止就结束了,我们注意到其实并没有把目标字符串匹配完,不过这样依然可以进行匹配,只不过匹配结果短一点而已。

我们调用match()方法,第一个参数传入了正则表达式,第二个参数传入了要匹配的字符串。

打印输出一下结果,可以看到结果是SRE_Match对象,证明成功匹配,它有两个方法,group()方法可以输出匹配到的内容,结果是Hello 123 4567 World_This,这恰好是我们正则表达式规则所匹配的内容,span()方法可以输出匹配的范围,结果是(0, 25),这个就是匹配到的结果字符串在原字符串中的位置范围。

通过上面的例子我们可以基本了解怎样在Python中怎样使用正则表达式来匹配一段文字。

匹配目标

刚才我们用了match()方法可以得到匹配到的字符串内容,但是如果我们想从字符串中提取一部分内容怎么办呢?就像最前面的实例一样,从一段文本中提取出邮件或电话号等内容。

在这里可以使用()括号来将我们想提取的子字符串括起来,()实际上就是标记了一个子表达式的开始和结束位置,被标记的每个子表达式会依次对应每一个分组,我们可以调用group()方法传入分组的索引即可获取提取的结果。

下面我们用一个实例感受一下:

import re 
content = 'Hello 1234567 World_This is a Regex Demo' 
reresult = re.match('^Hello\s(\d+)\sWorld', content) 
print(result) 
print(result.group()) 
print(result.group(1)) 
print(result.span()) 

依然是前面的字符串,在这里我们想匹配这个字符串并且把其中的1234567提取出来,在这里我们将数字部分的正则表达式用()括起来,然后接下来调用了group(1)获取匹配结果。

运行结果如下:

<_sre.SRE_Match object; span=(0, 19), match='Hello 1234567 World'> 
Hello 1234567 World 
1234567 
(0, 19)

可以看到在结果中成功得到了1234567,我们获取用的是group(1),与group()有所不同,group()会输出完整的匹配结果,而group(1)会输出第一个被()包围的匹配结果,假如正则表达式后面还有()包括的内容,那么我们可以依次用group(2)、group(3)等来依次获取。

通用匹配

刚才我们写的正则表达式其实比较复杂,出现空白字符我们就写s匹配空白字符,出现数字我们就写d匹配数字,工作量非常大,其实完全没必要这么做,还有一个万能匹配可以用,也就是.,.可以匹配任意字符(除换行符),又代表匹配前面的字符无限次,所以它们组合在一起就可以匹配任意的字符了,有了它我们就不用挨个字符地匹配了。

所以接着上面的例子,我们可以改写一下正则表达式。

import re 
content = 'Hello 123 4567 World_This is a Regex Demo' 
reresult = re.match('^Hello.*Demo$', content) 
print(result) 
print(result.group()) 
print(result.span()) 

在这里我们将中间的部分直接省略,全部用.*来代替,最后加一个结尾字符串就好了,运行结果如下:

<_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'> 
Hello 123 4567 World_This is a Regex Demo 
(0, 41)

可以看到group()方法输出了匹配的全部字符串,也就是说我们写的正则表达式匹配到了目标字符串的全部内容,span()方法输出(0, 41),是整个字符串的长度。

因此,我们可以在使用.*来简化正则表达式的书写。

贪婪匹配与非贪婪匹配

在使用上面的通用匹配.*的时候可能我们有时候匹配到的并不是想要的结果,我们看下面的例子:

import re 
content = 'Hello 1234567 World_This is a Regex Demo' 
reresult = re.match('^He.*(\d+).*Demo$', content) 
print(result) 
print(result.group(1)) 

在这里我们依然是想获取中间的数字,所以中间我们依然写的是(d+),数字两侧由于内容比较杂乱,所以两侧我们想省略来写,都写.,最后组成^He.(d+).*Demo$,看样子并没有什么问题,我们看下运行结果:

<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>

7

奇怪的事情发生了,我们只得到了7这个数字,这是怎么回事?

这里就涉及一个贪婪匹配与非贪婪匹配的原因了,贪婪匹配下,.会匹配尽可能多的字符,我们的正则表达式中.后面是d+,也就是至少一个数字,并没有指定具体多少个数字,所以.*就尽可能匹配多的字符,所以它把123456也匹配了,给d+留下一个可满足条件的数字7,所以d+得到的内容就只有数字7了。

但这样很明显会给我们的匹配带来很大的不便,有时候匹配结果会莫名其妙少了一部分内容。其实这里我们只需要使用非贪婪匹配匹配就好了,非贪婪匹配的写法是.*"htmlcode">

import re 
content = 'Hello 1234567 World_This is a Regex Demo' 
reresult = re.match('^He.*"htmlcode">
<_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'> 

很好,这下我们就可以成功获取1234567了。原因可想而知,贪婪匹配是尽可能匹配多的字符,非贪婪匹配就是尽可能匹配少的字符,."htmlcode">

import re 
content = 'http://weibo.com/comment/kEraCN' 
reresult1 = re.match('http.*"color: #ff0000">修饰符

正则表达式可以包含一些可选标志修饰符来控制匹配的模式。修饰符被指定为一个可选的标志。

我们用一个实例先来感受一下:

import re 
content = '''Hello 1234567 World_This 
is a Regex Demo 
''' 
reresult = re.match('^He.*"htmlcode">
AttributeError Traceback (most recent call last) 
<ipython-input-18-c7d232b39645> in <module>() 
   5 ''' 
   6 reresult = re.match('^He.*"htmlcode">
reresult = re.match('^He.*"color: #ff0000">修饰符描述

re.I使匹配对大小写不敏感

re.L做本地化识别(locale-aware)匹配

re.M多行匹配,影响 ^ 和 $

re.S使 . 匹配包括换行在内的所有字符

re.U根据Unicode字符集解析字符。这个标志影响 w, W, b, B.

re.X该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解。

在网页匹配中较为常用的为re.S、re.I。

转义匹配

我们知道正则表达式定义了许多匹配模式,如.匹配除换行符以外的任意字符,但是如果目标字符串里面它就包含.我们改怎么匹配?

那么这里就需要用到转义匹配了,我们用一个实例来感受一下:

import re 
content = '(百度)www.baidu.com' 
reresult = re.match('\(百度\)www\.baidu\.com', content) 
print(result)

当遇到用于正则匹配模式的特殊字符时,我们在前面加反斜线来转义一下就可以匹配了。例如.我们就可以用.来匹配,运行结果:

<_sre.SRE_Match object; span=(0, 17), match='(百度)www.baidu.com'>

可以看到成功匹配到了原字符串。

以上是写正则表达式常用的几个知识点,熟练掌握上面的知识点对后面我们写正则表达式匹配非常有帮助。

search()

我们在前面提到过match()方法是从字符串的开头开始匹配,一旦开头不匹配,那么整个匹配就失败了。

我们看下面的例子:

import re 
content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings' 
reresult = re.match('Hello.*"htmlcode">
<_sre.SRE_Match object; span=(13, 53), match='Hello 1234567 World_This is a Regex Demo'> 

这样就得到了匹配结果。

所以说,为了匹配方便,我们可以尽量使用search()方法。

下面我们再用几个实例来感受一下search()方法的用法。

首先这里有一段待匹配的HTML文本,我们接下来写几个正则表达式实例来实现相应信息的提取。

html = '''<div id="songs-list"> 
  <h2 class="title">经典老歌</h2> 
  <p class="introduction"> 
    经典老歌列表 
  </p> 
  <ul id="list" class="list-group"> 
    <li data-view="2">一路上有你</li> 
    <li data-view="7"> 
      <a href="/2.mp3" rel="external nofollow" singer="任贤齐">沧海一声笑</a> 
    </li> 
    <li data-view="4" class="active"> 
      <a href="/3.mp3" rel="external nofollow" singer="齐秦">往事随风</a> 
    </li> 
    <li data-view="6"><a href="/4.mp3" rel="external nofollow" singer="beyond">光辉岁月</a></li> 
    <li data-view="5"><a href="/5.mp3" rel="external nofollow" singer="陈慧琳">记事本</a></li> 
    <li data-view="5"> 
      <a href="/6.mp3" rel="external nofollow" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a> 
    </li> 
  </ul> 
</div>'''

观察到<ul>节点里面有许多<li>节点,其中<li>节点有的包含节点,有的不包含节点,节点还有一些相应的属性,超链接和歌手名。

首先我们尝试提取class为active的<li>节点内部的超链接包含的歌手名和歌名。

所以我们需要提取第三个<li>节点下的节点的singer属性和文本。

所以正则表达式可以以<li>开头,然后接下来寻找一个标志符active,中间的部分可以用."(.",我们需要提取的部分用小括号括起来,以便于用group()方法提取出来,它的两侧边界是双引号,然后接下来还需要匹配节点的文本,那么它的左边界是>,右边界是,所以我们指定一下左右边界,然后目标内容依然用(."(.">(.*"htmlcode">

reresult = re.search('<li.*"(.*">(.*"htmlcode">
reresult = re.search('<li.*"(.*">(.*"htmlcode">
reresult = re.search('<li.*"(.*">(.*"htmlcode">
reresults = re.findall('<li.*"https://ask.hellobi.com/(.*".*"(.*">(.*"htmlcode">
import re 
content = '54aK54yr5oiR54ix5L2g' 
content = re.sub('\d+', '', content) 
print(content) 

运行结果: 

aKyroiRixLg

在这里我们只需要在第一个参数传入d+来匹配所有的数字,然后第二个参数是替换成的字符串,要去掉的话就可以赋值为空,第三个参数就是原字符串。

得到的结果就是替换修改之后的内容。

那么在上面的HTML文本中,如果我们想正则获取所有<li>节点的歌名,如果直接用正则表达式来提取可能比较繁琐,比如可以写成这样子:

reresults = re.findall('<li.*"htmlcode">
html = re.sub('<a.*"htmlcode">
<div id="songs-list"> 
  <h2 class="title">经典老歌</h2> 
  <p class="introduction"> 
    经典老歌列表 
  </p> 
  <ul id="list" class="list-group"> 
    <li data-view="2">一路上有你</li> 
    <li data-view="7"> 
      沧海一声笑 
    </li> 
    <li data-view="4" class="active"> 
      往事随风 
    </li> 
    <li data-view="6">光辉岁月</li> 
    <li data-view="5">记事本</li> 
    <li data-view="5"> 
      但愿人长久 
    </li> 
  </ul> 
</div> 

一路上有你 
沧海一声笑 
往事随风 
光辉岁月 
记事本 
但愿人长久

可以到标签在经过sub()函数处理后都没有了,然后再findall()直接提取即可。所以在适当的时候我们可以借助于sub()方法做一些相应处理可以事半功倍。

compile()

前面我们所讲的方法都是用来处理字符串的方法,最后再介绍一个compile()方法,这个方法可以讲正则字符串编译成正则表达式对象,以便于在后面的匹配中复用。

import re 
content1 = '2016-12-15 12:00' 
content2 = '2016-12-17 12:55' 
content3 = '2016-12-22 13:21' 
pattern = re.compile('\d{2}:\d{2}') 
reresult1 = re.sub(pattern, '', content1) 
reresult2 = re.sub(pattern, '', content2) 
reresult3 = re.sub(pattern, '', content3) 
print(result1, result2, result3)

例如这里有三个日期,我们想分别将三个日期中的时间去掉,所以在这里我们可以借助于sub()方法,sub()方法的第一个参数是正则表达式,但是这里我们没有必要重复写三个同样的正则表达式,所以可以借助于compile()函数将正则表达式编译成一个正则表达式对象,以便复用。

运行结果:

2016-12-15  2016-12-17  2016-12-22 

另外compile()还可以传入修饰符,例如re.S等修饰符,这样在search()、findall()等方法中就不需要额外传了。所以compile()方法可以说是给正则表达式做了一层封装,以便于我们更好地复用。

到此为止,正则表达式的基本用法就介绍完毕了,后面我们会有实战来讲解正则表达式的使用。

总结

以上所述是小编给大家介绍的Python3中的正则表达式的基本用法,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

标签:
python3,正则表达式

铁雪资源网 Design By www.gsvan.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
铁雪资源网 Design By www.gsvan.com

评论“详解Python3中的正则表达式的基本用法”

暂无详解Python3中的正则表达式的基本用法的评论...

稳了!魔兽国服回归的3条重磅消息!官宣时间再确认!

昨天有一位朋友在大神群里分享,自己亚服账号被封号之后居然弹出了国服的封号信息对话框。

这里面让他访问的是一个国服的战网网址,com.cn和后面的zh都非常明白地表明这就是国服战网。

而他在复制这个网址并且进行登录之后,确实是网易的网址,也就是我们熟悉的停服之后国服发布的暴雪游戏产品运营到期开放退款的说明。这是一件比较奇怪的事情,因为以前都没有出现这样的情况,现在突然提示跳转到国服战网的网址,是不是说明了简体中文客户端已经开始进行更新了呢?