python模块之正则

re模块

  可以读懂你写的正则表达式

  根据你写的表达式去执行任务

  用re去操作正则

正则表达式

  使用一些规则来检测一些字符串是否符合个人要求,从一段字符串中找到符合要求的内容。在线测试网站: http://tool.chinaz.com/regex/

元字符:用来表示范围

元字符

匹配内容

.

匹配除换行符 以外的任意字符

^

只匹配字符串的开始

$

只匹配字符串的结束

w

匹配字母或数字或下划线

s

匹配任意空白符

d

匹配数字

匹配一个换行符

匹配一个制表符

W

匹配非字母数字和下划线

S

匹配非空白符

D

匹配非数字

a|b

匹配字符a或b

 ()

匹配括号内的表达式,也表示一个组 

 [ ]

匹配字符组的字符 

[^ ]

匹配除了字符组中字符的所有字符

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 # 在字符组[ ]中,-表示范围,一般是根据字符对应的码值(字符在对应编码表中的编码的数值)来确定的,码值小的在前,码值大的在后。

# 在ascll编码表中, 0-9对应码值是48-57,a-z的码值是97-122,A-Z对应码值65-90

量词:

量词

用法说明

*

重复零次或更多次

+

重复一次或更多次

重复零次或一次,可匹配也可不匹配

{n}

重复n次

{n,}

重复n次或更多次

{n,m}

重复n到m次

 

 

 

 

 

 

 

 

 

 

 

.*?的用法说明:

  .    任意字符

  *    取0至无限长度

  ?   非贪婪模式

 .*?x   合在一起表示取尽量少的任意字符,知道一个x出现

其他使用说明:

* + ? { }:

注: *,+,?等都是贪婪匹配,也就是尽可能匹配,后面加?号使其变成惰性匹配

字符集[][^]:

 

分组 ()与 或 |[^]:

身份证号是一个长度为15或18个字符的字符串,如果是15位则全部由数字组成,首位不能是0

如果是18位,则前17位全部是数字,末尾可能是x

 

转义符 :

在正则中,存在很多特殊意义的元字符,如d,s等,如果要在正则中匹配正常的‘d’而不是‘数字’就需要对‘d’进行转义,变成‘\’

在py中,无论是正则表达式还是待匹配内容都是以字符串形式出现的,字符串中也有特殊含义,本身也需要转义,这时候就要用到r‘d’转换

 

贪婪匹配:

满足匹配时,匹配尽可能长的字符串

几个常用非贪婪匹配格式

 

re模块下的常用方法

import re
ret = re.findall('a', 'eva egon yuan')
print(ret)  # ['a', 'a']

ret = re.findall('d+', 'dsaglhlkdfh1892494kashdgkjh127839')
print(ret)  # ['1892494', '127839']

# findall接收两个参数 : 正则表达式 要匹配的字符串
# 一个列表数据类型的返回值:所有和这条正则匹配的结果

ret = re.search('a', 'eavegonyaun').group()
print(ret)  # a

# 函数会在字符串内查找模式匹配,直到找到第一个匹配然后返回一个包含匹配信息的对象,该
# 对象可以通过调用group()方法得到匹配的字符串,如果字符串没有匹配,未调用group时
# 则返回None。

# search和findall的区别:
# 1.search找到一个就返回,findall是找所有
# 2.findall是直接返回一个结果的列表,search返回一个对象

ret = re.match('foo', 'fooid')
if ret:
    print(ret.group())
'foo'
# 意味着在正则表达式中添加了一个^
# 同search,不过只从字符串的开始部分对模式进行匹配,

ret = re.sub('d', 'H', 'eva3egon4yuan4', 2)
print(ret)  # evaHegonHyuan4
# 将前两个数字换成H

ret = re.subn('d', 'H', 'eva3egon4yuan4')
print(ret)  # ('evaHegonHyuanH', 3)
# #将数字替换成'H',返回元组(替换的结果,替换了多少次)

ret = re.split("d+", "eva3egon4yuan")
print(ret)  # ['eva', 'egon', 'yuan']
ret = re.split("(d+)", "eva162784673egon44yuan")
print(ret)  # ['eva', '162784673', 'egon', '44', 'yuan']
# split分割一个字符串,默认被匹配到的分隔符不会出现在结果列表中,
# 如果将匹配的正则放到组内,就会将分隔符放到结果列表里

# 在多次执行同一条正则规则的时:
obj = re.compile('d{3}')
ret1 = obj.search('abc123eeee')
ret2 = obj.findall('abc123eeee')
print(ret1.group())  # 123
print(ret2)  # ['123']
# 如果匹配文件中的手机号,可以进行这样的一次编译,节省时间

# finditer适用于结果比较多的情况下,能够有效的节省内存
ret = re.finditer('d', 'ds3sy4784a')
print(ret)  # <callable_iterator object at 0x10195f940>
print(next(ret).group())  # 查看第一个结果
print(next(ret).group())  # 查看第二个结果
print([i.group() for i in ret])  # 查看剩余的左右结果

compile格式:

  re.compile(pattern,flags=0)

  pattern: 编译时用的表达式字符串。

  flags 编译标志位,用于修改正则表达式的匹配方式,如:是否区分大小写,多行匹配等。常用的flags有:

标志
含义
re.S(DOTALL)
使.匹配包括换行在内的所有字符
re.I(IGNORECASE)
使匹配对大小写不敏感
re.L(LOCALE)
做本地化识别(locale-aware)匹配,法语等
re.M(MULTILINE)
多行匹配,影响^和$
re.X(VERBOSE)
该标志通过给予更灵活的格式以便将正则表达式写得更易于理解
re.U
根据Unicode字符集解析字符,这个标志影响w,W,,B


分组:
如果对一组正则表达式整体有一个量词约束,就将这一组表达是分成一个组

要想取消分组优先效果,在组内开始的时候加上?:   这个很关键的
# 当分组遇到re模块
import re
ret1 = re.findall('www.(baidu|oldboy).com', 'www.baidu.com')
ret2 = re.findall('www.(?:baidu|oldboy).com', 'www.baidu.com')
print(ret1)
print(ret2)
# findall会优先显示组内匹配到的内容返回
# 如果想取消分组优先效果,在组内开始的时候加上?:

# 分组的意义
# 1.对一组正则规则进行量词约束
# 2.从一整条正则规则匹配的结果中优先显示组内的内容
# "<h1>hello</h1>"
ret = re.findall('<w+>(w+)</w+>', "<h1>hello</h1>")
print(ret)  # ['hello']

# 分组命名   ?p固定语法,p大写
ret = re.search("<(?P<tag>w+)>(?P<content>w+)</(?P=tag)>", "<h1>hello</h1>")
print(ret.group())  # <h1>hello</h1>,search中没有分组优先的概念
print(ret.group('tag'))  # h1
print(ret.group('content'))  # hello

# 如果不给组起名字,也可以用序号来找到对应的组,表示要找的内容和前面的组内容一致
# 获取的匹配结果可以直接用group(序号)拿到对应的值
ret = re.search(r"<(w+)>(w+)</1>", "<h1>hello</h1>")
print(ret.group())  # <h1>hello</h1>
print(ret.group(0))  # <h1>hello</h1>
print(ret.group(1))  # h1
print(ret.group(2))  # hello

 分组进阶:

s  = '2017-07-10 20:00'
p = re.compile(r'(((d{4})-d{2})-d{2}) (d{2}):(d{2})')
re.findall(p,s)
# 输出:
# [('2017-07-10','2017-07','2017','20','00')]

se = re.search(p,s)
print se.group()
print se.group(0)
print se.group(1)
print se.group(2)
print se.group(3)
print se.group(4)
print se.group(5)

# 输出:
'''
'2017-07-10 20:00'
'2017-07-10 20:00'
'2017-07-10'
'2017-07'
'2017'
'20'
'00'
'''

关于split的优先级查询问题:

  在匹配部分加上()之后所切出的结果是不同的,没有()的没有保留所匹配的项,但是有()的却能够保留了匹配的项
import re
ret = re.split('d+','ds22glhfh124dgkjh1')
print(ret)  # ['ds', 'glhfh', 'dgkjh', '']
# 这里最后一位有空格是由于它左边有东西而右边没有了,所以用空格替代了
ret = re.split('(d+)','ds22glhfh124dgkjh1')
print(ret)  # ['ds', '22', 'glhfh', '124', 'dgkjh', '1', '']
ret = re.split('(?:d+)','ds22glhfh124dgkjh1')
print(ret)  # ['ds', 'glhfh', 'dgkjh', '']

应用:

  # 获取当中的字母 

  s ='abc @ 124,efg opAs4'  

import re
a = ''.join(re.findall('[a-zA-Z]',s))
print(a)
b = re.sub('[^a-zA-Z]','', s)
print(b)
c = ''.join(re.split('[^a-zA-Z]',s))
print(c)

   关于整数匹配问题,如匹配1-2*(60+(-40.35/5)-(-4*3))中的整数

import re
ret = re.findall(r'-?d+.d*|(-?d+)',a)
ret.remove('')
print(ret)

 利用正则制作计算器:点击这里>>

 利用正则爬去豆瓣网页

#!/usr/bin/env python    # -*- coding:utf-8 -*-
# author: Learning       time:2018/9/28

import time
import re
from urllib.request import urlopen


def getPage(url):
    response = urlopen(url)                 # 通过response=requests.get(url)获取也OK
    return response.read().decode('utf-8')  # 直接返回response.text


def parsePage(s):
    com = re.compile(
        '<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>d+).*?<span class="title">(?P<title>.*?)</span>'
        '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)评价</span>', re.S)

    ret = com.finditer(s)   # 正则匹配,然后通过生成器批量获取数据
    for i in ret:
        yield {
            "id": i.group("id"),
            "title": i.group("title"),
            "rating_num": i.group("rating_num"),
            "comment_num": i.group("comment_num"),
        }


def main(num):      # 入口函数
    url = 'https://movie.douban.com/top250?start=%s&filter=' % num
    response_html = getPage(url)
    ret = parsePage(response_html)
    f = open("move_info7", "a", encoding="utf8")

    for obj in ret:
        print(obj)
        data = str(obj)
        f.write(data + "
")


if __name__ == '__main__':
    before=time.time()
    count=0
    for i in range(10):
        main(count)
        count+=25   # 每页25条数据,参考打开网址的url
    after=time.time()
    print("总共耗费时间:", after - before)

相关问题:

1.re的match和search区别?
  re.match() 从第一个字符开始找, 如果第一个字符就不匹配就返回None, 不继续匹配. 用于判断字符串开头或整个字符串是否匹配,速度快.
  re.search() 会整个字符串查找,直到找到一个匹配。

原文地址:https://www.cnblogs.com/LearningOnline/p/8967704.html