為什么要學習正則表達式

實際上爬蟲一共就四個主要步驟：

明確目標：需清楚目標網站

爬：將所有的目標網站的內容全部爬下來

取：在爬下來的網站內容中去掉對我們沒有用處的數據，只留取我們需要的數據

處理數據：按照我們想要的方式存儲和使用留取的數據

我們在前面的案例里實際上都省略了第3步，也就是“取”的步驟。因為我們down下了的數據是全部的網頁，這些數據很龐大并且很混亂，其中大部分的東西是我們不關心的，因此我們需要將之按我們的需要過濾和匹配出來。

那么對于文本的過濾和者規則的匹配，最強大的就是正則表達式了。

那么什么是正則表達式：

• 正則表達式，又稱規則表達式，通常被用來檢索、替換那些符合某個規則的文本。
• 正則表達式是對字符串操作的一種邏輯公式，就是用事先定義好的一些特定字符及這些特定字符的組合，組成一個“規則字符串”，這個“規則字符串”用來表達對字符串的一種過濾邏輯。

給定一個正則表達式和另一個字符串，我們可以達到如下的目的：

• 給定的字符串是否符合正則表達式的過濾邏輯（“匹配”）
• 通過正則表達式，從文本字符串中獲取我們想要的特定部分（“過濾”）

正則表達式規則

Python的re模塊

在Python中，我們可以使用內置的re模塊來使用正則表達式。

有一點需要特別注意的是，正則表達式使用對特殊字符進行黑底，所以如果我們要使用原始字符串，只需要加一個r前綴：r'i love\t\.\tpython'

re模塊的一般使用步驟如下：

使用compile()函數將正則表達式的字符串形式編譯為一個Pattern對象

通過Pattern對象提供的一系列方法對文本進行匹配查找，獲得匹配結果，一個Match對象。

最后使用Match對象提供的屬性和方法獲得信息，根據需要進行其他操作。

compile函數

compile函數用于編譯正則表達式，生成一個Pattern對象，它的一般使用形式如下：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import re# 將正則表達式編譯成Pattern對象 pattern = re.compile('\d+')

在上面，我們已將一個正則表達式編譯成Pattern對象，接下來，我們就可以利用pattern的一系列方法對文本匹配查找了。

Pattern對象的一些常用方法主要有：

• match()方法：從起始位置開始查找，一次匹配
• search()方法：從任何位置開始查找，一次匹配
• findall()方法：全部匹配，返回列表
• finditer()方法：全部匹配，返回迭代器
• split()方法：分割字符串，返回列表
• sub()方法：替換

match()方法

match()方法用于查找字符串的頭部（也可以指定起始位置），它是一次匹配，只要找到了一個匹配的結果就返回，而不是查找所有匹配的結果。它的一般使用形式如下：

match(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(string)。因此，當你不指定pos和endpos時，match()方法默認匹配字符串的頭部。

當匹配成功時，返回一個Match對象，如果沒有匹配上，則返回None。

>>> import re >>> pattern = re.compile(r'\d+') # 用于匹配至少一個數字>>> m = pattern.match('one12twothree34four') # 查找頭部，沒有匹配 >>> print m None>>> m = pattern.match('one12twothree34four', 2, 10) # 從'e'的位置開始匹配，沒有匹配 >>> print(m) None>>> m = pattern.match('one12twothree34four', 3, 10) # 從'1'的位置開始匹配，正好匹配 >>> print(m) # 返回一個 Match 對象 <_sre.SRE_Match object; span=(3, 5), match='12'>>>> print(m.group(0)) # 可省略 0 12 >>> print(m.start(0)) # 可省略 0 3 >>> print(m.end(0)) # 可省略 0 5 >>> print(m.span(0)) # 可省略 0 (3, 5)

在上面，當匹配成功時返回一個Match對象，其中：

• group([group1,...])方法用于獲得一個或多個分組匹配的字符串，當要獲得整個匹配的子串時，可直接使用group()或group(0)
• start([group])方法用于獲取分組匹配的子串在整個字符串中的起始位置（子串第一個字符的索引），參數默認值為0
• end([group])方法用于獲取分組匹配的子串在整個字符串中的結束位置（子串最后一個字符的索引 + 1），參數默認值為0
• span([group])方法返回(start(group), end(group))

再看一個例子：

>>> import re >>> pattern = re.compile(r'([a-z]+) ([a-z]+)', re.I) # re.I 表示忽略大小寫 >>> m = pattern.match('Hello World Wide Web')>>> print(m) # 匹配成功，返回一個 Match 對象 <_sre.SRE_Match object; span=(0, 11), match='Hello World'>>>> print(m.group(0)) # 返回匹配成功的整個子串 Hello World>>> print(m.span(0)) # 返回匹配成功的整個子串的索引 (0, 11)>>> print(m.group(1)) # 返回第一個分組匹配成功的子串 Hello>>> print(m.span(1)) # 返回第一個分組匹配成功的子串的索引 (0, 5)>>> print(m.group(2)) # 返回第二個分組匹配成功的子串 World>>> print(m.span(2)) # 返回第二個分組匹配成功的子串 (6, 11)>>> print(m.groups()) # 等價于 (m.group(1), m.group(2), ...) ('Hello', 'World')>>> print(m.group(3)) # 不存在第三個分組 Traceback (most recent call last):File "<stdin>", line 1, in <module> IndexError: no such group

search()方法

search()方法用于查找字符串的任何位置，它也是一次匹配，只要找到了一個匹配的結果就返回，而不是查找所有匹配的結果，它的一般使用形式如下：

search(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(string)。

當匹配成功時，返回一個Match對象，如果沒有匹配上，則返回None。

如下例子：

>>> import re >>> pattern = re.compile('\d+') >>> m = pattern.search('one12twothree34four') >>> print(m) <_sre.SRE_Match object; span=(3, 5), match='12'> >>> print(m.group()) 12 >>> m = pattern.search('one12twothree34four', 10, 30) >>> print(m) <_sre.SRE_Match object; span=(13, 15), match='34'> >>> print(m.group()) 34 >>> print(m.span()) (13, 15)

再看一個例子：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import re# 將正則表達式編譯成Pattern對象 pattern = re.compile(r'\d+')# 使用search() 查找匹配的子串，不存在匹配的子串時，返回None m = pattern.search('hello 123 456 789') # 若這里使用match()，返回Noneif m:print("matching string:", m.group())print("position:", m.span())

執行結果：

matching string: 123 position: (6, 9)

findall()方法

上面的match()和search()方法都是一次匹配，只要找到了一個匹配的結果就返回。然而，在大多數時候，我們需要搜索整個字符串，獲得所有匹配的結果。

findall()方法的使用形式如下：

findall(string[, pos[, endpos]])

其中，string是待匹配的字符串，pos和endpos是可選參數，指定字符串的起始和終點位置，默認值分別是0和len(string)。

findall()以列表形式返回全部能匹配的子串，如果沒有匹配成功，則返回一個空列表。

如下：

>>> import re >>> pattern = re.compile(r'\d+') # 匹配數字 >>> res1 = pattern.findall('hello 123 456 789') >>> res2 = pattern.findall('one1two2three3four4', 0, 16) >>> print(res1) ['123', '456', '789'] >>> print(res2) ['1', '2', '3']

再看一個例子：

>>> import re >>> pattern = re.compile(r'\d+\.\d+') # 匹配小數 >>> res = pattern.findall("3.1415926, 'big', 110, 95.5") >>> print(res) ['3.1415926', '95.5']

finditer()方法

finditer()方法的行為跟findall()的行為類似，也是搜索整個字符串，獲得所有匹配的結果。但它返回一個順序訪問每一個匹配結果（Match對象）的迭代器。

如下：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import repattern = re.compile(r'\d+')res_iter1 = pattern.finditer("hello 123 456 789") res_iter2 = pattern.finditer("one1two2three3four4", 0, 16)print(res_iter1) print(res_iter2)print("res_iter1......") for m1 in res_iter1:print("matching string:{}, position:{}".format(m1.group(), m1.span()))print("res_iter2......") for m2 in res_iter2:print("matching string:{}, position:{}".format(m2.group(), m2.span()))

執行結果：

<callable_iterator object at 0x00ADF7F0> <callable_iterator object at 0x00ADF230> res_iter1...... matching string:123, position:(6, 9) matching string:456, position:(10, 13) matching string:789, position:(14, 17) res_iter2...... matching string:1, position:(3, 4) matching string:2, position:(7, 8) matching string:3, position:(13, 14)

split()方法

spilt()方法按照能夠匹配的子串將字符串分割后返回列表，它的使用形式如下：

split(string[, maxsplit])

其中，maxsplit用于指定最大分割次數，不指定將全部分割。

如下：

?

>>> import re >>> pattern = re.compile(r'[\s\,\;]+') >>> print(pattern.split('a,b;; c d')) ['a', 'b', 'c', 'd']

sub()方法

sub()方法用于替換。它的使用形式如下：

sub(repl, string[, count])

其中，repl可以是字符串也可以是一個函數：

• 如果repl是字符串，則會使用repl去替換字符串每一個匹配的子串，并返回替換后的字符串，另外，repl還可以使用id的形式來引用分組，但不能使用編號0
• 如果repl是函數，這個方法應當只接受一個參數（Match對象），并返回一個字符串用于替換（返回的字符串中不能再引用分組）
• count用于指定最多替換次數，默認全部替換

如下：

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import repattern = re.compile(r'(\w+) (\w+)') # \w: [A-Za-z0-9]string = 'hello 123, hello 456'print(pattern.sub('hello world', string)) # 我是分割線 print("*" * 30)print(pattern.sub(r'\2 \1', string))# 我是分割線 print("*" * 30)def func(m):return 'hi ' + m.group(2)print(pattern.sub(func, string))# 我是分割線 print("*" * 30)# 最多替換一次 print(pattern.sub(func, string, 1))

執行結果：

hello world, hello world ****************************** 123 hello, 456 hello ****************************** hi 123, hi 456 ****************************** hi 123, hello 456

匹配中文

在某些情況下，我們想匹配文本中的漢字，中文的unicode編碼范圍主要在[u4e00-u9fa5]，這里說主要是因為這個范圍并不完整，比如沒有包括全角（中文）標點，不過，在大部分情況下，應該是夠用的。

例如：要想把字符串s = "您好，世界。hello world!"中的中文提取出來，可以這么做

#!/usr/bin/python3 # -*- coding:utf-8 -*- __author__ = 'mayi'import restring = "你好，世界。hello world!"pattern = re.compile(r"[\u4e00-\u9fa5]+")res = pattern.findall(string)print(res)

執行結果

['你好', '世界']

?

轉載于:https://www.cnblogs.com/mayi0312/p/7206343.html

總結

以上是生活随笔為你收集整理的爬虫——正则表达式re模块的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。