Python中的生成器與迭代器

轉(zhuǎn)自：https://www.liaoxuefeng.com/wiki/1016959663602400/1017323698112640，推薦去該鏈接讀原文，有習(xí)題和熱烈的評論區(qū)交流。

生成器

通過列表生成式，我們可以直接創(chuàng)建一個列表。但是，受到內(nèi)存限制，列表容量肯定是有限的。而且，創(chuàng)建一個包含100萬個元素的列表，不僅占用很大的存儲空間，如果我們僅僅需要訪問前面幾個元素，那后面絕大多數(shù)元素占用的空間都白白浪費(fèi)了。

所以，如果列表元素可以按照某種算法推算出來，那我們是否可以在循環(huán)的過程中不斷推算出后續(xù)的元素呢？這樣就不必創(chuàng)建完整的list，從而節(jié)省大量的空間。在Python中，這種一邊循環(huán)一邊計算的機(jī)制，稱為生成器：generator。

要創(chuàng)建一個generator，有很多種方法。第一種方法很簡單，只要把一個列表生成式的[]改成()，就創(chuàng)建了一個generator：

>>> L = [x * x for x in range(10)] >>> L [0, 1, 4, 9, 16, 25, 36, 49, 64, 81] >>> g = (x * x for x in range(10)) >>> g <generator object <genexpr> at 0x1022ef630>

創(chuàng)建L和g的區(qū)別僅在于最外層的[]和()，L是一個list，而g是一個generator。

我們可以直接打印出list的每一個元素，但我們怎么打印出generator的每一個元素呢？

如果要一個一個打印出來，可以通過next()函數(shù)獲得generator的下一個返回值：

>>> next(g) 0 >>> next(g) 1 >>> next(g) 4 >>> next(g) 9 >>> next(g) 16 >>> next(g) 25 >>> next(g) 36 >>> next(g) 49 >>> next(g) 64 >>> next(g) 81 >>> next(g) Traceback (most recent call last):File "<stdin>", line 1, in <module> StopIteration

我們講過，generator保存的是算法，每次調(diào)用next(g)，就計算出g的下一個元素的值，直到計算到最后一個元素，沒有更多的元素時，拋出StopIteration的錯誤。

當(dāng)然，上面這種不斷調(diào)用next(g)實(shí)在是太變態(tài)了，正確的方法是使用for循環(huán)，因?yàn)間enerator也是可迭代對象：

>>> g = (x * x for x in range(10)) >>> for n in g: ... print(n) ... 0 1 4 9 16 25 36 49 64 81

所以，我們創(chuàng)建了一個generator后，基本上永遠(yuǎn)不會調(diào)用next()，而是通過for循環(huán)來迭代它，并且不需要關(guān)心StopIteration的錯誤。

generator非常強(qiáng)大。如果推算的算法比較復(fù)雜，用類似列表生成式的for循環(huán)無法實(shí)現(xiàn)的時候，還可以用函數(shù)來實(shí)現(xiàn)。

比如，著名的斐波拉契數(shù)列（Fibonacci），除第一個和第二個數(shù)外，任意一個數(shù)都可由前兩個數(shù)相加得到：

1, 1, 2, 3, 5, 8, 13, 21, 34, …

斐波拉契數(shù)列用列表生成式寫不出來，但是，用函數(shù)把它打印出來卻很容易：

def fib(max):n, a, b = 0, 0, 1while n < max:print(b)a, b = b, a + bn = n + 1return 'done'

注意，賦值語句：

a, b = b, a + b

相當(dāng)于：

t = (b, a + b) # t是一個tuple a = t[0] b = t[1]

但不必顯式寫出臨時變量t就可以賦值。

上面的函數(shù)可以輸出斐波那契數(shù)列的前N個數(shù)：

>>> fib(6) 1 1 2 3 5 8 'done'

仔細(xì)觀察，可以看出，fib函數(shù)實(shí)際上是定義了斐波拉契數(shù)列的推算規(guī)則，可以從第一個元素開始，推算出后續(xù)任意的元素，這種邏輯其實(shí)非常類似generator。

也就是說，上面的函數(shù)和generator僅一步之遙。要把fib函數(shù)變成generator函數(shù)，只需要把print(b)改為yield b就可以了：

def fib(max):n, a, b = 0, 0, 1while n < max:yield ba, b = b, a + bn = n + 1return 'done'

這就是定義generator的另一種方法。如果一個函數(shù)定義中包含yield關(guān)鍵字，那么這個函數(shù)就不再是一個普通函數(shù)，而是一個generator函數(shù)，調(diào)用一個generator函數(shù)將返回一個generator：

>>> f = fib(6) >>> f <generator object fib at 0x104feaaa0>

這里，最難理解的就是generator函數(shù)和普通函數(shù)的執(zhí)行流程不一樣。普通函數(shù)是順序執(zhí)行，遇到return語句或者最后一行函數(shù)語句就返回。而變成generator的函數(shù)，在每次調(diào)用next()的時候執(zhí)行，遇到y(tǒng)ield語句返回，再次執(zhí)行時從上次返回的yield語句處繼續(xù)執(zhí)行。

舉個簡單的例子，定義一個generator函數(shù)，依次返回數(shù)字1，3，5：

def odd():print('step 1')yield 1print('step 2')yield(3)print('step 3')yield(5)

調(diào)用該generator函數(shù)時，首先要生成一個generator對象，然后用next()函數(shù)不斷獲得下一個返回值：

>>> o = odd() >>> next(o) step 1 1 >>> next(o) step 2 3 >>> next(o) step 3 5 >>> next(o) Traceback (most recent call last):File "<stdin>", line 1, in <module> StopIteration

可以看到，odd不是普通函數(shù)，而是generator函數(shù)，在執(zhí)行過程中，遇到y(tǒng)ield就中斷，下次又繼續(xù)執(zhí)行。執(zhí)行3次yield后，已經(jīng)沒有yield可以執(zhí)行了，所以，第4次調(diào)用next(o)就報錯。

請務(wù)必注意：調(diào)用generator函數(shù)會創(chuàng)建一個generator對象，多次調(diào)用generator函數(shù)會創(chuàng)建多個相互獨(dú)立的generator。

有的童鞋會發(fā)現(xiàn)這樣調(diào)用next()每次都返回1：

>>> next(odd()) step 1 1 >>> next(odd()) step 1 1 >>> next(odd()) step 1 1

原因在于odd()會創(chuàng)建一個新的generator對象，上述代碼實(shí)際上創(chuàng)建了3個完全獨(dú)立的generator，對3個generator分別調(diào)用next()當(dāng)然每個都會返回第一個值。

正確的寫法是創(chuàng)建一個generator對象，然后不斷對這一個generator對象調(diào)用next()：

>>> g = odd() >>> next(g) step 1 1 >>> next(g) step 2 3 >>> next(g) step 3 5

回到fib的例子，我們在循環(huán)過程中不斷調(diào)用yield，就會不斷中斷。當(dāng)然要給循環(huán)設(shè)置一個條件來退出循環(huán)，不然就會產(chǎn)生一個無限數(shù)列出來。

同樣的，把函數(shù)改成generator函數(shù)后，我們基本上從來不會用next()來獲取下一個返回值，而是直接使用for循環(huán)來迭代：

>>> for n in fib(6): ... print(n) ... 1 1 2 3 5 8

但是用for循環(huán)調(diào)用generator時，發(fā)現(xiàn)拿不到generator的return語句的返回值。如果想要拿到返回值，必須捕獲StopIteration錯誤，返回值包含在StopIteration的value中：

>>> g = fib(6) >>> while True: ... try: ... x = next(g) ... print('g:', x) ... except StopIteration as e: ... print('Generator return value:', e.value) ... break ... g: 1 g: 1 g: 2 g: 3 g: 5 g: 8 Generator return value: done

關(guān)于如何捕獲錯誤，后面的錯誤處理還會詳細(xì)講解。

小結(jié)

generator是非常強(qiáng)大的工具，在Python中，可以簡單地把列表生成式改成generator，也可以通過函數(shù)實(shí)現(xiàn)復(fù)雜邏輯的generator。

要理解generator的工作原理，它是在for循環(huán)的過程中不斷計算出下一個元素，并在適當(dāng)?shù)臈l件結(jié)束for循環(huán)。對于函數(shù)改成的generator來說，遇到return語句或者執(zhí)行到函數(shù)體最后一行語句，就是結(jié)束generator的指令，for循環(huán)隨之結(jié)束。

請注意區(qū)分普通函數(shù)和generator函數(shù)，普通函數(shù)調(diào)用直接返回結(jié)果：

>>> r = abs(6) >>> r 6

generator函數(shù)的調(diào)用實(shí)際返回一個generator對象：

>>> g = fib(6) >>> g <generator object fib at 0x1022ef948>

迭代器

我們已經(jīng)知道，可以直接作用于for循環(huán)的數(shù)據(jù)類型有以下幾種：

一類是集合數(shù)據(jù)類型，如list、tuple、dict、set、str等；

一類是generator，包括生成器和帶yield的generator function。

這些可以直接作用于for循環(huán)的對象統(tǒng)稱為可迭代對象：Iterable。

可以使用isinstance()判斷一個對象是否是Iterable對象：

>>> from collections.abc import Iterable >>> isinstance([], Iterable) True >>> isinstance({}, Iterable) True >>> isinstance('abc', Iterable) True >>> isinstance((x for x in range(10)), Iterable) True >>> isinstance(100, Iterable) False

而生成器不但可以作用于for循環(huán)，還可以被next()函數(shù)不斷調(diào)用并返回下一個值，直到最后拋出StopIteration錯誤表示無法繼續(xù)返回下一個值了。

可以被next()函數(shù)調(diào)用并不斷返回下一個值的對象稱為迭代器：Iterator。

可以使用isinstance()判斷一個對象是否是Iterator對象：

>>> from collections.abc import Iterator >>> isinstance((x for x in range(10)), Iterator) True >>> isinstance([], Iterator) False >>> isinstance({}, Iterator) False >>> isinstance('abc', Iterator) False

生成器都是Iterator對象，但list、dict、str雖然是Iterable，卻不是Iterator。

把list、dict、str等Iterable變成Iterator可以使用iter()函數(shù)：

>>> isinstance(iter([]), Iterator) True >>> isinstance(iter('abc'), Iterator) True

你可能會問，為什么list、dict、str等數(shù)據(jù)類型不是Iterator？

這是因?yàn)镻ython的Iterator對象表示的是一個數(shù)據(jù)流，Iterator對象可以被next()函數(shù)調(diào)用并不斷返回下一個數(shù)據(jù)，直到?jīng)]有數(shù)據(jù)時拋出StopIteration錯誤。可以把這個數(shù)據(jù)流看做是一個有序序列，但我們卻不能提前知道序列的長度，只能不斷通過next()函數(shù)實(shí)現(xiàn)按需計算下一個數(shù)據(jù)，所以Iterator的計算是惰性的，只有在需要返回下一個數(shù)據(jù)時它才會計算。

Iterator甚至可以表示一個無限大的數(shù)據(jù)流，例如全體自然數(shù)。而使用list是永遠(yuǎn)不可能存儲全體自然數(shù)的。

小結(jié)

凡是可作用于for循環(huán)的對象都是Iterable類型；

凡是可作用于next()函數(shù)的對象都是Iterator類型，它們表示一個惰性計算的序列；

集合數(shù)據(jù)類型如list、dict、str等是Iterable但不是Iterator，不過可以通過iter()函數(shù)獲得一個Iterator對象。

Python的for循環(huán)本質(zhì)上就是通過不斷調(diào)用next()函數(shù)實(shí)現(xiàn)的，例如：

for x in [1, 2, 3, 4, 5]:pass

實(shí)際上完全等價于：

# 首先獲得Iterator對象: it = iter([1, 2, 3, 4, 5]) # 循環(huán): while True:try:# 獲得下一個值:x = next(it)except StopIteration:# 遇到StopIteration就退出循環(huán)break

迭代器與生成器的區(qū)別

來自原貼評論區(qū)大佬

生成器是迭代器的一種。所有實(shí)現(xiàn)了__next__()方法的對象都是迭代器。生成器本質(zhì)上也是實(shí)現(xiàn)了該方法，不過是通過簡單的方法實(shí)現(xiàn)：函數(shù)中加yield關(guān)鍵字+使用類似列表生成式方式。這兩種方式創(chuàng)建出來的函數(shù)或者式子都是生成器，本質(zhì)上也是迭代器。迭代器比較繁瑣的制造方式是創(chuàng)建一個對象，并在對象中實(shí)現(xiàn)一個方法：next()。實(shí)現(xiàn)之后，就可以反復(fù)調(diào)用next()方法返回值。#生成器當(dāng)然也可以調(diào)用next()方法。所以生成器和迭代器都可以調(diào)用next()方法來獲取下一個返回值。這也是生成器和迭代器本質(zhì)是一樣的原因。不同點(diǎn)在于，生成器書寫起來簡單明了，比通過創(chuàng)建一個對象并重寫__next__()方便多了。

生成器是一個用于創(chuàng)建迭代器的簡單而強(qiáng)大的工具，也就是說生成器也是迭代器。生成器較于一般的迭代器一是寫法更緊湊，因?yàn)樗鼤詣觿?chuàng)建 __iter__() 和 __next__() 方法。另一點(diǎn)是每次在生成器上調(diào)用 next() 獲取yield返回的值時時，它會從上次離開的位置恢復(fù)執(zhí)行（會記住上次執(zhí)行語句時的所有數(shù)據(jù)值）。除了會自動創(chuàng)建方法和保存程序狀態(tài)，當(dāng)生成器終結(jié)時，它們還會自動引發(fā) StopIteration。 這些特性結(jié)合在一起，使得創(chuàng)建迭代器能與編寫常規(guī)函數(shù)一樣容易。

總結(jié)

以上是生活随笔為你收集整理的Python中的生成器与迭代器的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。