張量是矩陣向任意維度的推廣[注意，張量的維度(dimension)通常叫做軸(axis)].

不要把 5D 向量和 5D 張量弄混！ 5D 向量只有一個(gè)軸，沿著軸有 5 個(gè)維度，而 5D 張量有 5 個(gè)軸（沿著每個(gè)軸可能有任意個(gè)維度）。

?

?

2.2.7　數(shù)據(jù)批量的概念
通常來(lái)說(shuō)，深度學(xué)習(xí)中所有數(shù)據(jù)張量的第一個(gè)軸（0 軸，因?yàn)樗饕龔?0 開(kāi)始）都是樣本軸（samples axis，有時(shí)也叫樣本維度）。在 MNIST 的例子中，樣本就是數(shù)字圖像。

此外，深度學(xué)習(xí)模型不會(huì)同時(shí)處理整個(gè)數(shù)據(jù)集，而是將數(shù)據(jù)拆分成小批量。具體來(lái)看，下面是 MNIST 數(shù)據(jù)集的一個(gè)批量，批量大小為 128。
batch = train_images[:128]
然后是下一個(gè)批量。
batch = train_images[128:256]
然后是第 n 個(gè)批量。
batch = train_images[128 * n:128 * (n + 1)]
對(duì)于這種批量張量，第一個(gè)軸（0 軸）叫作批量軸（batch axis）或批量維度（batch dimension）。
在使用 Keras 和其他深度學(xué)習(xí)庫(kù)時(shí)，你會(huì)經(jīng)常遇到這個(gè)術(shù)語(yǔ)。

?

>>> x = np.array([[[5, 78, 2, 34, 0],
?[6, 79, 3, 35, 1],
?[7, 80, 4, 36, 2]],
?[[5, 78, 2, 34, 0],
?[6, 79, 3, 35, 1],
?[7, 80, 4, 36, 2]],
?[[5, 78, 2, 34, 0],
?[6, 79, 3, 35, 1],
?[7, 80, 4, 36, 2]]])
>>> x.ndim?
3

將多個(gè) 3D 張量(3D張量中每個(gè)元素是二維矩陣)組合成一個(gè)數(shù)組，可以創(chuàng)建一個(gè) 4D 張量，以此類推。深度學(xué)習(xí)處理的一般
是 0D 到 4D 的張量，但處理視頻數(shù)據(jù)時(shí)可能會(huì)遇到 5D 張量。

?

?

2.2.8　現(xiàn)實(shí)世界中的數(shù)據(jù)張量
我們用幾個(gè)你未來(lái)會(huì)遇到的示例來(lái)具體介紹數(shù)據(jù)張量。你需要處理的數(shù)據(jù)幾乎總是以下類
別之一。
向量數(shù)據(jù)：2D 張量，形狀為 (samples, features)。
時(shí)間序列數(shù)據(jù)或序列數(shù)據(jù)：3D 張量，形狀為 (samples, timesteps, features)。
圖像：4D 張量，形狀為 (samples, height, width, channels) 或 (samples, channels,?
height, width)。
視頻：5D 張量，形狀為 (samples, frames, height, width, channels) 或 (samples,?
frames, channels, height, width)。

?

?

2.2.11　圖像數(shù)據(jù)
圖像通常具有三個(gè)維度：高度、寬度和顏色深度。雖然灰度圖像（比如 MNIST 數(shù)字圖像）只有一個(gè)顏色通道，因此可以保存在 2D 張量中，但按照慣例，圖像張量始終都是 3D 張量，灰度圖像的彩色通道只有一維。因此，如果圖像大小為 256×256，那么 128 張灰度圖像組成的批量可以保存在一個(gè)形狀為 (128, 256, 256, 1) 的張量中，而 128 張彩色圖像組成的批量則可以保存在一個(gè)形狀為 (128, 256, 256, 3) 的張量中（見(jiàn)圖 2-4）。

圖像張量的形狀有兩種約定：

通道在后（channels-last）的約定（在 TensorFlow 中使用）和通道在前（channels-first）的約定（在 Theano 中使用）。

Google 的 TensorFlow 機(jī)器學(xué)習(xí)框架將顏色深度軸放在最后：(samples, height, width, color_depth)。

與此相反，Theano將圖像深度軸放在批量軸之后：(samples, color_depth, height, width)。

如果采用 Theano 約定，前面的兩個(gè)例子將變成 (128, 1, 256, 256) 和 (128, 3, 256, 256)。
Keras 框架同時(shí)支持這兩種格式。

總結(jié)

以上是生活随笔為你收集整理的第2章-神经网络的数学基础(笔记)的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。