---

←上一篇↓↑下一篇→

1.2 什么是神經(jīng)網(wǎng)絡(luò)	回到目錄	1.4 為什么深度學(xué)習(xí)會(huì)興起

---

用神經(jīng)網(wǎng)絡(luò)進(jìn)行監(jiān)督學(xué)習(xí)

關(guān)于神經(jīng)網(wǎng)絡(luò)也有很多的種類，考慮到它們的使用效果，有些使用起來(lái)恰到好處，但事實(shí)表明，到目前幾乎所有由神經(jīng)網(wǎng)絡(luò)創(chuàng)造的經(jīng)濟(jì)價(jià)值，本質(zhì)上都離不開(kāi)一種叫做監(jiān)督學(xué)習(xí)的機(jī)器學(xué)習(xí)類別，讓我們舉例看看。

在監(jiān)督學(xué)習(xí)中你有一些輸入 $x$ ，你想學(xué)習(xí)到一個(gè)函數(shù)來(lái)映射到一些輸出 $y$ ，比如我們之前提到的房?jī)r(jià)預(yù)測(cè)的例子，你只要輸入有關(guān)房屋的一些特征，試著去輸出或者估計(jì)價(jià)格 $y$ 。我們舉一些其它的例子，來(lái)說(shuō)明神經(jīng)網(wǎng)絡(luò)已經(jīng)被高效應(yīng)用到其它地方。

如今應(yīng)用深度學(xué)習(xí)獲利最多的一個(gè)領(lǐng)域，就是在線廣告。這也許不是最鼓舞人心的，但真的很賺錢(qián)。具體就是通過(guò)在網(wǎng)站上輸入一個(gè)廣告的相關(guān)信息，因?yàn)橐草斎肓擞脩舻男畔?#xff0c;于是網(wǎng)站就會(huì)考慮是否向你展示廣告。

神經(jīng)網(wǎng)絡(luò)已經(jīng)非常擅長(zhǎng)預(yù)測(cè)你是否會(huì)點(diǎn)開(kāi)這個(gè)廣告，通過(guò)向用戶展示最有可能點(diǎn)開(kāi)的廣告，這就是神經(jīng)網(wǎng)絡(luò)在很多家公司難以置信地提高獲利的一種應(yīng)用。因?yàn)橛辛诉@種向你展示你最有可能點(diǎn)擊的廣告的能力，而這一點(diǎn)擊的行為的改變會(huì)直接影響到一些大型的在線廣告公司的收入。

計(jì)算機(jī)視覺(jué)在過(guò)去的幾年里也取得了長(zhǎng)足的進(jìn)步，這也多虧了深度學(xué)習(xí)。你可以輸入一個(gè)圖像，然后想輸出一個(gè)索引，范圍從1到1000來(lái)試著告訴你這張照片，它可能是，比方說(shuō)，1000個(gè)不同的圖像中的任何一個(gè)，所以你可能會(huì)選擇用它來(lái)給照片打標(biāo)簽。

深度學(xué)習(xí)最近在語(yǔ)音識(shí)別方面的進(jìn)步也是非常令人興奮的，你現(xiàn)在可以將音頻片段輸入神經(jīng)網(wǎng)絡(luò)，然后讓它輸出文本記錄。得益于深度學(xué)習(xí)，機(jī)器翻譯也有很大的發(fā)展。你可以利用神經(jīng)網(wǎng)絡(luò)輸入英語(yǔ)句子，接著輸出一個(gè)中文句子。

在自動(dòng)駕駛技術(shù)中，你可以輸入一幅圖像，就好像一個(gè)信息雷達(dá)展示汽車前方有什么，據(jù)此，你可以訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)，來(lái)告訴汽車在馬路上面具體的位置，這就是神經(jīng)網(wǎng)絡(luò)在自動(dòng)駕駛系統(tǒng)中的一個(gè)關(guān)鍵成分。

那么深度學(xué)習(xí)系統(tǒng)已經(jīng)可以創(chuàng)造如此多的價(jià)值，通過(guò)智能的選擇，哪些作為 $x$ 哪些作為 $y$ ，來(lái)針對(duì)于你當(dāng)前的問(wèn)題，然后擬合監(jiān)督學(xué)習(xí)部分，往往是一個(gè)更大的系統(tǒng)，比如自動(dòng)駕駛。這表明神經(jīng)網(wǎng)絡(luò)類型的輕微不同，也可以產(chǎn)生不同的應(yīng)用，比如說(shuō)，應(yīng)用到我們?cè)谏弦粋€(gè)視頻提到的房地產(chǎn)領(lǐng)域，我們不就使用了一個(gè)普遍標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)架構(gòu)嗎？

也許對(duì)于房地產(chǎn)和在線廣告來(lái)說(shuō)可能是相對(duì)的標(biāo)準(zhǔn)一些的神經(jīng)網(wǎng)絡(luò)，正如我們之前見(jiàn)到的。對(duì)于圖像應(yīng)用，我們經(jīng)常在神經(jīng)網(wǎng)絡(luò)上使用卷積（Convolutional Neural Network），通常縮寫(xiě)為CNN。對(duì)于序列數(shù)據(jù)，例如音頻，有一個(gè)時(shí)間組件，隨著時(shí)間的推移，音頻被播放出來(lái)，所以音頻是最自然的表現(xiàn)。作為一維時(shí)間序列（兩種英文說(shuō)法one-dimensional time series / temporal sequence）.對(duì)于序列數(shù)據(jù)，經(jīng)常使用RNN，一種遞歸神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network），語(yǔ)言，英語(yǔ)和漢語(yǔ)字母表或單詞都是逐個(gè)出現(xiàn)的，所以語(yǔ)言也是最自然的序列數(shù)據(jù)，因此更復(fù)雜的RNNs版本經(jīng)常用于這些應(yīng)用。

對(duì)于更復(fù)雜的應(yīng)用比如自動(dòng)駕駛，你有一張圖片，可能會(huì)顯示更多的CNN卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，其中的雷達(dá)信息是完全不同的，你可能會(huì)有一個(gè)更定制的，或者一些更復(fù)雜的混合的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。所以為了更具體地說(shuō)明什么是標(biāo)準(zhǔn)的CNN和RNN結(jié)構(gòu)，在文獻(xiàn)中你可能見(jiàn)過(guò)這樣的圖片，這是一個(gè)標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)。

你也可能見(jiàn)過(guò)這樣的圖片，這是一個(gè)卷積神經(jīng)網(wǎng)絡(luò)的例子。

我們會(huì)在后面的課程了解這幅圖的原理和實(shí)現(xiàn)，卷積網(wǎng)絡(luò)(CNN)通常用于圖像數(shù)據(jù)。

你可能也會(huì)看到這樣的圖片，而且你將在以后的課程中學(xué)習(xí)如何實(shí)現(xiàn)它。

遞歸神經(jīng)網(wǎng)絡(luò)(RNN)非常適合這種一維序列，數(shù)據(jù)可能是一個(gè)時(shí)間組成部分。

你可能也聽(tīng)說(shuō)過(guò)機(jī)器學(xué)習(xí)對(duì)于結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)的應(yīng)用，結(jié)構(gòu)化數(shù)據(jù)意味著數(shù)據(jù)的基本數(shù)據(jù)庫(kù)。例如在房?jī)r(jià)預(yù)測(cè)中，你可能有一個(gè)數(shù)據(jù)庫(kù)，有專門(mén)的幾列數(shù)據(jù)告訴你臥室的大小和數(shù)量，這就是結(jié)構(gòu)化數(shù)據(jù)。或預(yù)測(cè)用戶是否會(huì)點(diǎn)擊廣告，你可能會(huì)得到關(guān)于用戶的信息，比如年齡以及關(guān)于廣告的一些信息，然后對(duì)你的預(yù)測(cè)分類標(biāo)注，這就是結(jié)構(gòu)化數(shù)據(jù)，意思是每個(gè)特征，比如說(shuō)房屋大小臥室數(shù)量，或者是一個(gè)用戶的年齡，都有一個(gè)很好的定義。

相反非結(jié)構(gòu)化數(shù)據(jù)是指比如音頻，原始音頻或者你想要識(shí)別的圖像或文本中的內(nèi)容。這里的特征可能是圖像中的像素值或文本中的單個(gè)單詞。

從歷史經(jīng)驗(yàn)上看，處理非結(jié)構(gòu)化數(shù)據(jù)是很難的，與結(jié)構(gòu)化數(shù)據(jù)比較，讓計(jì)算機(jī)理解非結(jié)構(gòu)化數(shù)據(jù)很難，而人類進(jìn)化得非常善于理解音頻信號(hào)和圖像，文本是一個(gè)更近代的發(fā)明，但是人們真的很擅長(zhǎng)解讀非結(jié)構(gòu)化數(shù)據(jù)。

神經(jīng)網(wǎng)絡(luò)的興起就是這樣最令人興奮的事情之一，多虧了深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，計(jì)算機(jī)現(xiàn)在能更好地解釋非結(jié)構(gòu)化數(shù)據(jù)，這是與幾年前相比的結(jié)果，這為我們創(chuàng)造了機(jī)會(huì)。許多新的令人興奮的應(yīng)用被使用，語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言文字處理，甚至可能比兩三年前的還要多。因?yàn)槿藗兲焐陀斜绢I(lǐng)去理解非結(jié)構(gòu)化數(shù)據(jù)，你可能聽(tīng)說(shuō)了神經(jīng)網(wǎng)絡(luò)更多在媒體非結(jié)構(gòu)化數(shù)據(jù)的成功，當(dāng)神經(jīng)網(wǎng)絡(luò)識(shí)別了一只貓時(shí)那真的很酷，我們都知道那意味著什么。

但結(jié)果也表明，神經(jīng)網(wǎng)絡(luò)在許多短期經(jīng)濟(jì)價(jià)值的創(chuàng)造，也是基于結(jié)構(gòu)化數(shù)據(jù)的。比如更好的廣告系統(tǒng)、更好的利潤(rùn)建議，還有更好的處理大數(shù)據(jù)的能力。許多公司不得不根據(jù)神經(jīng)網(wǎng)絡(luò)做出準(zhǔn)確的預(yù)測(cè)。

因此在這門(mén)課中，我們將要討論的許多技術(shù)都將適用，不論是對(duì)結(jié)構(gòu)化數(shù)據(jù)還是非結(jié)構(gòu)化數(shù)據(jù)。為了解釋算法，我們將在使用非結(jié)構(gòu)化數(shù)據(jù)的示例中多畫(huà)一點(diǎn)圖片，但正如你所想的，你自己團(tuán)隊(duì)里通過(guò)運(yùn)用神經(jīng)網(wǎng)絡(luò)，我希望你能發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)算法對(duì)于結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)都有用處。

神經(jīng)網(wǎng)絡(luò)已經(jīng)改變了監(jiān)督學(xué)習(xí)，正創(chuàng)造著巨大的經(jīng)濟(jì)價(jià)值，事實(shí)證明，基本的神經(jīng)網(wǎng)絡(luò)背后的技術(shù)理念大部分都離我們不遙遠(yuǎn)，有的是幾十年，那么為什么他們現(xiàn)在才剛剛起步，效果那么好，下一集視頻中我們將討論為什么最近的神經(jīng)網(wǎng)絡(luò)已經(jīng)成為你可以使用的強(qiáng)大工具。

課程板書(shū)

---

←上一篇↓↑下一篇→

1.2 什么是神經(jīng)網(wǎng)絡(luò)	回到目錄	1.4 為什么深度學(xué)習(xí)會(huì)興起

---

總結(jié)

以上是生活随笔為你收集整理的1.3 用神经网络进行监督学习-深度学习-Stanford吴恩达教授的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。