????????以前看視頻看博客學(xué)習(xí)深度學(xué)習(xí)，總感覺(jué)心里慌慌的，找不到重點(diǎn)，感覺(jué)不是很系統(tǒng)。現(xiàn)在雖然學(xué)的也很渣，不過(guò)感覺(jué)沒(méi)那么慌了。教訓(xùn)是要多看書(shū)，自己思考，思考不明白再查博客大牛怎么講的。希望我的感覺(jué)是對(duì)的吧。

1.1學(xué)習(xí)算法

? ? ? ? 機(jī)器學(xué)習(xí)算法是一種能夠從數(shù)據(jù)中學(xué)習(xí)的算法。Mitchell提供一個(gè)簡(jiǎn)潔的定義：對(duì)于某類任務(wù)和性能度量P，一個(gè)計(jì)算機(jī)程序被認(rèn)為可以從經(jīng)驗(yàn)E中學(xué)習(xí)是指，通過(guò)經(jīng)驗(yàn)E改進(jìn)后，它在任務(wù)T上由性能度量P衡量的性能有所提升。通常機(jī)器學(xué)習(xí)任務(wù)定義為機(jī)器學(xué)習(xí)系統(tǒng)應(yīng)該如何處理樣本（example），樣本指我們從某些希望機(jī)器學(xué)習(xí)系統(tǒng)處理的對(duì)象或事件中收集到的已經(jīng)量化的特征（feature）的集合。一般將樣本表示成一個(gè)向量，向量的每一個(gè)元素是一個(gè)特征。

????????常見(jiàn)的機(jī)器學(xué)習(xí)任務(wù)T：分類，輸入缺失分類，回歸，轉(zhuǎn)錄，機(jī)器翻譯，結(jié)構(gòu)化輸出，異常檢測(cè)，合成和采樣，缺失值補(bǔ)填，去噪，密度估計(jì)或概率質(zhì)量函數(shù)估計(jì)。

? ? ? ? 性能度量P：對(duì)于分類、缺失輸入分類和轉(zhuǎn)錄任務(wù)通常用準(zhǔn)確率或錯(cuò)誤率來(lái)度量。性能度量的選擇看上去簡(jiǎn)單且客觀，但是選擇一個(gè)與系統(tǒng)理想表現(xiàn)對(duì)應(yīng)的性能度量通常是很難的。一些情況下，很難確定應(yīng)該度量什么。在執(zhí)行回歸任務(wù)時(shí)，是應(yīng)該懲罰一些中等錯(cuò)誤的系統(tǒng)還是較少犯錯(cuò)但是犯大錯(cuò)的系統(tǒng)？這卻決于具體情況。

? ? ? ? 經(jīng)驗(yàn)E：根據(jù)學(xué)習(xí)過(guò)程中的不同經(jīng)驗(yàn)，機(jī)器學(xué)習(xí)算法大致分為無(wú)監(jiān)督算法和監(jiān)督算法。大致來(lái)說(shuō)，無(wú)監(jiān)督學(xué)習(xí)涉及觀察隨機(jī)向量的好幾個(gè)樣本，試圖顯示或隱式地學(xué)習(xí)出概率分布；監(jiān)督學(xué)習(xí)包含觀察隨機(jī)向量（x）極其相關(guān)聯(lián)值（y），然后從x估計(jì)y。監(jiān)督學(xué)習(xí)（supervised learning）形象的描述為老師提供目標(biāo)y給機(jī)器學(xué)習(xí)系統(tǒng)，指導(dǎo)其應(yīng)該做什么。無(wú)監(jiān)督學(xué)習(xí)中，沒(méi)有老師指導(dǎo)，算法必須學(xué)會(huì)在沒(méi)有指導(dǎo)的情況下理解數(shù)據(jù)。無(wú)監(jiān)督學(xué)習(xí)和監(jiān)督學(xué)習(xí)不是嚴(yán)格定義的術(shù)語(yǔ)，它們之間界限通常是很模糊的。盡管無(wú)監(jiān)督學(xué)習(xí)和監(jiān)督學(xué)習(xí)并非完全沒(méi)有交集的正式概念，它們確實(shí)有助于粗略分類我們研究機(jī)器學(xué)習(xí)算法時(shí)遇到的問(wèn)題。傳統(tǒng)上，人們將回歸、分類或者結(jié)構(gòu)化輸出問(wèn)題稱為監(jiān)督學(xué)習(xí)，將支持其他任務(wù)的密度估計(jì)稱為無(wú)監(jiān)督學(xué)習(xí)。

1.2 容量、過(guò)擬合和欠擬合

? ? ? ? 機(jī)器學(xué)習(xí)的主要挑戰(zhàn)時(shí)算法必須能夠在先前未觀測(cè)到的新輸入上表現(xiàn)良好。這種在先前未觀測(cè)到的輸入上表現(xiàn)良好的能力稱為泛化（generalization）。未完待續(xù)。。。

總結(jié)

以上是生活随笔為你收集整理的机器学习基础自学笔记2的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。