人工智能之父麥卡錫給出的定義

• 構(gòu)建智能機(jī)器，特別是智能計(jì)算機(jī)程序的科學(xué)和工程。

• 人工智能是一種讓計(jì)算機(jī)程序能夠"智能地"思考的方式

• 思考的模式類似于人類。

什么是智能？

智能的英語(yǔ)是 Intelligence

推理，知識(shí)，規(guī)劃，學(xué)習(xí)，交流，感知，移動(dòng)和操作物體。

智能 不等于 智力 (IQ:智商 比較類似計(jì)算機(jī)的計(jì)算能力)

如何算有智能？

• 可以根據(jù)環(huán)境變化而做出相應(yīng)變化的能力。

• 具有"存活" 這最基本的動(dòng)因

• 自主意識(shí)，自我意識(shí)等等。

搶小孩子西瓜吃，小孩子護(hù)住西瓜就是自主意識(shí)。

圖靈測(cè)試(Turing Test)

• 圖靈于1950年提出的一個(gè)關(guān)于判斷機(jī)器是否足夠智能的著名試驗(yàn)。

評(píng)委，評(píng)判目標(biāo)是機(jī)器和人。評(píng)委與被評(píng)判目標(biāo)以墻隔開(kāi)。評(píng)委向人和機(jī)器人來(lái)提出問(wèn)題。

評(píng)委事先不知道對(duì)面誰(shuí)是機(jī)器人，誰(shuí)是人。評(píng)委提的問(wèn)題機(jī)器人和人分別做出回答。

當(dāng)評(píng)委不能分辨是人還是機(jī)器人后，說(shuō)明機(jī)器擁有了與人類似的思維。

暫時(shí)還沒(méi)有機(jī)器通過(guò)圖靈測(cè)試。

智能分類: 自然智能 & 人工智能

人造出來(lái)的智能

Artificial Intelligence 人造智能

人工智能的前景

人工智能的需求:

• 提高品質(zhì)

• 增加效率

• 解決難題

人工智能的前景好在哪里？

支持: 企業(yè)支持 科技支持(大數(shù)據(jù)，硬件設(shè)備) 國(guó)家支持

2017年7月20日中國(guó)國(guó)務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》

2020年中國(guó)與世界平齊

Excel 等將用Python 替代 VBA

Python 被加入高考

CCTV 的 機(jī)智過(guò)人 節(jié)目

人工智能產(chǎn)品 和 人類高手比拼 ，中央電視臺(tái)和中國(guó)科學(xué)院共同舉辦。

嘉賓 柯潔 撒貝寧 林書豪 江一燕 知名人士 智能人士

微軟小冰可以作曲寫詞，畫畫。

人工智能需要的基本數(shù)學(xué)知識(shí)

數(shù)學(xué)；

論文 & 自己的實(shí)踐研究

實(shí)戰(zhàn)性課程 基本的了解就行

人工智能的歷史

人工神經(jīng)網(wǎng)絡(luò)被提出(AI緣起)

• Artificial Neural Network(簡(jiǎn)稱 Neural Network)

• 沃倫.麥卡洛克和沃爾特.皮茨在1943創(chuàng)造了神經(jīng)網(wǎng)絡(luò)的計(jì)算模型。

• 為以后的深度學(xué)習(xí)打下了重要的基礎(chǔ)

達(dá)特茅斯會(huì)議(定義AI)

• 達(dá)特茅斯學(xué)院(Dartmouth College) 是美國(guó)一所私立大學(xué)

由約翰.麥卡錫等人于1956年8月31日發(fā)起。

• 標(biāo)志著AI(人工智能)的正式定義(誕生)

感知器(Perceptron)

• 一種最簡(jiǎn)單的人工神經(jīng)網(wǎng)絡(luò)，是生物神經(jīng)網(wǎng)絡(luò)機(jī)制的簡(jiǎn)單抽象、

• 一種最簡(jiǎn)單的人工神經(jīng)網(wǎng)絡(luò)， 是生物神經(jīng)網(wǎng)絡(luò)機(jī)制的簡(jiǎn)單抽象

• 由羅森布拉特于1957年發(fā)明

• 將人工智能的研究推向第一個(gè)高峰。

人工智能的第一個(gè)寒冬

• 1970年開(kāi)始的十幾年里

• 傳統(tǒng)的感知器耗費(fèi)的計(jì)算量和神經(jīng)元數(shù)目的平方成正比

• 當(dāng)時(shí)的計(jì)算機(jī)也沒(méi)有能力完成神經(jīng)網(wǎng)絡(luò)模型所需要的超大計(jì)算量。

霍普菲爾德神經(jīng)網(wǎng)絡(luò)

• 一種遞歸神經(jīng)網(wǎng)絡(luò)( Recurrent Neural Network)

• 由約翰.霍普菲爾德在1982年發(fā)明

• 具有反饋(Feed back)機(jī)制

反向傳播(Back Propagation) 算法。

• 1974年哈佛大學(xué)的保羅沃伯斯發(fā)明，當(dāng)時(shí)沒(méi)有受到重視。

• 1986年大衛(wèi).魯姆哈特等學(xué)者出版的書中完整的提出了BP算法

• 使大規(guī)模神經(jīng)網(wǎng)絡(luò)訓(xùn)練成為可能，將人工智能推向第二個(gè)高峰。

人工智能第二個(gè)寒冬

1990年開(kāi)始

• 人工智能計(jì)算機(jī) Darpa沒(méi)能實(shí)現(xiàn)(美國(guó)政府花了巨資的)

• 政府投入縮減

深度學(xué)習(xí)(deep learning)

• 基于深度(指"多層") 神經(jīng)網(wǎng)絡(luò)

• 2006年由杰弗里.辛頓(Geoffrey Hinton)提出

• 人工智能性能獲得突破性進(jìn)展

進(jìn)入感知智能時(shí)代

• 深度學(xué)習(xí)在語(yǔ)音和視覺(jué)識(shí)別上分別達(dá)到99% 和 95%的識(shí)別率

• 2013年開(kāi)始

• 人工智能三個(gè)時(shí)代:

• 運(yùn)算智能(深藍(lán)打敗俄羅斯象棋選手，通過(guò)暴力運(yùn)算，算出所有可能的下棋步驟)

• 感知智能，語(yǔ)音圖像，類似觸覺(jué)的時(shí)代

• 認(rèn)知智能: 人類特有的能力，一個(gè)非常高等的能力。

AlphaGo擊敗眾多人類選手

Google 買下的Deepmind公司的AlphaGo (基于TensorFlow)

2016年接連擊敗圍棋界頂尖棋手。

深度學(xué)習(xí)被廣泛關(guān)注，掀起了學(xué)習(xí)人工智能熱潮

未來(lái)由我們創(chuàng)造

• 你應(yīng)該感到自豪，因?yàn)槟銓W(xué)習(xí)了人工智能

• 雖然我們不能過(guò)分樂(lè)觀，未來(lái)也許還會(huì)有低潮

但人工智能是大勢(shì)所趨，學(xué)了絕對(duì)不會(huì)吃虧。

Ai和機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的關(guān)聯(lián)

人工智能的知識(shí)圖譜

人工智能不僅僅是一個(gè)獨(dú)立的學(xué)科，它與很多其他的學(xué)科都有交集。

機(jī)器學(xué)習(xí)和深度學(xué)習(xí)都與其他學(xué)科有交集。但是機(jī)器學(xué)習(xí)總的是屬于人工智能，而深度學(xué)習(xí)屬于機(jī)器學(xué)習(xí)的一個(gè)子領(lǐng)域。

橫穿而過(guò)的是神經(jīng)網(wǎng)絡(luò)。深度學(xué)習(xí)是基于神經(jīng)網(wǎng)絡(luò)的。

AI ML 和 DL 的關(guān)系

• 機(jī)器學(xué)習(xí)是實(shí)現(xiàn)人工智能的一種方法，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支

人工智能能夠王者歸來(lái)，深度學(xué)習(xí)功不可沒(méi)

• 深度學(xué)習(xí)是引領(lǐng)人工智能熱潮的火箭

• 深度學(xué)習(xí)作為后代，卻給爺爺和爸爸爭(zhēng)光了。

人工智能搭上了深度學(xué)習(xí)的火箭。

什么是機(jī)器學(xué)習(xí)?

機(jī)器學(xué)習(xí)是實(shí)現(xiàn)人工智能的一種方法，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支。

什么是學(xué)習(xí)？

過(guò)程: 一個(gè)系統(tǒng)，能夠通過(guò)執(zhí)行某個(gè)過(guò)程，改善了性能。

說(shuō)的更深入一些，學(xué)習(xí)的目的是"減熵"

熱力學(xué)第二定律: 一個(gè)孤立系統(tǒng)傾向于增加熵(混亂程度)

生命活著就是在減熵

適應(yīng)環(huán)境

機(jī)器學(xué)習(xí)的必要性

很多軟件無(wú)法靠人工編程: 自動(dòng)駕駛，計(jì)算機(jī)視覺(jué)，自然語(yǔ)言處理。

識(shí)別鳶尾花難以用人工編程

花瓣數(shù)，花顏色，花紋形狀，等等。

人工編程難以定性。

• 人類常會(huì)犯錯(cuò)，(比如緊張，累了，困了)，機(jī)器不容易犯錯(cuò)

• 機(jī)器的計(jì)算能力越來(lái)越強(qiáng) 提高我們生活質(zhì)量加快科技發(fā)展

"晦澀"的機(jī)器學(xué)習(xí)定義

對(duì)于某類任務(wù)T (Task) 和性能度量 P(Performance)

通過(guò)經(jīng)驗(yàn)E(Experience) 改進(jìn)后

在任務(wù)T上由性能度量P 衡量的性能有所提升。

簡(jiǎn)單的機(jī)器學(xué)習(xí)的定義

機(jī)器學(xué)習(xí): 讓機(jī)器學(xué)習(xí)到東西。

mark

人類思考 VS 機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí): 用數(shù)據(jù)來(lái)解答問(wèn)題

數(shù)據(jù)對(duì)應(yīng) 訓(xùn)練過(guò)程
解答問(wèn)題 對(duì)應(yīng)著推測(cè)的過(guò)程。

練習(xí) & 考試

學(xué)生學(xué)習(xí): 用做練習(xí)題來(lái)提高考試的成績(jī)

做練習(xí)題對(duì)應(yīng)訓(xùn)練

考試 對(duì)應(yīng)你對(duì)新情況的推測(cè)

AlphaGo 學(xué)下圍棋

圍棋博弈: 用和自己下棋來(lái)提高下棋勝率

和自己下棋對(duì)應(yīng)訓(xùn)練

與人類下棋對(duì)應(yīng)推測(cè)

傳統(tǒng)編程 VS 機(jī)器學(xué)習(xí)

mark

機(jī)器學(xué)習(xí)大致等同于找一個(gè)好的函數(shù)(Function)/模型

機(jī)器學(xué)習(xí)的分類

• 監(jiān)督學(xué)習(xí)

• 非監(jiān)督學(xué)習(xí)

• 半監(jiān)督學(xué)習(xí)

• 強(qiáng)化學(xué)習(xí)

什么是監(jiān)督學(xué)習(xí)？

Supervised Learning: 有標(biāo)簽。

近義詞: 分類(Classification)

數(shù)據(jù)有給定的正確標(biāo)簽。

什么是非監(jiān)督學(xué)習(xí)？

Unsupervised Learning: 沒(méi)有標(biāo)簽 近義詞: 聚類(Cluster)

把類似的數(shù)據(jù)歸為一堆。

預(yù)測(cè)到規(guī)定好的堆中。

什么是半監(jiān)督學(xué)習(xí)？

Semi-Supervised Learning: 有少部分標(biāo)簽 最類似人的生活。

父母教給我們?cè)趺醋?#xff1f;讓座+好孩子。 獨(dú)立生活+自己判斷

想要判斷c是不是精英。

物以類聚。半監(jiān)督也是基于聚類的cluster實(shí)現(xiàn)。

什么是強(qiáng)化學(xué)習(xí)？

前面都是基于有沒(méi)有標(biāo)簽，或者是有標(biāo)簽所占的比例。

Reinforcement Learning: 基于環(huán)境而行動(dòng)，以取得最大化預(yù)期利益。

玩游戲，如果掛掉分?jǐn)?shù)-1，如果贏了分?jǐn)?shù)+1.

總得分:

通過(guò)分?jǐn)?shù)的獎(jiǎng)勵(lì)去刺激它進(jìn)行進(jìn)一步的強(qiáng)化。

機(jī)器學(xué)習(xí)的算法多種多樣。如何去選擇一個(gè)適合我們的機(jī)器學(xué)習(xí)方法。我們可以依照skit-learn給出的圖。

從右上角的start開(kāi)始:

• 你的樣本數(shù)是否大于50，如果不是那么你需要有更多的樣本。

• 預(yù)測(cè)類別，如果是要預(yù)測(cè)類別

  • 你有沒(méi)有加標(biāo)簽的數(shù)據(jù)。

分類 & 回歸/預(yù)測(cè) & 聚類 & 維度下降

為什么回歸叫regression(回歸)

• 回歸用于預(yù)測(cè)(比如股票)，它的輸出是連續(xù)的，與離散的分類不同。

• 回歸之所以叫回歸是英國(guó)生物學(xué)家兼統(tǒng)計(jì)學(xué)家高爾頓在研究人類遺傳問(wèn)題時(shí)提出的。

• 人類身高不會(huì)無(wú)限的增高(兩種身高 父親的兒子的身高) 有向他們父輩的平均身高回歸的趨勢(shì)。

機(jī)器學(xué)習(xí)的六步走

• 收集數(shù)據(jù) -> 準(zhǔn)備數(shù)據(jù)(抽取特征) -> 選擇/建立模型 -> 訓(xùn)練模型

• 測(cè)試模型 -> 調(diào)節(jié)參數(shù)

mark

機(jī)器學(xué)習(xí)的"關(guān)鍵三步"

• 找一系列函數(shù)來(lái)實(shí)現(xiàn)預(yù)期的功能: 建模問(wèn)題

• 找一組合理的評(píng)價(jià)標(biāo)準(zhǔn)，來(lái)評(píng)估函數(shù)的好壞: 評(píng)價(jià)問(wèn)題

• 快速找到性能最佳的函數(shù): 優(yōu)化問(wèn)題(比如梯度下降就是這個(gè)目的)

面對(duì)ai我們應(yīng)有的態(tài)度

人工智能大熱

火到連Android都被比了下去，連Kotlin和Go都有點(diǎn)黯然失色

1950年就被提出。

審時(shí)度勢(shì)

• 千萬(wàn)不要跟風(fēng)，不要頭腦發(fā)熱。

AR VR寒冬

人工智障

• 目前的人工智能，其實(shí)還停留在比較初級(jí)的階段

馬云說(shuō)人工智能應(yīng)該做那些計(jì)算機(jī)擅長(zhǎng)而人類不擅長(zhǎng)的事。現(xiàn)在很多的人工智能還只是模仿人類做的事，還遠(yuǎn)遠(yuǎn)沒(méi)有達(dá)到機(jī)器智能的程度。

離真正的機(jī)器智能還比較遙遠(yuǎn)，畢竟人腦太強(qiáng)大，很難被模仿。

人類從未創(chuàng)造生命

• 人類到目前為止只不過(guò)能復(fù)制生命，從沒(méi)有從無(wú)到有來(lái)創(chuàng)造

多利羊只是復(fù)制。克隆。

對(duì)生命對(duì)自然有一顆敬畏之心。

目前兩個(gè)派別

馬斯克: 特斯拉的ceo

Facebook ceo 和 Google ceo

反省自己比擔(dān)心AI更重要。

人心比萬(wàn)物都詭詐，與人心相比，AI真的太簡(jiǎn)單了。

全知并非全能

• 即使這類人工智能存在，它得和人類的經(jīng)濟(jì)和資源競(jìng)爭(zhēng)。

需要適當(dāng)?shù)姆纻銩I

• 可能AI 會(huì)在不斷學(xué)習(xí)的過(guò)程中習(xí)得一些不可控的思維。

借人工智能來(lái)認(rèn)識(shí)自己

• 人類的大腦是怎么運(yùn)作的，我們還知之甚少，更不用說(shuō)模仿或者改造

人機(jī)合作

AI 有 機(jī)智過(guò)人 和 技不如人 人機(jī)合作 驚為天人

什么是過(guò)擬合?

過(guò)分?jǐn)M合。: OverFitting

fitting是擬合，曲線能不能很好的表現(xiàn)樣本，并且擁有很好的泛化能力。

擬合的結(jié)果有三種:

UnderFitting: 欠擬合。樣本不夠或算法不精，測(cè)試樣本特征沒(méi)學(xué)到。

Fitting right: 擬合完美，恰當(dāng)?shù)財(cái)M合測(cè)試數(shù)據(jù)，泛化能力強(qiáng)

Overfitting: 過(guò)擬合 "一絲不茍"擬合測(cè)試數(shù)據(jù)，泛化能力弱。

回歸(regression) 問(wèn)題中三種擬合狀態(tài)

分類(Classification) 問(wèn)題中三種擬合狀態(tài)

打個(gè)比方；談戀愛(ài)

你為了迎合女朋友的習(xí)慣總結(jié)了一套戀愛(ài)的圣經(jīng)，但是你所總結(jié)的戀愛(ài)圣經(jīng)只是針對(duì)于這個(gè)女孩的性格。太過(guò)于擬合這個(gè)女孩了。

談其他女朋友時(shí)，想如法炮制就行不通了。

打個(gè)比方: 做菜

開(kāi)始訓(xùn)練出來(lái)的模型只會(huì)做一道菜，太貼合這個(gè)模型。讓它做其他的菜，各種各樣菜不能泛化

欠擬合好解決: 增加訓(xùn)練量訓(xùn)練數(shù)據(jù)。把算法弄的精確一點(diǎn)。

解決過(guò)擬合的一些方法

方法:
- 降低數(shù)據(jù)量
- 正則化
- Dropout

Dropout: 丟棄、退出 退學(xué)者

全連接的神經(jīng)網(wǎng)絡(luò)，將其中一些連接取消掉

只用部分的連接來(lái)構(gòu)建神經(jīng)網(wǎng)絡(luò)。不會(huì)過(guò)分的貼合樣本，起到一個(gè)好的泛化的作用。

學(xué)校里學(xué)到了知識(shí)，我沒(méi)有死記硬背。能夠很好適應(yīng)社會(huì)。

什么是深度學(xué)習(xí)?

機(jī)器學(xué)習(xí)是實(shí)現(xiàn)人工智能的一種方法，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支。

基于深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)研究稱之為深度學(xué)習(xí)

只有一個(gè)兩個(gè)隱藏層的簡(jiǎn)單神經(jīng)網(wǎng)絡(luò)，不把它成為深度神經(jīng)網(wǎng)絡(luò)，大于兩個(gè)隱藏層的神經(jīng)網(wǎng)絡(luò)我們稱之為深度神經(jīng)網(wǎng)絡(luò)。

輸入層和輸出層都只會(huì)有一個(gè)，深指隱藏層層數(shù)很多。

深度學(xué)習(xí)為什么興起？

傳統(tǒng)的機(jī)器學(xué)習(xí)存在瓶頸。

數(shù)據(jù)量比較小的時(shí)候，其實(shí)表現(xiàn)類似。深度學(xué)習(xí)要想表現(xiàn)好，數(shù)據(jù)量是關(guān)鍵。

深度學(xué)習(xí)能有高回報(bào)的必要條件:

• 大數(shù)據(jù): 全球每天都有海量數(shù)據(jù)產(chǎn)生，大公司更是大權(quán)在握。

• 強(qiáng)計(jì)算力: 云計(jì)算，GPU ，越來(lái)越快的CPU

復(fù)雜模型: 一般來(lái)說(shuō)隱藏層越多，效果越好。

現(xiàn)在這些條件都已滿足，請(qǐng)開(kāi)始你的表演。

深度學(xué)習(xí)的形象比喻: 戀愛(ài)

初戀期：輸入?yún)?shù)

隱藏層： 跳轉(zhuǎn)權(quán)重，激勵(lì)函數(shù)參數(shù)。
輸出層: 與預(yù)期去對(duì)比

第一階段初戀期:

相當(dāng)于神經(jīng)網(wǎng)絡(luò)的輸入層，不同的參數(shù)設(shè)置

第二階段磨合期:

相當(dāng)于神經(jīng)網(wǎng)絡(luò)的隱藏層，調(diào)整參數(shù)權(quán)重

第三階段穩(wěn)定期:

相當(dāng)于神經(jīng)網(wǎng)絡(luò)的輸出層，輸出結(jié)果和預(yù)期比較。

錯(cuò)誤(Error)了: 與期望的誤差(Loss/Cost)

損失函數(shù)和成本(代價(jià))函數(shù)

BP算法: 誤差反向傳遞(Back Propagation)

改: 調(diào)整(Tuning)參數(shù)的權(quán)重(Weight)

我錯(cuò)了我要改。

調(diào)整對(duì)應(yīng)參數(shù)的權(quán)重

• 調(diào)整"逛街"的權(quán)重(重要性)

• 調(diào)高榴蓮味蛋糕權(quán)重，調(diào)低巧克力味蛋糕的權(quán)重。

• 調(diào)高聊天權(quán)重

女友說(shuō): 你變好了不少啊，開(kāi)心！

磨合過(guò)程: 不斷的調(diào)整各個(gè)參數(shù)

在神經(jīng)網(wǎng)絡(luò)中正向傳播參數(shù)信號(hào)，經(jīng)過(guò)隱藏層處理，輸出結(jié)果。

計(jì)算和預(yù)期的差距(誤差)，反向傳播誤差，調(diào)整網(wǎng)絡(luò)參數(shù)權(quán)重

不斷地進(jìn)行: 反向傳播->計(jì)算誤差->反向傳播->調(diào)整權(quán)重

最終結(jié)果:

其實(shí)不僅調(diào)參，還涉及到模型的調(diào)整，如增加神經(jīng)元，滅活神經(jīng)元等。

轉(zhuǎn)載于:https://www.cnblogs.com/xinmomoyan/p/10364825.html

總結(jié)

以上是生活随笔為你收集整理的02基于python玩转人工智能最火框架之TensorFlow人工智能深度学习介绍的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。