作者：Sophia@知乎

來源：https://zhuanlan.zhihu.com/p/158801020

本文僅用于學(xué)術(shù)分享，著作權(quán)歸作者所有。如有侵權(quán)，請聯(lián)系后臺作刪文處理。

在逛Github時發(fā)現(xiàn)了一個不錯的總結(jié)，對深度學(xué)習(xí)的概率分布進行了總結(jié)。作者的Github開源地址：https://github.com/graykode/distribution-is-all-you-needgithub.com1. 均勻分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py均勻分布在 [a，b] 上具有相同的概率值，是簡單概率分布。2. 伯努利分布(離散)代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py先驗概率 p(x)不考慮伯努利分布。因此，如果我們對最大似然進行優(yōu)化，那么我們很容易被過度擬合。利用二元交叉熵對二項分類進行分類。它的形式與伯努利分布的負對數(shù)相同。3. 二項分布(離散)代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py參數(shù)為 n 和 p 的二項分布是一系列 n 個獨立實驗中成功次數(shù)的離散概率分布。二項式分布是指通過指定要提前挑選的數(shù)量而考慮先驗概率的分布。4. 多伯努利分布/分類分布(離散)代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py多伯努利稱為分類分布。交叉熵和采取負對數(shù)的多伯努利分布具有相同的形式。5. 多項式分布(離散)代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py多項式分布與分類分布的關(guān)系與伯努爾分布與二項分布的關(guān)系相同。6. β分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.pyβ分布與二項分布和伯努利分布共軛。利用共軛，利用已知的先驗分布可以更容易地得到后驗分布。當(dāng)β分布滿足特殊情況(α=1，β=1)時，均勻分布是相同的。7. Dirichlet 分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.pydirichlet 分布與多項式分布是共軛的。如果 k=2，則為β分布。8.伽馬分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py如果 gamma(a，1)/gamma(a，1)+gamma(b，1)與 beta(a，b)相同，則 gamma 分布為β分布。指數(shù)分布和卡方分布是伽馬分布的特例。9. 指數(shù)分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py指數(shù)分布是 α 為 1 時 γ 分布的特例。10. 高斯分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py高斯分布是一種非常常見的連續(xù)概率分布。11. 正態(tài)分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py正態(tài)分布為標準高斯分布，平均值為0，標準差為1。12. 卡方分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.pyk 自由度的卡方分布是 k 個獨立標準正態(tài)隨機變量的平方和的分布。卡方分布是 β 分布的特例。13. t 分布(連續(xù))代碼：https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.pyt分布是對稱的鐘形分布，與正態(tài)分布類似，但尾部較重，這意味著它更容易產(chǎn)生遠低于平均值的值。

作者：Sophia@知乎

來源：https://zhuanlan.zhihu.com/p/158801020

本文僅作學(xué)術(shù)交流，如有侵權(quán)，請聯(lián)系后臺刪除

—END—

版權(quán)聲明：本號內(nèi)容部分來自互聯(lián)網(wǎng)，轉(zhuǎn)載請注明原文鏈接和作者，如有侵權(quán)或出處有誤請和我們聯(lián)系。

人工智能精選【rgznjx】專注大數(shù)據(jù)，人工智能/機器學(xué)習(xí) 精選內(nèi)容和產(chǎn)業(yè)服務(wù)平臺。

與50位技術(shù)專家面對面20年技術(shù)見證，附贈技術(shù)全景圖

總結(jié)

以上是生活随笔為你收集整理的gamma分布_深度学习需要掌握的 13 个概率分布（附代码）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。