深度学习核心技术精讲100篇(二十一)-深入理解Dirichlet分布及过程
前言
Dirichlet分布(Dirichelt Distribution)和Dirichlet過程 (Dirichlet Process)廣泛應(yīng)用于信息檢索、自然語言處理等領(lǐng)域,是理解主題模型的重要一步。而且它作為一種非參數(shù)模型(non-paramatric model),和參數(shù)模型一樣有著越來越廣泛的應(yīng)用。
文本提供了一種對(duì)Dirichlet 過程的理解。本文適合了解高斯過程,對(duì)Dirichlet過程有一定了解,但又有些困惑的同學(xué)。希望讀完這篇文章能進(jìn)一步提升對(duì)Dirichlet的理解。
隨機(jī)過程
粗略地說,隨機(jī)過程是概率分布的擴(kuò)展。我們一般講概率分布,是有限維的隨機(jī)變量的概率分布,而隨機(jī)過程所研究的對(duì)象是無限維的。因此,也把隨機(jī)過程所研究的對(duì)象稱作隨機(jī)函數(shù)。
隨機(jī)變量之于概率分布,就像隨機(jī)函數(shù)之于隨機(jī)過程。
機(jī)器學(xué)習(xí)領(lǐng)域常見的隨機(jī)過程有:Gaussian Process, Dirichlet Process, Beta Process, Gamma Process等等。
高斯過程
理解Dirichlet過程,可以類比高斯過程。高斯過程(GP)是定義在函數(shù)上的概率分布。
總結(jié)
以上是生活随笔為你收集整理的深度学习核心技术精讲100篇(二十一)-深入理解Dirichlet分布及过程的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: “加班文化“到底是如何流行起来的
- 下一篇: 梳理百年深度学习发展史-七月在线机器学习