參考 JS散度(Jensen-Shannon) - 云+社區 - 騰訊云

JS散度(Jensen-Shannon)

JS散度度量了兩個概率分布的相似度，基于KL散度的變體，解決了KL散度非對稱的問題。一般地，JS散度是對稱的，其取值是0到1之間。

定義如下：

KL散度和JS散度度量的時候有一個問題：

如果兩個分配P,Q離得很遠，完全沒有重疊的時候，那么KL散度值是沒有意義的，而JS散度值是一個常數。這在學習算法中是比較致命的，這就意味這這一點的梯度為0。梯度消失了。

參考? JS散度 - 云+社區 - 騰訊云

?

總結

以上是生活随笔為你收集整理的JS散度(Jensen-Shannon)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。