我對負采樣理解來自于word2vec算法；

比如說 ?love 和me兩個單詞；

使用特殊思維模式；假設整個詞匯表只有100個單詞；love 表示成one-hot向量； me表示成one-hot向量；

模型輸入為love的one-hot向量；模型輸出為me的one-hot向量；

假設模型的神經網絡結構為100*10*100；輸出層100個；

輸出層中除了me對應位置的1外，其他全是0；稱這為負樣本；參數數量為10*100

采樣就是從這樣負樣本中抽樣；比如說抽取5個；那么在此次梯度更新中就只更新10*5；更新數量為原來的1/20

?

負采樣的本質：每次讓一個訓練樣本只更新部分權重，其他權重全部固定；減少計算量；（一定程度上還可以增加隨機性）

總結

以上是生活随笔為你收集整理的负采样的理解的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。