强化学习(十六) 深度确定性策略梯度(DDPG)
生活随笔
收集整理的這篇文章主要介紹了
强化学习(十六) 深度确定性策略梯度(DDPG)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
在強化學習(十五) A3C中,我們討論了使用多線程的方法來解決Actor-Critic難收斂的問題,今天我們不使用多線程,而是使用和DDQN類似的方法:即經驗回放和雙網絡的方法來改進Actor-Critic難收斂的問題,這個算法就是是深度確定性策略梯度(Deep Deterministic Policy Gradient,以下簡稱DDPG)。
本篇主要參考了DDPG的論文和ICML 2016的deep RL tutorial。
1. 從隨機策略到確定性策略
從DDPG這個名字看,它是由D(Deep)+D(Deterministic )+ PG(Policy Gradient)組成。PG(Policy Gradient)我們在強化學習(十三) 策略梯度(Policy Gradient)里已經討論過。那什么是確定性策略梯度(Deterministic Policy Gradient,以下簡稱DPG)呢?
確定性策略是和隨機策略相對而言的,對于某一些動作集合來說,它可能是連續值,或者非常高維的離散值,這樣動作的
總結
以上是生活随笔為你收集整理的强化学习(十六) 深度确定性策略梯度(DDPG)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 强化学习(十五) A3C
- 下一篇: 强化学习(十七) 基于模型的强化学习与D