马尔可夫决策过程(Markov Decision Process, MDP)是序贯决策sequential decision)的数学模型,用于在系统状态具有马尔可夫性质的环境中模拟智能体可实现的随机性策略与回报   MDP的得名来自于俄国数学家安德雷·马尔可夫Андрей Андреевич Марков),以纪念其为马尔可夫链所做的研究  

MDP基于一组交互对象,即智能体和环境进行构建,所具有的要素包括状态、动作、策略和奖励 。在MDP的模拟中,智能体会感知当前的系统状态,按策略对环境实施动作,从而改变环境的状态并得到奖励,奖励随时间的积累被称为回报   

MDP的理论基础是马尔可夫链,因此也被视为考虑了动作的马尔可夫模型   。在离散时间上建立的MDP被称为离散时间马尔可夫决策过程(descrete-time MDP,反之则被称为连续时间马尔可夫决策过程(continuous-time MDP 。此外MDP存在一些变体,包括部分可观察马尔可夫决策过程、约束马尔可夫决策过程和模糊马尔可夫决策过程。

在表中建模要素的基础上,MDP按如下方式进行组织:智能体对初始环境进行感知,按策略实施动作,环境受动作影响进入新的状态,并反馈给智能体一个奖励 。随后智能体基于采取新的策略,与环境持续交互。MDP中的奖励是需要设计的,设计方式通常取决于对应的强化学习问题。

MDP可以用图模型表示,在逻辑上类似于马尔可夫链的转移图。MDP的图模型包含状态节点和动作节点,状态到动作的边由策略定义,动作到状态的边由环境动力项(参见求解部分)定义。除初始状态外,每个状态都返回一个奖励

在应用方面,MDP被用于机器学习强化学习reinforcement learning)问题的建模 。通过使用动态规划随机采样等方法,MDP可以求解使回报最大化的智能体策略 ,并在自动控制推荐系统等主题中得到应用 

Logo

更多推荐