强化学习中基于值的方法侧重于估计状态-动作对的值,以确定要采取的最佳动作。这些方法的主要目标是找到最优值函数,这有助于代理评估来自任何给定状态或状态-动作对的预期长期回报。
最著名的基于值的方法之一是Q学习,其中代理学习每个状态-动作对的q值 (动作-值函数)。Q值表示在给定状态下采取特定动作的预期未来奖励。代理根据收到的奖励更新其q值,逐渐完善其策略以选择导致更高奖励的操作。
值迭代和策略迭代是基于值的方法的其他示例。这些方法对于离散状态-动作空间的问题是有效的,但可能会在高维或连续环境中挣扎。