强化学习中的蒙特卡罗方法用于根据情节的样本回报来估计状态或状态-动作对的价值。这些方法依赖于在采取行动并遵循政策直到情节结束后观察到的回报的平均值。
蒙特卡洛方法对于环境是偶发性的问题特别有用,这意味着它由导致最终状态的一系列动作组成。关键的优点是它们不需要自举 (如TD方法),因此它们可以处理更复杂的环境,在这些环境中,自举可能不实用。
蒙特卡洛方法的主要限制是它们需要完整的剧集来进行更新,如果环境没有明确定义的剧集,或者如果代理在达到终端状态之前必须等待很长时间,则这可能是低效的。尽管如此,它们是RL中政策评估和政策改进等任务的基础。