这是arxiv上最新发表的一篇前沿交叉综述报告。主要讨论了如何使用深度强化学习方法解决智能交通系统问题，特别是智能信号灯控制问题。本公众号将分4次发布本综述报告的翻译，仅供大家参考学习。
获取英文原论文"强化学习智能交通"。
系列预告
- 深度强化学习智能交通 (I) ：深度强化学习概述
- 深度强化学习智能交通 (II) ：交通信号灯控制表示为 Deep RL 问题
- 深度强化学习智能交通 (III) ：Deep RL 在交通信号灯控制中的应用
- 深度强化学习智能交通 (IV) ： 自动驾驶、能源管理与道路控制
0 介绍
随着城市化进程的加快和自动技术的最新发展，交通研究逐渐向智能化方向发展，称为智能交通系统（ITS）。人工智能（AI）试图用最少的人工干预来控制系统。智能交通系统与人工智能的结合为21世纪的交通研究提供了有效的解决方案。ITS 的主要目标是为参与者提供安全、有效和可靠的交通系统。为此，优化交通信号控制（TSC）、自主车辆控制、交通流控制等是研究的重点。
未来的交通系统预计将包括完全自动，如自动交通管理和自动驾驶。即使是现在，半自动驾驶汽车也占据了道路，而且在不久的将来，自动水平可能会提高。政府希望在这方面拥有自动权的原因有很多，例如为司机节省时间，为环境节约能源，以及为所有参与者提供安全保障。通过使用自动控制系统，可以更有效地控制协调和连接的交通系统，可以节省出行时间。当车辆在交通上花费更多时间时，油耗会增加，这会对环境和经济产生影响。人类干预被尽量减少的另一个原因是人类行为的不可预测性。预计自动驾驶将减少交通事故，提高交通运输质量。基于上述原因，智能交通系统对自动控制的各个方面都有很高的要求。一种流行的方法是使用基于经验的学习模型，类似于人类的学习。
城市地区人口的增长导致了交通量的增加，2018年，平均一个美国司机每年的拥堵代价为 97 小时和1348美元[1]。因此，利用自适应模块控制交通信号灯是智能交通系统（ITS）的一个研究热点。通过交通信号设计一个自适应的交通管理系统是减少交通拥挤的有效途径。优化红绿灯的最佳方法对研究人员来说仍然是一个悬而未决的问题，但是一个有希望的优化 TSC 的方法是使用基于学习的人工智能技术。
机器学习的模式主要有三种。有监督学习根据训练中提供的输出标签做出决策。无监督学习基于模式发现，不需要预先知道输出标签。第三种机器学习范式是强化学习（RL），它以马尔可夫决策过程（MDP）为基础，以奖励或惩罚为准则，采取序列化的行动。RL 与深度学习相结合，被称为 deep RL，是目前控制系统中最先进的学习框架。RL 可以解决复杂的控制问题，而深度学习有助于从复杂的数据集中逼近高度非线性函数。
近年来，针对不同的应用领域，提出了许多基于深度 RL 的求解方法。基于 RL 的控制机制在交通管理系统和自动驾驶应用中的应用越来越受到人们的关注。综述与 deep RL 相关的所有数据驱动的 ITS 研究，并在一篇论文中讨论这些应用，是为 ITS 研究人员提供关于 deep RL 的信息，以及 deep RL 研究人员提供关于 ITS 的信息。
本文综述了针对智能交通系统提出的 deep RL 应用，主要是针对 交通信号灯控制的 deep RL 应用。讨论了不同于文献中的的 RL 方法。基于传统 RL 技术的 TSC 解决方案在 deep RL 发明之前就已经被研究过。因此，对于智能交通系统，传统的 RL 方法对于启发我们提出 deep RL 的方法也至关重要，特别是智能信号灯控制。由于交通断面模型主要是连通的和分布式的，因此多智能体动态控制技术在基于RL的 ITS 应用中起着关键的作用。
Deep RL 是最成功的人工智能模型之一，也是最接近人类学习模式的机器学习范式。它结合了深层神经网络和强化学习，使得函数逼近更为有效和稳定，特别是对于高维和无限状态问题。本节介绍了传统 RL 的理论背景以及在 ITS 应用中实现的主要深度 RL 算法。
1 强化学习
强化学习是一种通用的学习工具。在强化学习中，智能体与环境进行交互，在没有任何先验知识的情况下，通过最大化一个数值定义的奖励（或者最小化惩罚）来学习如何在环境中表现。在每一个时间步 t 采取一个行动后， RL 智能体会从环境中得到一个度量其行动效果的反馈。根据这个反馈（奖励或惩罚），智能体迭代地更新其行动策略直到达到最优控制策略。
RL 从环境的经验中学习，利用的是一种与人类学习类似的不断试错反复尝试（trial-and-error）的学习模式[11]。RL 中基本的探索利用权衡在新的行动和已有行动之间建立平衡。从计算的视角，RL 利用一种数据驱动的方法迭代的计算近似方案来逼近最优控制策略。因此，它也被称为近似动态规划（approximate dynamic programming）[11]，是动态规划（DP）中的一类序列优化问题。
在一般的 RL 模型中，智能体由一个算法控制，在每一个时间步 t 观察到系统状态 st，采取行动 at 后，从系统/环境得到奖励 rt 。在当前策略 π 下采取行动后，系统转移到下一个状态 st 1 。每一次交互后，RL 智能体更新它拥有的环境的知识。图1显示了强化学习过程的示意图。
图1 强化学习的控制环路1.1 马尔可夫决策过程（MDP）
强化学习方法可以形式化为马尔可夫决策过程（MDP），MDP 是序列决策算法的一般数学框架。MDP 可以表示成一下五元组：
1.2 基于价值的强化学习
1.3 基于策略的强化学习
优势函数是正负决定了更新的方向：朝着比平均值高/低的奖励相同/相反的方向前进。我们将在讨论深度强化学习时进一步讨论 Actor-Critic 算法。
1.4 多智能体强化学习
现实世界中的许多问题都需要多个智能体之间的交互来最大化学习性能。多智能体学习是一项具有挑战性的任务，因为每个智能体都应该考虑其他智能体的行为，以达到全局最优解。增加智能体的数量也会增加状态和行动的维度，因此智能体之间的任务分解是大型控制系统可扩展的方法。
多智能体 RL 中高维系统（状态和行动）存在两个主要问题：智能体的稳定性和对环境的适应性[17]。当各智能体在不考虑近邻智能体的情况下对其行动进行优化时，整个系统的最优学习将变得非平稳。在多智能体 RL 系统中，有几种方法可以解决这个问题，如分布式学习、合作学习和竞争学习[17]。
2 深度强化学习
在高维的状态空间，传统的 RL 算法不能有效地为每一个状态计算价值函数和策略函数。虽然在 RL 中有一些线性函数逼近的方法被提出来解决大的状态空间问题，它们的能力还是有限。在高维和复杂系统中，传统的 RL 方法无法学习环境的有信息的特征来进行高效的函数逼近。然而，这个问题可以使用基于深度学习的逼近器很容易地解决。可以训练一个深层神经网络来学习最优策略或价值函数。在大的状态空间，不同的神经网络结构，例如卷积神经网络（CNN）和循环神经网络（RNN）都被用来训练强化学习算法[18]。
深度学习的主要思想是从数据中提取有用的模式。深度学习模型是从人类神经系统的多层结构中获得启发。如今，深度学习在计算机视觉、语音识别、自然语言处理和强化学习等诸多领域得到了广泛的应用。
2.1 深度 Q 网络
2.2 Double Dueling DQN
DQN 是传统的 Q-learning 算法的改进版本。由于都只有一个 Q 函数估计器，DQN 和 Q-learning 都会高估某些行动。文献[23]的作者提出使用双网络，用一个主网络进行行动选择，用一个目标网络来对行动进行评价。使用和传统的表格 double Q-learning 算法相同的损失最小化方法[24]。Double DQN 使用主网络来选择行动，目标网络来评价行动，而不是使用目标网络来选择 Q 值（参考公式（14））。为了更好地估计Q值，行动选择与目标网络解耦：
图2 Actor Critic 控制环路DQN 的另一个改进是每一个行动使用一个竞争网络架构来估计状态价值函数 Vπ(s) 和使用优势函数 Aπ(s,a) [25]。这两个网络组合的输出是通过聚合层的离散行动集的 Q 值。通过这种方式竞争 DQN 学习到重要状态的价值而不用去考虑不同行动的影响，因为状态价值 Vπ(s) 是一个行动无关的估计。
以上这两种 doubling 和 dueling DQN 模型在使用优先经验回放时在离散行动的深度强化学习中取得了当前最好的性能。
2.3 Actor Critic 方法
Actor-critic 强化学习模型介于基于策略的算法和基于价值的算法之间，因为需要维护两个估计：使用 Q-value 估计的 Actor 和使用状态价值函数估计的 Critic，如图2所示。Actor 基于策略来控制智能体的行为，而 Critic 基于价值函数来对采取的行动进行评价。最新的研究也使用深度强化学习方法来提出 Actor-critic 模型的变种[20,21,26]，在这些模型中 Actor 和 Critic 都是基于深层神经网络。
只有一个网络的传统 DQN 适合于低维离散行动空间的问题。最近，一个 Actor-critic 算法 DDPG （deep deterministic policy gradient）被提出来，用于解决高维连续控制问题。DDPG 在状态空间使用确定性的策略梯度方法，而不是同时在状态空间和行动空间都使用随机梯度下降[20]。DDPG 与传统的 DQN 的一个不同是它使用一个新的软性的目标更新模型执行频繁的软性更新。
2.4 异步方法
硬件系统的进展使得强化学习研究人员能够使用多个 CPU 或 GPU 进行并行计算来加快学习速度。首次在 DQN上测试的并行模型提高了智能体的性能，训练时间更短且收敛性更好。例如，文献[27]中提出的异步多 Actor 学习模型在连续和离散行动空间问题上都获得了高性能。多 Actor 学习使得 RL 智能体能够在不同的探索率下对环境进行探索。此外，异步更新不再需要回放存储，学习器在一个预先定义的更新周期 T 下能够利用多个试验累计的梯度。A3C （Asynchronous Advantage Actor-Critic）,一种先进的深度强化学习算法，可以在多个并行处理器上异步地更新策略和价值网络。在更新周期 T 内，每一个网络分别进行更新，共享的主网络则根据 θπ 和 θV 来进行更新。A3C 的同步和简化算法称为 A2C （Advantage Actor-Critic）。
3 Deep RL 总结
在这一部分中，我们讨论了深度 RL 的背景，包括基于策略和基于价值的 RL 模型。在讨论ITS中deep RL应用的细节之前，值得一提的是，某些 deep RL算法是根据应用域的规格，在不同的应用程序中首选。虽然开发新的深度RL技术是一个活跃的研究领域，但基于Q学习的DQN和 基于 actor-critic 的DDPG 算法仍然是基于 RL 的 ITS 控制的主流。
对于高维状态空间，deep RL 方法优于传统 RL方法。在行动空间方面，基于策略的 deep RL方法比基于值的 deep RL 方法更适合于连续行动空间。对于离散行动空间，其控制器通常使用 DQN 及其变体，因为与基于策略的方法相比，它们的结构更简单。
一般来说，基于 Q 学习的 DQN 模型通常用于具有有限状态空间和行动空间的较不复杂系统，而基于策略或 actor-critic 的算法主要用于大型复杂系统，包括多智能体控制系统。在许多情况下，设计者可以在设置问题时在离散和连续状态空间和行动空间之间进行选择。例如，在 TSC 中，一些作者将连续行动定义为延长绿灯的时间，而另一些作者将离散行动空间定义为选择绿灯方向。
