人机共驾：自动驾驶的终局？

“它经常在不合适的时间变道，但如果你想转方向盘救紧急情况，它会和你争道，这很危险。”“整个过程就像看孩子开车一样，压力很大。”...这里的“它”是特斯拉Autopilot。此前美国《消费者报告》报道称，更新后的自动驾驶仪具有自动变道功能，车主可以选择在变道时不给出任何警告，完全交给机器来选择。但是，试驾编辑在体验后吐槽道。特斯拉自动驾驶一直备受争议。一方面说它是新手的福音，是预防事故的好帮手，另一方面又有人抨击它是事故的罪魁祸首。这个系统不仅升级了用户体验，也因为安全事件频发而备受关注。不可否认的是，特斯拉Autopilot让大家有机会看到自动驾驶的未来，虽然离真正的“自动驾驶”还很远。毕竟由于软硬件的限制，最多只能实现L2自动驾驶，而且在这个阶段，“人”还是主体，需要机器和人的配合，所以所有这些关于自动驾驶的争议都可以归结为“人机共驾”的典型问题。

具有“Autopilot导航”功能的特斯拉车型可实现自主变道| Teslarati在“全自动驾驶”这一纯技术问题普及之前，“人机共驾”问题是所有汽车公司和自动驾驶公司需要突破的又一难题。这个难题的核心是“人”的不确定因素。根据控制权的划分，“人机共驾”可分为“双驾单控”和“双驾双控”两种模式。前者侧重于驾驶权的转移以及主驾驶和辅助驾驶中的人车问题；后者与驱动自信有关。在人车都有控制权的情况下，应该更相信哪一方？因此，建立一个高效、舒适、安全的自动驾驶系统是极其复杂的。原因很简单。机器必须与人互动。而且这个交互过程不仅涉及机器人，还涉及机器学习、心理学、经济学、政策等领域的问题。同时也挑战了我们现有的认知和假设:人类的表现可以差到什么程度？人工智能会有多强大？

麻省理工学院进行的“人机共驾”研究在右上角显示了测试车辆“黑贝蒂”。麻省理工学院之前做过一个关于“人机共驾”的研究，从设计开发“以人为中心”的自动驾驶系统的角度提出了七个原则。这些指导原则并没有消除人性的复杂性，而是将其融入整个系统。这正是这项研究的实质。实验结果的演示可以在一辆名为“黑贝蒂”的无人车上看到。只配备了摄像头，主要通过机器学习进行外部环境感知、规划决策、驾驶员监控、语音识别、聚合和人机双向控制的无缝切换(语音控制)，方向盘上安装了扭矩传感器。通过下面的视频，可以看到这款无人车的具体表现:https://www.youtube.com/watch?. V = OOC 8 oh 0 clgc“人”是复杂的因素吗？在过去的十年中，自动驾驶的能力逐渐提高，迫使政策制定者和行业安全研究者开始思考如何对“自动驾驶”进行分级，以便为相关法律、标准、工程设计甚至行业交流提供参考框架。目前业界普遍采用美国汽车工程学会SAE制定的分级标准，将自动驾驶分为L0到L5六个等级。但SAE对各个层次的定义其实非常模糊，无法给出清晰明确的区别，所以它似乎不太适合作为引发行业思考的“砖头”，而更像是一套汽车系统设计开发的指导原则。

美国汽车工程学会对自动驾驶的SAE分类| SAE目前，业界对自动驾驶汽车有三种普遍看法:1。驾驶任务很简单；2.人类不擅长驾驶；3.人类和机器不能很好的合作。与这些观点相比，麻省理工的研究方向完全相反:1。开车其实很难；2.人类是优秀的司机；3.人与智能机器有效地合作是可行的，也是一个有价值的目标。基于这一前提和假设，麻省理工学院提出了“以人为中心”的框架，并将其应用于人机共驾系统的开发，彻底去除了执行具体驾驶任务时人机之间的界限。同时，麻省理工学院还提出了人机共驾的“七大原则”，并讨论了如何在设计、开发和测试“黑贝蒂”的过程中应用这些原则。“人机共驾”七大原则1。共享自主)麻省理工学院认为，自动驾驶应该分为两个层次:1。共享自主权；第二，完全自主。这种分类方法不仅可以提供建设性的指导方针，增加必要的限制，还可以设定要实现的量化目标。甚至，每个类别下要实现的功能，对应的技术要求，可能出现的问题都可以划分。这个原理的核心在于对“擂台上的人类车手”的讨论。为了有效地控制车辆，由人和机器组成的团队必须充分了解外部环境。目标是督促全行业明确区分“人机驾驶”和“全自动驾驶”。

表一中“人机共驾”和“全自动驾驶”两条路径所涉及的技术，包含了量产使用时各项技术性能的等级要求| MIT需要指出的是，表一中的“良好”和“例外”是用来表示解决1%极端情况的优先顺序。远程控制，V2X，V2I都不是必备技术，要用的话需要满足特殊能力要求。在实现高级自动驾驶的方法上，传统思维跳过了全程对“人”的考虑，将重点放在地图、感知、规划以及表一“全自动驾驶”一栏中标注为“专属”的技术上，实际上考虑到目前的硬件和算法能力，这种解决方案对高精度地图和传感器套件的鲁棒性要求较高，提供了更为保守的驾驶策略。如表一所述，“以人为中心”的自动驾驶汽车的焦点主要在驾驶员身上。仍然由人来负责控制车辆，但前提是要充分考虑人的状态、驾驶模式和以往的人机合作经验，同时把车辆的转向、加减速交给人工智能系统。以特斯拉的自动驾驶为例。麻省理工学院之前的研究表明，测试中超过30%的行程是由这个L2驾驶辅助系统控制的。如果人机共驾应用成功，应该可以达到50%以上的机控率。在这项实验中，麻省理工学院表示无人车系统在接管过程中表现出不同程度的能力，而人类驾驶员则始终密切关注机器的动态，并根据传感系统获得的信息及时预测可能出现的危险。二、从表一的数据中学习，不难发现，任何涉及到的车辆技术都是数据驱动的，需要收集大量的边缘案例数据，并利用这些数据不断优化算法。这个学习过程的目的应该是通过大量的数据实现从传统的模块化监督学习到端到端的半监督和无监督学习的过渡。为了实现车辆的自动驾驶，传统的方法，无论什么水平，几乎都不会应用很多机器学习技术。除了一些特殊的线下场景，比如Mobileye的视觉感知系统识别车道线，或者通用超级巡航配备的红外摄像头预测驾驶员的头部动作。特斯拉的自动驾驶可能比其他方案走得更远。在为第二代硬件平台HW 2.0开发软件算法时，越来越多的监督机器学习原理被应用在视觉感知中。但即便如此，大部分对车辆的控制和对驾驶员状态的监控都不是大数据驱动的，几乎没有涉及在线学习过程。目前，在业界开展的一些全自动驾驶技术道路测试中，机器学习主要应用于环境感知这一环节。更重要的是，这些车辆收集的数据，在数量和多样性方面，都不如那些具有L2级自动驾驶能力的车辆。

Tesla Autopilot主要依靠机器学习算法来检测目标和车道线| ElectrekMIT认为“L2自动驾驶系统的机器学习框架所使用的数据从规模和丰富度来看，具有足够的扩展能力，能够覆盖多变的、有代表性的、具有挑战性的边缘案例。共享自治需要同时收集人和车辆的感知数据，并在挖掘和分析后进行监督学习的注释。在实验中……MIT的ntal过程，深度神经网络模型已经应用于驾驶场景感知、路径规划、驾驶员监控、语音识别、语音聚合，可以通过大量收集的驾驶体验数据不断调整优化。在收集数据时，MIT表示不局限于单个传感器来源，而是考虑到整个驾驶体验，所有传感器数据流都由一个实时时钟进行汇总和聚合，用于标记多个神经网络模型。这样可以很好的匹配驾驶场景和驾驶员的状态，在聚合的传感器数据流中进行标注工作，这样在数据规模允许的情况下，模块化的监督学习可以很容易过渡到端到端的学习。第三，人体感应实际上就是我们通常所说的“驾驶员监控”是指对驾驶员整体心理和功能特征的多维度测量和评价，包括注意力分散、疲劳、注意力分配和容量、认知负荷、情绪状态等。目前除了通用Super Cruise在方向盘上配备了红外摄像头之外，无论是搭载ADAS驾驶辅助系统的量产车型，还是路测中的全自动驾驶汽车，大部分都没有提供任何与驾驶员监控相关的软硬件。特斯拉Model 3其实安装了车内摄像头，但目前还没有启用。官方功能表示要等软件更新后才能知道。除了基于视觉的解决方案，市场上也有一些准确率不高的方式。例如，特斯拉在方向盘上安装了扭矩传感器，一些公司通过监测方向盘是否反转来推断驾驶员是否疲劳。

新一代凯迪拉克CT6的驾驶员监控系统由Seeing Machines提供|官方供图麻省理工学院认为“对驾驶员状态的感知和监控是实现高效人机共驾的第一步，也是最关键的一步。在过去的二十年里，来自机器视觉、信号处理、机器人学等领域的专家对相关课题进行了研究，目的是讨论如何尽可能地保证司机和乘客的安全。此外，对驾驶员状态的监控，对于如何改善和升级人机交互界面，以及高级驾驶辅助系统ADAS的设计都有很大的帮助。随着汽车智能化程度的不断提高，如何准确、及时地检测驾驶员的行为，对于创造安全、个性化的出行体验尤为重要。更有意思的是，从完全手动驾驶到完全自动驾驶，涉及到不同模式之间的切换问题。总的来说，handoff方向盘是一个信号，可能表示系统准备好接管了，但是还有哪些更准确的信息可以用来判断，这可能是“驾驶员监控”的研究者需要不断思考的。四、共享感知-控制(Shared Preception-Control)一般来说，这相当于给整个自动驾驶系统增加了“一双眼睛和手”。“它经常在不合适的时间变道，但如果你想转方向盘救紧急情况，它会和你争道，这很危险。”“整个过程就像看孩子开车一样，压力很大。”...这里的“它”是特斯拉Autopilot。此前美国《消费者报告》报道称，更新后的自动驾驶仪具有自动变道功能，车主可以选择在变道时不给出任何警告，完全交给机器来选择。但是，试驾编辑在体验后吐槽道。特斯拉自动驾驶一直备受争议。一方面说它是新手的福音，是预防事故的好帮手，另一方面又有人抨击它是事故的罪魁祸首。这个系统不仅升级了用户体验，也因为安全事件频发而备受关注。不可否认的是，特斯拉Autopilot让大家有机会看到自动驾驶的未来，虽然离真正的“自动驾驶”还很远。毕竟由于软硬件的限制，最多只能实现L2自动驾驶，而且在这个阶段，“人”还是主体，需要机器和人的配合，所以这些关于自动驾驶的争议都可以归结为……“人机共驾”的典型问题。

具有“Autopilot导航”功能的特斯拉车型可实现自主变道| Teslarati在“全自动驾驶”这一纯技术问题普及之前，“人机共驾”问题是所有汽车公司和自动驾驶公司需要突破的又一难题。这个难题的核心是“人”的不确定因素。根据控制权的划分，“人机共驾”可分为“双驾单控”和“双驾双控”两种模式。前者侧重于驾驶权的转移以及主驾驶和辅助驾驶中的人车问题；后者与驱动自信有关。在人车都有控制权的情况下，应该更相信哪一方？因此，建立一个高效、舒适、安全的自动驾驶系统是极其复杂的。原因很简单。机器必须与人互动。而且这个交互过程不仅涉及机器人，还涉及机器学习、心理学、经济学、政策等领域的问题。同时也挑战了我们现有的认知和假设:人类的表现可以差到什么程度？人工智能会有多强大？

麻省理工学院进行的“人机共驾”研究在右上角显示了测试车辆“黑贝蒂”。麻省理工学院之前做过一个关于“人机共驾”的研究，从设计开发“以人为中心”的自动驾驶系统的角度提出了七个原则。这些指导原则并没有消除人性的复杂性，而是将其融入整个系统。这正是这项研究的实质。实验结果的演示可以在一辆名为“黑贝蒂”的无人车上看到。只配备了摄像头，主要通过机器学习进行外部环境感知、规划决策、驾驶员监控、语音识别、聚合和人机双向控制的无缝切换(语音控制)，方向盘上安装了扭矩传感器。通过下面的视频，可以看到这款无人车的具体表现:https://www.youtube.com/watch?. V = OOC 8 oh 0 clgc“人”是复杂的因素吗？在过去的十年中，自动驾驶的能力逐渐提高，迫使政策制定者和行业安全研究者开始思考如何对“自动驾驶”进行分级，以便为相关法律、标准、工程设计甚至行业交流提供参考框架。目前业界普遍采用美国汽车工程学会SAE制定的分级标准，将自动驾驶分为L0到L5六个等级。但SAE对各个层次的定义其实非常模糊，无法给出清晰明确的区别，所以它似乎不太适合作为引发行业思考的“砖头”，而更像是一套汽车系统设计开发的指导原则。

美国汽车工程学会对自动驾驶的SAE分类| SAE目前，业界对自动驾驶汽车有三种普遍看法:1。驾驶任务很简单；2.人类不擅长驾驶；3.人类和机器不能很好的合作。与这些观点相比，麻省理工的研究方向完全相反:1。开车其实很难；2.人类是优秀的司机；3.人与智能机器有效地合作是可行的，也是一个有价值的目标。基于这一前提和假设，麻省理工学院提出了“以人为中心”的框架，并将其应用于人机共驾系统的开发，彻底去除了执行具体驾驶任务时人机之间的界限。同时，麻省理工学院还提出了人机共驾的“七大原则”，并讨论了如何在设计、开发和测试“黑贝蒂”的过程中应用这些原则。“人机共驾”七大原则1。共享自主)麻省理工学院认为，自动驾驶应该分为两个层次:1。共享自主权；第二，完全自主。这种分类方法不仅可以提供建设性的指导方针，增加必要的限制，还可以设定要实现的量化目标。甚至，每个类别下要实现的功能，对应的技术要求，可能出现的问题都可以划分。这个原理的核心在于对“擂台上的人类车手”的讨论。为了有效地控制车辆，由人和机器组成的团队必须充分了解外部环境。目标是督促全行业明确区分“人机驾驶”和“全自动驾驶”。

表一中“人机共驾”和“全自动驾驶”两条路径所涉及的技术，包含了量产使用时各项技术性能的等级要求| MIT需要指出的是，表一中的“良好”和“例外”是用来表示解决1%极端情况的优先顺序。远程控制，V2X，V2I都不是必备技术，要用的话需要满足特殊能力要求。在实现高级自动驾驶的方法上，传统思维跳过了全程对“人”的考虑，将重点放在地图、感知、规划以及表一“全自动驾驶”一栏中标注为“专属”的技术上，实际上考虑到目前的硬件和算法能力，这种解决方案对高精度地图和传感器套件的鲁棒性要求较高，提供了更为保守的驾驶策略。如表一所述，“以人为中心”的自动驾驶汽车的焦点主要在驾驶员身上。仍然由人来负责控制车辆，但前提是要充分考虑人的状态、驾驶模式和以往的人机合作经验，同时把车辆的转向、加减速交给人工智能系统。以特斯拉的自动驾驶为例。麻省理工学院之前的研究表明，测试中超过30%的行程是由这个L2驾驶辅助系统控制的。如果人机共驾应用成功，应该可以达到50%以上的机控率。在这项实验中，麻省理工学院表示无人车系统在接管过程中表现出不同程度的能力，而人类驾驶员则始终密切关注机器的动态，并根据传感系统获得的信息及时预测可能出现的危险。二、从表一的数据中学习，不难发现，任何涉及到的车辆技术都是数据驱动的，需要收集大量的边缘案例数据，并利用这些数据不断优化算法。这个学习过程的目的应该是通过大量的数据实现从传统的模块化监督学习到端到端的半监督和无监督学习的过渡。为了实现车辆的自动驾驶，传统的方法，无论什么水平，几乎都不会应用很多机器学习技术。除了一些特殊的线下场景，比如Mobileye的视觉感知系统识别车道线，或者通用超级巡航配备的红外摄像头预测驾驶员的头部动作。特斯拉的自动驾驶可能比其他方案走得更远。在为第二代硬件平台HW 2.0开发软件算法时，越来越多的监督机器学习原理被应用在视觉感知中。但即便如此，大部分对车辆的控制和对驾驶员状态的监控都不是大数据驱动的，几乎没有涉及在线学习过程。目前，在业界开展的一些全自动驾驶技术道路测试中，机器学习主要应用于环境感知这一环节。更重要的是，这些车辆收集的数据，在数量和多样性方面，都不如那些具有L2级自动驾驶能力的车辆。

Tesla Autopilot主要依靠机器学习算法来检测目标和车道线| ElectrekMIT认为“L2自动驾驶系统的机器学习框架所使用的数据从规模和丰富度来看，具有足够的扩展能力，能够覆盖多变的、有代表性的、具有挑战性的边缘案例。共享自治需要同时收集人和车辆的感知数据，并在挖掘和分析后进行监督学习的注释。在实验中……MIT的ntal过程，深度神经网络模型已经应用于驾驶场景感知、路径规划、驾驶员监控、语音识别、语音聚合，可以通过大量收集的驾驶体验数据不断调整优化。在收集数据时，MIT表示不局限于单个传感器来源，而是考虑到整个驾驶体验，所有传感器数据流都由一个实时时钟进行汇总和聚合，用于标记多个神经网络模型。这样可以很好的匹配驾驶场景和驾驶员的状态，在聚合的传感器数据流中进行标注工作，这样在数据规模允许的情况下，模块化的监督学习可以很容易过渡到端到端的学习。第三，人体感应实际上就是我们通常所说的“驾驶员监控”是指对驾驶员整体心理和功能特征的多维度测量和评价，包括注意力分散、疲劳、注意力分配和容量、认知负荷、情绪状态等。目前除了通用Super Cruise在方向盘上配备了红外摄像头之外，无论是搭载ADAS驾驶辅助系统的量产车型，还是路测中的全自动驾驶汽车，大部分都没有提供任何与驾驶员监控相关的软硬件。特斯拉Model 3其实安装了车内摄像头，但目前还没有启用。官方功能表示要等软件更新后才能知道。除了基于视觉的解决方案，市场上也有一些准确率不高的方式。例如，特斯拉在方向盘上安装了扭矩传感器，一些公司通过监测方向盘是否反转来推断驾驶员是否疲劳。

新一代凯迪拉克CT6的驾驶员监控系统由Seeing Machines提供|官方供图麻省理工学院认为“对驾驶员状态的感知和监控是实现高效人机共驾的第一步，也是最关键的一步。在过去的二十年里，来自机器视觉、信号处理、机器人学等领域的专家对相关课题进行了研究，目的是讨论如何尽可能地保证司机和乘客的安全。此外，对驾驶员状态的监控，对于如何改善和升级人机交互界面，以及高级驾驶辅助系统ADAS的设计都有很大的帮助。随着汽车智能化程度的不断提高，如何准确、及时地检测驾驶员的行为，对于创造安全、个性化的出行体验尤为重要。更有意思的是，从完全手动驾驶到完全自动驾驶，涉及到不同模式之间的切换问题。总的来说，handoff方向盘是一个信号，可能表示系统准备好接管了，但是还有哪些更准确的信息可以用来判断，这可能是“驾驶员监控”的研究者需要不断思考的。四、共享感知-控制(Shared Preception-Control)一般来说，这相当于给整个自动驾驶系统增加了“一双眼睛和手”。目的是建立附加的传感、控制和路线规划机制。即使是在高度自动化的驾驶系统运行时，也需要及时为驾驶员推送信息，并将其带入整个驾驶过程。研究自动驾驶的目的是为了完美解决“感知-控制”的问题，兼顾人类的不可靠性和行为的不可预测性。所以传统的观点是，最简单的办法就是把人排除在驾驶之外，就像十几年前赢得DARPA挑战赛的团队一样。但与传统解决方案相反，“以人为中心”的理论将人置于感知和决策规划闭环的关键位置。所以车辆感知系统就成了配角，为人类驾驶员提供外界环境信息，实际上被认为是解决了机器视觉本身的局限性。

2

3

表二麻省理工学院“以人为本”的自动驾驶系统执行的感知任务，包括检测驾驶员的面部表情、动作、可驾驶区域、车道l……场景中的es和物体| II MIT的研究，工作人员围绕这个原理设计了几个关键算法。表二是几个典型案例。首先，我们可以直观的看到神经网络做出的判断，道路分割的面积，驾驶场景状态预测的可信度；其次，整合所有的感知数据，输出融合的决策建议，从而可以在表四的场景下估计总体风险；第三，MIT一直采用模仿学习:以人类驾驶员控制车辆时方向盘的动作作为训练数据，进一步优化端到端的深度神经网络；最后，麻省理工学院使用的端到端神经网络是一个名为“辩论机器”的框架的一部分，它为主要的感知-控制系统提供人类监督(表三)。这里的“辩论机器框架”是MIT MIT 2018提出的一个概念。请点击(http://1t.click/DAK)了解详细的技术细节。它将主人工智能系统与经过独立训练来执行相同任务的辅助人工智能系统配对。该框架表明，在没有任何基本的系统设计或操作知识的情况下，两个系统之间的差异足以提高整体决策流水线的准确性。

4

表三“辩论机器”框架在“黑贝蒂”自动驾驶测试车上的应用和评估|麻省理工学院

5

表四通过结合车辆内外感知系统的数据做出的融合决策可以充分估计可能的风险| MIT五、深度个性化这里涉及到一个“将人类融入机器”的概念。通过调整AI系统的参数，可以更适合人类操作，呈现一定程度的定制化。最终的系统应该具备驾驶员的行为特征，而不是刚出厂时的常见配置。6.不避免设计缺陷对于整个汽车行业来说，有很多原因需要考虑。在进行工程设计时，最重要的考虑是“安全”，所以要尽可能地减少系统出错的频率和程度。换句话说，对于自动驾驶来说，完美是目标，这也导致了一些功能设计可能是“必要的”，因为它们的“不完美”和“不确定”的性质。但根据麻省理工学院的研究，在设计一个实现“人机共驾”的人工智能系统时，丰富高效的通信机制是一个非常必要的因素。就“交流”而言，系统的不完善可以在感知模型的交换和整合过程中，为人和机器提供密集多样的信息内容。如果人工智能系统的不确定性、局限性和错误被隐藏起来，它也会错过建立信任和深入理解与人之间关系的机会。麻省理工学院认为，行业在设计半自动驾驶系统时采用的“完美”思维可能是迄今为止犯下的严重错误之一。麻省理工学院在研发无人车“黑贝蒂”时，以文字和视觉的形式与人类充分沟通了人工智能系统的局限性。比如可视化人类和机器对外界的感知，让司机知道AI系统的局限性。研究人员表示，与仅仅提供“报警”或“模糊信号”相比，这种方式是最简单有效的人机交流方式。虽然这种通信机制仍然面临一些技术困难，例如，可视化过程通常需要芯片的高计算能力和实时调用能力。但值得关注和思考的是机器人、自动化、人机交互等领域的解决方案。7.系统级经验目前汽车行业工程设计过程中最重要的目标之一就是“安全”。另一个是“降低成本”。第二个目标是模块化和基于组件的设计思想。然而，在机器人、计算机视觉、机器学习等领域的人工智能系统设计中，同样的模式却有着不同的原因。比如注重单一功能的实现(目标检测等。)在设计中可以有效地检验算法的合理性并逐步完善和优化。但这个过程必然会关注单一功能，而忽略系统的整体体验。在过去的几十年里，“系统工程”和“系统思维”的原则一直指导着汽车工业产品的产出。然而，类似的思维几乎没有应用到自动驾驶汽车的设计、测试和评估中。就像上面麻省理工提到的六大原则一样，人和机器都难免会有缺陷。只有在系统层面考虑“人机共驾”的框架，这些缺陷才有机会变成优势。关于“人机共驾”的永恒讨论无论是短期还是长期，其实都很难……预测自动驾驶的哪一条道路最终会成功，退一步说，你连什么样的结果是“成功”都不知道。在谈到研究目的时，麻省理工学院希望一个自动驾驶系统能够同时满足“安全性”、“愉快的驾驶体验”和“改善的出行体验”三个要求，而不是适当地相互妥协。虽然“人机共驾”这个话题已经是包括汽车工业、机器人在内的很多领域研究的焦点，但仍然值得进一步探讨。在今年4月的上海国际车展上，一级供应商ZF和英伟达联合推出了coPILOT智能高级驾驶辅助系统。这是一套定位于“L2+级”的自动驾驶辅助系统，旨在提高乘用车的安全性和驾驶舒适性。从产品名称不难看出，这套系统也强调了“人机共驾”的理念。它配备了相应的传感器和功能，可以监控驾驶员，并在潜在危险情况发生时触发警告。例如，当驾驶员注意力不集中、几乎完全不注意道路交通或表现出困倦的迹象时，等等。因此，人工智能扮演着“个人驾驶助手”的角色，这一产品理念与麻省理工学院的研究不谋而合。完美解决驾驶任务和完美管理人类的信任和注意力哪个更难？这是一个值得深思的问题。麻省理工学院认为，关于这个问题的讨论不会停止。这篇论文和无人驾驶测试车“黑贝蒂”都是基于“人机共驾”的研究成果，麻省理工学院认为这是开发“以人为中心”的自动驾驶系统的必由之路。目的是建立附加的传感、控制和路线规划机制。即使是在高度自动化的驾驶系统运行时，也需要及时为驾驶员推送信息，并将其带入整个驾驶过程。研究自动驾驶的目的是为了完美解决“感知-控制”的问题，兼顾人类的不可靠性和行为的不可预测性。所以传统的观点是，最简单的办法就是把人排除在驾驶之外，就像十几年前赢得DARPA挑战赛的团队一样。但与传统解决方案相反，“以人为中心”的理论将人置于感知和决策规划闭环的关键位置。所以车辆感知系统就成了配角，为人类驾驶员提供外界环境信息，实际上被认为是解决了机器视觉本身的局限性。

2

3

表二麻省理工学院“以人为中心”的自动驾驶系统执行的感知任务，包括检测驾驶员的面部表情、动作、可驾驶区域、车道线和场景中的物体| II麻省理工学院的研究中，工作人员围绕这一原理设计了几个关键算法。表二是几个典型案例。首先，我们可以直观的看到神经网络做出的判断，道路分割的面积，驾驶场景状态预测的可信度；其次，整合所有的感知数据，输出融合的决策建议，从而可以在表四的场景下估计总体风险；第三，MIT一直采用模仿学习:以人类驾驶员控制车辆时方向盘的动作作为训练数据，进一步优化端到端的深度神经网络；最后，麻省理工学院使用的端到端神经网络是一个名为“辩论机器”的框架的一部分，它为主要的感知-控制系统提供人类监督(表三)。这里的“辩论机器框架”是MIT MIT 2018提出的一个概念。请点击(http://1t.click/DAK)了解详细的技术细节。它将主人工智能系统与经过独立训练来执行相同任务的辅助人工智能系统配对。该框架表明，在没有任何基本的系统设计或操作知识的情况下，两个系统之间的差异足以提高整体决策流水线的准确性。

4

表三“辩论机器”框架在“黑贝蒂”自动驾驶测试车上的应用和评估|麻省理工学院

5

表四通过结合车辆内外感知系统的数据做出的融合决策可以充分估计可能的风险| MIT五、深度个性化这里涉及到一个“将人类融入机器”的概念。通过调整AI系统的参数，可以更适合人类操作，呈现一定程度的定制化。最终的系统应该具备驾驶员的行为特征，而不是刚出厂时的常见配置。6.不避免设计缺陷对于整个汽车行业来说，有很多原因需要考虑。在进行工程设计时，最重要的考虑是“安全”，所以要尽可能地减少系统出错的频率和程度。换句话说，对于自动驾驶来说，完美是目标，这也导致了一些功能设计可能是“必要的”，因为它们的“不完美”和“不确定”的性质。但根据麻省理工学院的研究，在设计一个实现“人机共驾”的人工智能系统时，丰富高效的通信机制是一个非常必要的因素。就“交流”而言，系统的不完善可以在感知模型的交换和整合过程中，为人和机器提供密集多样的信息内容。如果人工智能系统的不确定性、局限性和错误被隐藏起来，它也会错过建立信任和深入理解与人之间关系的机会。麻省理工学院认为，行业在设计半自动驾驶系统时采用的“完美”思维可能是迄今为止犯下的严重错误之一。麻省理工学院在研发无人车“黑贝蒂”时，以文字和视觉的形式与人类充分沟通了人工智能系统的局限性。比如可视化人类和机器对外界的感知，让司机知道AI系统的局限性。研究人员表示，与仅仅提供“报警”或“模糊信号”相比，这种方式是最简单有效的人机交流方式。虽然这种通信机制仍然面临一些技术困难，例如，可视化过程通常需要芯片的高计算能力和实时调用能力。但值得关注和思考的是机器人、自动化、人机交互等领域的解决方案。7.系统级经验目前汽车行业工程设计过程中最重要的目标之一就是“安全”。另一个是“降低成本”。第二个目标是模块化和基于组件的设计思想。然而，在机器人、计算机视觉、机器学习等领域的人工智能系统设计中，同样的模式却有着不同的原因。比如注重单一功能的实现(目标检测等。)在设计中可以有效地检验算法的合理性并逐步完善和优化。但这个过程必然会关注单一功能，而忽略系统的整体体验。在过去的几十年里，“系统工程”和“系统思维”的原则一直指导着汽车工业产品的产出。然而，类似的思维几乎没有应用到自动驾驶汽车的设计、测试和评估中。就像上面麻省理工提到的六大原则一样，人和机器都难免会有缺陷。只有在系统层面考虑“人机共驾”的框架，这些缺陷才有机会变成优势。关于“人机共驾”的永恒讨论无论是短期还是长期，其实都很难……预测自动驾驶的哪一条道路最终会成功，退一步说，你连什么样的结果是“成功”都不知道。在谈到研究目的时，麻省理工学院希望一个自动驾驶系统能够同时满足“安全性”、“愉快的驾驶体验”和“改善的出行体验”三个要求，而不是适当地相互妥协。虽然“人机共驾”这个话题已经是包括汽车工业、机器人在内的很多领域研究的焦点，但仍然值得进一步探讨。在今年4月的上海国际车展上，一级供应商ZF和英伟达联合推出了coPILOT智能高级驾驶辅助系统。这是一套定位于“L2+级”的自动驾驶辅助系统，旨在提高乘用车的安全性和驾驶舒适性。从产品名称不难看出，这套系统也强调了“人机共驾”的理念。它配备了相应的传感器和功能，可以监控驾驶员，并在潜在危险情况发生时触发警告。例如，当驾驶员注意力不集中、几乎完全不注意道路交通或表现出困倦的迹象时，等等。因此，人工智能扮演着“个人驾驶助手”的角色，这一产品理念与麻省理工学院的研究不谋而合。完美解决驾驶任务和完美管理人类的信任和注意力哪个更难？这是一个值得深思的问题。麻省理工学院认为，关于这个问题的讨论不会停止。这篇论文和无人驾驶测试车“黑贝蒂”都是基于“人机共驾”的研究成果，麻省理工学院认为这是开发“以人为中心”的自动驾驶系统的必由之路。

标签：特斯拉凯迪拉克理念发现Model 3

汽车资讯热门资讯