大连、南京！自动驾驶能遏制“人为恶意撞人事件”吗？

封面图片:电影《出租车司机》

今天凌晨，继大连恶意撞人事件之后，南京的“故意撞人新闻”再次牵动着大家的神经。

几万年来，人和工具一直是一个双刃剑般的组合。

他们可以合作创造和毁灭。

这两种结果都取决于“人”的动机和“人”的操作规范。

人工智能时代，在人机协作的过程中，我们对“人”的影响力依然有限，但我们或许可以控制“工具”。

汽车是受控工具之一。

未来乘用车大规模嵌入自动驾驶尤其是辅助驾驶系统是必然趋势。

地平线首席执行官余凯早前预测，对于未来的智能汽车，自动驾驶是一个普遍的选项，但它不会带来差异化的价值。

“换句话说，用户不会因为没有自动驾驶功能而购买某款车型，也不会因为有自动驾驶功能而购买这款车型。”

这既是个人需要，也是公共需要。

那么，自动驾驶在遇到人为犯罪的驾驶场景时，是否能在紧急情况下避免和减少伤害呢？

专家告诉雷锋网。有两种方法可以避免此类事件或最大限度地减少项目实施的后果:

一种是实现全自动驾驶(L4/L5)，相当于把驾驶完全交给无人驾驶系统，甚至不用方向盘。从源头上避免主观恶意操作的发生，但是要达到这个条件还是比较远的。

一种是在辅助驾驶(L3以下)的前提下，把极限规则写在系统里。一旦触发极端规则，系统将拥有最高操作权限，及时“违反”人类驾驶员的不当行为，通过汽车现有功能停止加速，或者进行自动紧急制动等操作。

系统违背驾驶员意愿接管汽车是好事吗？

有人指出，如果司机超速，闯红灯(会避让行人和车辆)，那是因为他的家人需要去医院急救。这时候如果机器在人工驾驶时强行干预控制车辆，会不会不道德？

事实上，自动驾驶的类似道德问题已经广泛存在。

人类驾驶员做出的决定在机器看来可能是不合适的，有时往往是基于特殊情况下瞬间发生的本能反应，以及过去的经验和认知。

但同时，人类司机也会替他们做决定，承担社会和法律责任。

机器在紧急情况下的驾驶决策，需要工程师事先给机器一个判断逻辑和决策规则，让它遵循。

但是所有的规则都能制定正确吗？

答案是否定的。

麻省理工学院发表了一篇论文，整理了2016年一项名为“道德机器”的在线测试的数据。

“道德机器”测试了九个不同的影响因素，包括:

车祸撞了男的还是女的？

打击大多数，还是少数？

年轻人还是老年人？

遵守交通规则的行人还是乱穿马路的人？

社会地位高的人还是社会地位低的人？

……

当令人揪心的问题摆在自动驾驶人员面前时，所有人都陷入了沉默。

业内专家告诉雷锋网。com(微信官方账号:雷锋网。com)认为上述情况是一个公开的道德问题，人类没有标准答案，所以无法将这些问题的最终决定写入系统。

伦理也是分类的

但是，一些极端的情况是可以定义的，可以规范的，也有明确的答案。

以最近的大连事件为例。刘在等待绿灯后，在7秒钟内突然将其驾驶的车辆从0加速至108 km/h(该路段限速60 km/h)，并闯红灯，以驾车冲撞路人的极端方式实施犯罪，致5死5伤。

红灯时，急剧加速，冲向行人。

这种行为基本符合所有定性条件，所以无论驾驶员发生什么情况，都可以通过机器强制干预和控制。

比如，当车身上的摄像头或激光雷达检测到红灯和行人，以及距离时，可以及时限制驾驶员的突然加速行为。

目前常见的驾驶辅助功能主要有自适应巡航、预碰撞预警、自动紧急制动、车道保持辅助……变道辅助等等。

具有自动刹车功能，当驾驶员遇到危险未能做出有效反应时，系统可以自动紧急刹车。

但它不能拥有最高控制权限，在特定情况下完全接管车辆。

也就是说，如果人类驾驶员即使在危险场景下也坚持加速等恶意操作，即使有自动紧急制动功能，系统也无能为力。

因此，技术人员需要为辅助驾驶功能赋予驾驶员在一些极端场景下的最高驾驶控制权限。

目前一些厂商也在这么做。

今天常见的主动制动系统

目前市面上现有的BAS和自动刹车系统都是通过摄像头或雷达来检测前方车辆，结合一定的行驶速度来分析可能发生的碰撞(距离如下图d3所示)，系统会对驾驶员进行预警。

进入d2距离时，会自动准备足够的制动力。驾驶员只要踩下刹车，就会立刻发挥出最大的制动效能。但前提是司机踩刹车。

当距离缩小到d1时，如果驾驶员不踩刹车，自动紧急制动系统会立即主动刹车。

即便如此，它也只是一种辅助手段，而不是替代品。

人通常会犯一个错误，把“协助”当成“替代”，于是变得惰性，放松警惕，以为机器什么都能做，最终导致事故发生。

同样的问题也存在于医疗AI领域。

AI在影像科的作用是辅助医生读片。如果医生有AI这种不成熟的助手可以承担一切的心态，从而降低自己的阅读水准，也会带来医疗事故。

所以，要么交给准确率最高的机器；要么人必须与不成熟的机器强强合作，抛弃依赖。

现在的AI显然是在后一个阶段。

自动驾驶是技术与伦理融合的产物，也是一种至关重要的组织形式。

技术不能凌驾于伦理之上，但可以在一定程度上阻止恶意破坏伦理的人。

在伦理学内部，让工具可控、智能化是所有科技从业者的社会使命。

雷锋。com

雷锋的原创文章。未经授权，禁止转载。详见转载说明。封面图片:电影《出租车司机》

今天凌晨，继大连恶意撞人事件之后，南京的“故意撞人新闻”再次牵动着大家的神经。

几万年来，人和工具一直是一个双刃剑般的组合。

他们可以合作创造和毁灭。

这两种结果都取决于“人”的动机和“人”的操作规范。

人工智能时代，在人机协作的过程中，我们对“人”的影响力依然有限，但我们或许可以控制“工具”。

汽车是受控工具之一。

未来乘用车大规模嵌入自动驾驶尤其是辅助驾驶系统是必然趋势。

地平线首席执行官余凯早前预测，对于未来的智能汽车，自动驾驶是一个普遍的选项，但它不会带来差异化的价值。

“换句话说，用户不会因为没有自动驾驶功能而购买某款车型，也不会因为有自动驾驶功能而购买这款车型。”

这既是个人需要，也是公共需要。

那么，自动驾驶在遇到人为犯罪的驾驶场景时，是否能在紧急情况下避免和减少伤害呢？

专家告诉雷锋网。有两种方法可以避免此类事件或最大限度地减少项目实施的后果:

一种是实现全自动驾驶(L4/L5)，相当于把驾驶完全交给无人驾驶系统，甚至不用方向盘。从源头上避免主观恶意操作的发生，但是要达到这个条件还是比较远的。

一种是在辅助驾驶(L3以下)的前提下，把极限规则写在系统里。一旦触发极端规则，系统将拥有最高操作权限，及时“违反”人类驾驶员的不当行为，通过汽车现有功能停止加速，或者进行自动紧急制动等操作。

系统违背驾驶员意愿接管汽车是好事吗？

有人指出，如果司机超速，闯红灯(会避让行人和车辆)，那是因为他的家人需要去医院急救。这时候如果机器在人工驾驶时强行干预控制车辆，会不会不道德？

事实上，自动驾驶的类似道德问题已经广泛存在。

人类驾驶员做出的决定在机器看来可能是不合适的，有时往往是基于特殊情况下瞬间发生的本能反应，以及过去的经验和认知。

但同时，人类司机也会替他们做决定，承担社会和法律责任。

机器在紧急情况下的驾驶决策，需要工程师事先给机器一个判断逻辑和决策规则，让它遵循。

但是所有的规则都能制定正确吗？

答案是否定的。

麻省理工学院发表了一篇论文，整理了2016年一项名为“道德机器”的在线测试的数据。

“道德机器”测试了九个不同的影响因素，包括:

车祸撞了男的还是女的？

打击大多数，还是少数？

年轻人还是老年人？

遵守交通规则的行人还是乱穿马路的人？

社会地位高的人还是社会地位低的人？

……

当令人揪心的问题摆在自动驾驶人员面前时，所有人都陷入了沉默。

业内专家告诉雷锋网。com(微信官方账号:雷锋网。com)认为上述情况是一个公开的道德问题，人类没有标准答案，所以无法将这些问题的最终决定写入系统。

伦理也是分类的

但是，一些极端的情况是可以定义的，可以规范的，也有明确的答案。

以最近的大连事件为例。刘在等待绿灯后，在7秒钟内将所驾驶车辆的速度从0加速到108 km/h(该路段限速60 km/h)，并闯红灯，在……n极端方式驾车冲撞路人，导致5死5伤。

红灯时，急剧加速，冲向行人。

这种行为基本符合所有定性条件，所以无论驾驶员发生什么情况，都可以通过机器强制干预和控制。

比如，当车身上的摄像头或激光雷达检测到红灯和行人，以及距离时，可以及时限制驾驶员的突然加速行为。

目前常见的驾驶辅助功能主要有自适应巡航、预碰撞预警、自动紧急制动、车道保持辅助、变道辅助等。

具有自动刹车功能，当驾驶员遇到危险未能做出有效反应时，系统可以自动紧急刹车。

但它不能拥有最高控制权限，在特定情况下完全接管车辆。

也就是说，如果人类驾驶员即使在危险场景下也坚持加速等恶意操作，即使有自动紧急制动功能，系统也无能为力。

因此，技术人员需要为辅助驾驶功能赋予驾驶员在一些极端场景下的最高驾驶控制权限。

目前一些厂商也在这么做。

今天常见的主动制动系统

目前市面上现有的BAS和自动刹车系统都是通过摄像头或雷达来检测前方车辆，结合一定的行驶速度来分析可能发生的碰撞(距离如下图d3所示)，系统会对驾驶员进行预警。

进入d2距离时，会自动准备足够的制动力。驾驶员只要踩下刹车，就会立刻发挥出最大的制动效能。但前提是司机踩刹车。

当距离缩小到d1时，如果驾驶员不踩刹车，自动紧急制动系统会立即主动刹车。

即便如此，它也只是一种辅助手段，而不是替代品。

人通常会犯一个错误，把“协助”当成“替代”，于是变得惰性，放松警惕，以为机器什么都能做，最终导致事故发生。

同样的问题也存在于医疗AI领域。

AI在影像科的作用是辅助医生读片。如果医生有AI这种不成熟的助手可以承担一切的心态，从而降低自己的阅读水准，也会带来医疗事故。

所以，要么交给准确率最高的机器；要么人必须与不成熟的机器强强合作，抛弃依赖。

现在的AI显然是在后一个阶段。

自动驾驶是技术与伦理融合的产物，也是一种至关重要的组织形式。

技术不能凌驾于伦理之上，但可以在一定程度上阻止恶意破坏伦理的人。

在伦理学内部，让工具可控、智能化是所有科技从业者的社会使命。

雷锋。com

雷锋的原创文章。未经授权，禁止转载。详见转载说明。

标签：

汽车资讯热门资讯