救更多人之前要先杀死一些人，自动驾驶必经之路？

三月的一个早晨，天刚亮，杰里米·班纳就从床上爬起来，和其他通勤日一样，开上他的红色特斯拉Model 3，驶向目的地。

从车外望去，路边的沼泽和农田看起来像一片广阔的绿地。就在这时，Banner点击了屏幕上的一个操作，伴随着一声轻微的声音，市场上可以看到的最复杂、最具争议的自动驾驶模式被激活了。

这意味着，在计算机的控制下，汽车可以加速、变道、选择出口，并在前方有障碍物时刹车。

但这是Banner最后一次使用这一功能，也是他生命的最后一天。

特斯拉的目标是通过制造世界上第一辆全自动驾驶汽车来主导全球汽车市场，特斯拉认为这一点至关重要。客户也表示相信。

该公司已经从自动驾驶系统中收集了超过15亿英里的里程，一些车主故意挑战软件功能的极限。

尽管《车主手册》提醒驾驶员密切关注路况，但它并不能阻止一些人阅读、打盹、弹钢琴或摇晃汽车。然而，大多数时候，汽车确实会把他们带到他们想去的地方。

回到班纳的故事，他的车在那天遇到了“一些瞬间”。这辆车没有注意到前方有一辆卡车正在通过一条四车道的高速公路，Banner本人显然处于自由状态。

接下来，他的车以每小时100多公里的速度与卡车相撞，车顶被掀翻。车主当时50岁，是三个孩子的父亲，当场死亡。

后来，Banner的家人根据《佛罗里达州非正常死亡法》起诉特斯拉，理由很简单：特斯拉承诺提供一辆安全的汽车，但交付了一辆危险且有缺陷的汽车。

人类可能会在判断上犯错误，但并非所有错误都可能导致严重后果。这是因为人为错误的程度各不相同，也有各种方法可以选择补救措施。

这就提出了一个问题：如果系统出现问题怎么办？即使车辆配备了各种检测设备，但当软件认为前方道路没有危险时，它会确定一切都是安全的，因此不采取任何保护措施。

自2015年特斯拉推出自动驾驶系统以来，已知的五起致命事故中有四起是由这一疏忽造成的。

但自动驾驶与历史上几乎所有其他消费品都不同。在某些方面，它为我们提供了未解决问题的预览，使我们能够提前看到自动驾驶时代将面临的令人不安的问题。

特斯拉首席执行官埃隆·马斯克表示，这项技术挽救了生命，许多特斯拉车主提供了自己的证词，证明该车可以检测危险并避免碰撞。

班纳致命事故发生后不到两个月，马斯克邀请了大约100名投资者和分析师来到特斯拉位于帕洛阿尔托的总部，在一个宽敞的会议厅与他们聊天，好像什么都没发生一样。

也许双方都是对的。由于依赖计算机系统，一些本可以幸存的司机失去了生命，但与此同时，不断的技术更新也将使未来致命事故大幅减少成为可能。

黄色：所有特斯拉汽车里程，黑色：自动驾驶里程，以英里为单位

马斯克决定让尽可能多的人拥有自动驾驶，这相当于将世界各地的高速公路聚集在一起，成为一个前所未有的实验场。

由此可见，这个问题已经不仅仅是一个学术讨论了。在未来几年，社会，特别是监管机构和法院，将不得不决定这是否是一种可接受的商品。

让我们来看看另一位特斯拉车主的情况。

只有26岁的年轻软件工程师Omar Qazi在洛杉矶的州际高速公路上驾驶着一辆特斯拉。他之所以使用引号，是因为他实际上并没有把手放在方向盘上。这辆黑色Model 3也处于自动驾驶模式，在交通最繁忙的时候以每小时80公里的速度行驶。

完美的Kazi评论道：“看到方向盘自动向左转动一点，车辆回到平缓弯曲的车道中心后。

像凯蒂一样，留着胡茬，穿着一双蓝色耐克Air鞋，特斯拉的许多忠实粉丝都是富有的科技爱好者……

压力重重的男性，其中一些人经常在推特上与马斯克互动。

在充电站停车后，卡奇展示了一个实验性的“智能呼叫”功能。

他按下手机上的一个按钮，然后他的特斯拉从停车位开了过来。这个功能还不是很有用，”Kazi笑着说，但因为它可以吸引很多观众，他经常不得不尝试一下，因为他喜欢炫耀。

智能召唤让人们得以一窥马斯克承诺的自动驾驶的未来，但对于道路驾驶来说，自动驾驶一直是一个无法回避的关键因素。

特斯拉表示，这项技术还不够可靠，因此驾驶员需要将手放在方向盘上哪怕一秒钟，而无法将注意力集中在其他地方。

当然，这也是有法律目的的。美国大多数州仍在研究如何管理自动驾驶汽车。对于州监管机构来说，自动驾驶只是一种高级驾驶员辅助程序，或巡航控制的增强版。

自动驾驶还不能完美地处理非高速公路上的红绿灯和停车标志等问题。但在高速公路上，它已经积累了4年的数据和信息，这逐渐使它承担了更复杂的任务，例如顺利并线、防止其他车辆插队或从一条高速公路导航到另一条高速公路。

它不可能完全自动驾驶，但每隔几周就会更新一次，汽车的驾驶越来越像人类，”凯蒂大声说道，但也表达了担忧。“这实际上有点可怕。”

为什么？因为机器本应超过人类的标准，但现在让它们看起来像人类在某种程度上降低了标准。以防止插队为例，如果自动驾驶变得更像人类驾驶员，这意味着系统可能会选择妥协，让其他车辆先走。

事实上，开车是大多数成年人做的最危险的事情之一。去年，美国有4万人死于车祸，而全球有140万人死于交通事故。

1974年，为了节省燃料，美国将高速公路速度限制在每小时55英里。一项研究发现，这一变化在第一年减少了至少3000人的车祸死亡。但是人们喜欢开快车，所以国会后来取消了这一限制。

几年前，交通事故造成的死亡人数开始略有上升，一些专家将其归因于智能手机的使用。但这没有用，仍然有人在开车时发信息。

但无论有什么缺陷，电脑都不会醉、累、生气，也不会在开车时有刷手机的冲动。这是一个主要的优势，它不会变得像人类。

自动驾驶技术有望消除94%的人为失误事故。从这个角度来看，自动驾驶汽车可能会成为与青霉素和天花疫苗同等水平的救星。

卡齐做了一个计算，说有一天，自动驾驶汽车每天可以挽救3000人的生命。根据他的逻辑，任何阻碍这一过程的人届时都将浑身是血。“想象一下，有人把软件推迟了一天，那么多人失去了生命。

商业火箭、高速隧道、大脑植入、电动汽车，在南非出生和长大的马斯克在30岁之前赚了很多钱，然后我们看到了他的一系列大胆项目。

特斯拉的股价已经下跌了几个月。尽管推出了世界上最畅销的电动汽车Model 3，但该公司要实现盈利还有很长的路要走。

因此，马斯克有了新的关注点。他说：“在2020年的某个时候，车辆将不再需要人工监督，可以在空闲时间通过自动驾驶出租车服务赚钱

收养者认为马斯克是一个改变世界的梦想家，而他的敌人则认为他是另一个自吹自擂的子。

从财务角度来看，购买特斯拉以外的任何东西都是不可靠的，”马斯克继续说道。

包括通用汽车、戴姆勒和优步在内的数十家公司正在竞争开发这项技术。对于任何专注于自动驾驶汽车行业的人来说，马斯克给出的时间表似乎过于大胆。

许多观察人士认为，最大的竞争对手仍然是Waymo。但十多年来一直致力于解决这一问题的Waymo尚未向公众出售自动驾驶汽车。

马斯克自信地告诉投资者，特斯拉将超越所有这些公司，这要归功于已经在路上的50多万辆配备自动驾驶系统的特斯拉汽车。简单地说，自动驾驶就像一个草稿，有了更多的人和数据……

可以逐渐更灵活、更可靠地“描绘”，最终实现真正的全自动驾驶。

智能手机应用程序和视频游戏采用这种方法，首先向客户发布不完整的软件，并希望在此过程中解决问题并添加功能。

但需要注意的一点是，这些产品并不完美，不会导致死亡，而自动驾驶有这种可能性。

Waymo、通用汽车和其他公司也有粗略的设计计划，但它们只安装在数百个测试车型中，部署在全国少数精心选择的社区，几乎总是配备专业的安全驾驶员。

马斯克显然不这么认为，他正在尽快向消费者交付“草案”。不得不说，这使特斯拉的工程师能够从客户那里收集数兆字节的数据，并利用这些信息根据现实情况改进自动驾驶软件。

即使特斯拉没有处于自动驾驶模式，他们也会自动将人类驾驶员做出的选择与计算机做出的选择进行比较。每隔几周，特斯拉就可以推出新的自动驾驶版本，并将其上传到汽车上。

卡兹和其他汽车爱好者对此感到非常高兴。

每个人每时每刻都在训练这个网络，”马斯克解释道，他将这种良性循环称为“车队学习”，并将其与谷歌搜索引擎每年处理1.2万亿次查询的方式进行比较。他坚信，该软件总有一天会变得足够好，让司机不再需要方向盘。

另一方面，当摩根士丹利分析师就自动驾驶的安全记录向马斯克施压时，他很快将话题转向了人类驾驶的危险以及技术修复的潜力。

汽车就像老式的手动电梯。马斯克继续说道：“每隔一段时间，工人们就会感到疲惫、醉酒或其他什么，然后他们在错误的时间转动杠杆，造成灾难。”。“现在没有电梯操作员了

除非司机走电梯服务员的老路，否则自动驾驶是下一个最佳选择。

他曾表示，让自动驾驶退出市场“应该受到道德谴责”。有趣的是，不仅马斯克或他的支持者这么认为，受害者也站在他一边。

第一位死于自动驾驶的美国司机是来自俄亥俄州的海军老兵约书亚·布朗。和Banner一样，他也在十字路口与一辆半拖车相撞。2016年车祸发生后，他的家人发表了一份声明，基本上表示支持特斯拉的道德考虑。

变化总是伴随着风险而来，我们的儿子对未来的道路安全产生了如此积极的影响，这让我们全家都感到欣慰和自豪，”声明说。

事实上，他是马斯克事业的烈士。

不可否认的是，当我们将大部分责任委托给计算机时，我们会分心。更严重的是，作为一名司机，驾驶技能也可能因此变得陌生。

航空史上充满了由于人类过度依赖自动驾驶模式而导致的错误。西北航空公司的两名飞行员一度完全分心，导致他们的飞机飞离原定目的地160公里。

注意力可能会被分散，这是人的本性，”前海军战斗机飞行员、杜克大学普拉特学院工程教授米西·卡明斯说，她希望自动驾驶能退出市场。

与此同时，系统考虑的一些最具挑战性的任务对人类来说往往是小菜一碟。因此，当电脑出现问题时，驾驶员也很可能感觉到最安全的时间。

以上两起事故就是很好的证据。任何具有感知能力的成年人都可以区分良性道路特征和潜在风险。

但对于世界上最复杂的机器视觉软件来说，这是很难实现的。

特斯拉一直拒绝对其自动驾驶系统施加限制，因为这会使该系统更安全、使用更不方便。

该公司允许驾驶员将自动驾驶仪的巡航速度设置在当地限速之上，并允许车辆在任何可以检测到车道标线的地方激活自动模式。

对于那些想测试特斯拉自动驾驶极限的人来说，马斯克给予了一些鼓励。

他亲自在电视节目中扮演了相反的角色，按照手册中的警告反向操作，启动自动驾驶，把手从方向盘上移开，然后展示了一辆Model 3。

后来，一段涉及自动驾驶的视频在网上疯传后，马斯克发布了一条推特，开玩笑地说：“事实证明，使用这一功能的方法比我们想象的要多

就连卡齐也承认，他和前女友以前在自动驾驶模式的汽车里很亲密。他尽力盯着……

广告

鉴于自动驾驶已经积累了超过24亿公里的驾驶记录，确定其安全级别应该很容易。但到目前为止，特斯拉既没有正式发布数据，也没有向第三方研究人员提供相关信息。

我们所能知道的只是马斯克的说法，即使用自动驾驶的安全性大约是不使用的两倍。

特斯拉公布了季度自动驾驶事故率数据，但安全专家表示，如果没有这些事故的具体情况，这些数字本身将毫无用处。

2016年布朗撞车事故发生后，美国国家公路交通安全管理局对自动驾驶系统进行了调查，但没有发现召回的理由。该部门得出的一个结论是，配备自动驾驶系统的特斯拉汽车的事故率比未安装该功能的同品牌汽车低40%。

获得这一结果所依赖的数据并不完全可靠。需要注意的是，尽管特斯拉当时已经提交了44000辆汽车的里程和碰撞数据，但除5700辆外，其他所有汽车的关键数据都缺失或冲突。

马里兰州的独立统计顾问Randy Whitfield在报告中指出了这些不足，但国家公路交通安全管理局表示，他们将坚持调查结果的原始记录。

评估自动驾驶或全自动驾驶技术的一个主要问题是社会接受的安全水平不明确。

自动驾驶汽车在上路之前应该是完美的，还是应该比普通人类驾驶员更好？

负责丰田自动驾驶技术开发的Gil Platt在2017年的一次演讲中表示：“人类对机器缺陷造成的伤害或死亡几乎是零容忍的

但如此高的标准实际上可能会导致更多的死亡。在兰德公司2017年的一项研究中，研究人员Nidi Kalla和David Groves评估了500种不同的技术开发假设场景。

在大多数情况下，与接受一辆只比人类安全一点的汽车相比，等待一辆几乎完美的自动驾驶汽车的成本是以数万人的生命来衡量的。

那些仍在等待近乎完美的人应该意识到，这并非没有成本，”机器人专家卡拉给出了这个答案。

我们习惯于认为代码是由人类程序员编写的一系列指令。卡拉论点的关键在于对汽车学习方式的深入了解。

识别一辆自行车并预测它将朝哪个方向行驶太复杂了，无法归结为一系列命令。大多数计算机都是这样工作的，但特斯拉和其他自动驾驶汽车开发商使用的计算机却不是这样。

相反，程序员使用机器学习来训练他们的软件。他们可能会从不同的角度和背景向它展示数千张不同自行车的照片。他们也可以给它看一些摩托车或独轮车，让它知道区别。随着时间的推移，系统可以制定自己的规则来解释它所看到的东西。

一台机器积累的经验越多，它就变得越聪明。但这只解决了部分问题。即使我们制造了一辆完美的自动驾驶汽车，我们怎么知道呢？

卡拉继续说道：“如果我们真的想尽可能地拯救生命，我们甚至可以在自动驾驶汽车比人类更危险的时候让它们上路，以加速它们的学习能力。”

此外，在统计数据中，致命事故实际上相当罕见。在美国，类似的事件只有在行驶超过1.3亿公里后才会发生。如果我们切换到模拟数据，那么实现必要数量的测试将是浪费时间。

在兰德公司的另一篇文章中，卡拉估计，只有在没有故障的情况下行驶约4.42亿公里，自动驾驶汽车才能比人类驾驶员更好，而这一距离需要100辆测试车辆连续行驶12年以上。

考虑到所有这些，回顾马斯克同时改进和测试自动驾驶的计划，利用真实道路上的现有客户作为志愿者测试人员，这听起来也不那么疯狂。

这听起来可能很可怕，但如果大量司机没有被机器杀死的风险，那么自动驾驶的安全性可能就不可能实现根本性的提高。

马斯克决定加快自动驾驶的开发，并允许其在未经批准的道路上工作，这背后有一定的逻辑。

每次驾驶员为了避免事故而重新控制时，这对计算机来说都是一个潜在的教育时刻，对软件来说是一个学习不该做什么的好机会。

让我们再举一个例子。美国已经有了一种机制来测试可能挽救生命但也可能产生致命副作用的产品，这就是分阶段的临床药物试验。

Alex London，哲学教授……

卡内基梅隆大学的r呼吁汽车监管机构采取类似措施，允许新技术逐步投入使用，并密切监控其安全记录。

这可能不是最好的建议，但我可以告诉你最糟糕的是什么，”他说，“最糟糕的情况是当你选择信任设计这个系统的人时，尤其是当他们试图把它卖给你时

软件工程师Omar Qazi

当卡兹驾驶他的特斯拉前往Palos Vides牧场时，尽管沿途不是高速公路，但他再次启动了自动驾驶。

当车辆自动越过陡峭的悬崖时，系统会正确识别前方的骑手，并决定超越他。就在他准备超车的时候，卡兹踩下了刹车，让这个人在那之前可以在更宽的道路上行驶。

他说，如果有机会，他想看看如果车辆最终超过他会发生什么，但他不能这样做，并希望机器最终能执行与他相同的操作。

随着特斯拉在全球道路上的普及，卡齐似乎已经接受了自动驾驶导致的死亡人数将增加的统计确定性。

“最大的公关噩梦还没有到来，”他指出，“实现我们的目标只有一种方法，如果我们想实现目标，我们必须穿过雷区。”

本文首发于微信公众号：《汽车商业评论》。文章内容属于作者个人观点，不代表和讯网络的立场。投资者应据此操作，并承担风险。

标签：特斯拉发现Model 3丰田摩根

汽车资讯热门资讯