现在自动驾驶出车祸 更像是“酒驾”，无关“电车难题”

你可能对有轨电车的问题并不陌生：一辆失控的有轨电车正沿着轨道冲下。轨道前面有五名工人。如果电车冲过去，他们肯定会被撞死的。但你可以用操纵杆将电车转向相邻的轨道，但轨道上也有一名工人。如果电车冲过去，他也会被撞死。你是让电车改变轨道杀死一个人，还是什么都不做，让它杀死五个人？

这是电车谜题最著名的版本，是20世纪70年代普及的哲学思想实验。还有其他变体：例如，你愿意把一个胖子推下桥，让电车停下来，而不是杀死更瘦的工人吗？电车谜题除了是一种哲学实验外，还被用作心理学实验的工具。最近，人们将其视为衡量自动驾驶汽车的道德标准。自动驾驶汽车应该优先保护行人还是乘客？老人和孩子相比怎么样？如果一辆汽车能够获得有关事故的信息，它是否应该利用这些数据做出决定？有轨电车问题在自动驾驶汽车领域已经很流行。事实上，麻省理工学院的工程师已经建立了一项名为“道德机器”的测试，记录人们对自动驾驶汽车在各种条件下应该如何反应的看法。然而，要理解目前存在电车问题的自动驾驶汽车是有问题的。它在解决自动驾驶汽车或工人的道德问题方面做得非常糟糕。将其用于这些目的，特别是作为工程或政策制定中的答案或参考，将使机器伦理变得不完整或更加危险。哲学家朱迪斯·贾维斯·汤姆森于1976年创造了“电车谜题”。然而，这一观点最早是由另一位哲学家菲利帕·富特在1967年发表的论文《堕胎与教义的双重影响》中提出的。他认为，人们的意图和他们所能预见的是不同的。福特以堕胎为例。当外科医生对孕妇进行子宫切除术时，他可以预见婴儿的死亡。他应该这样做吗？与此同时，一名外科医生为了挽救母亲的生命，终止了胎儿的生命。应该这样做吗？尽管案例非常相似，但最终得出的道德结论并不相同。福特提出了许多相关的场景，其中之一就是现在著名的有轨电车问题。另一种假设是，暴徒威胁说，如果法官不处决一个无辜的人，他们会进行报复，杀死更多的人。法官应该怎么做？这似乎是一个电车问题，在或多或少的死亡之间做出选择。然而，福特写道，大多数支持电车运营商杀害工人的人也会因陷害无辜者而感到震惊。她得出的结论是，一个人所做的和一个人被允许做的是有区别的。特别是，福特写道，“避免伤害和提供帮助之间的区别真的很重要。”福特的短文为当代读者提供了一种更微妙的方式来思考涉及自动驾驶汽车的道德场景，而不仅仅是分析所谓的电车问题。在某种程度上，这是因为福特遵循了亚里士多德之后被称为道德和伦理的传统。然而，遵守道德准则并不会导致目前大多数关于自动驾驶汽车的争论。相反，对最终结果是自动驾驶汽车的社会的担忧是最令人担忧的。在道德哲学中，这种不同于道德伦理的方法被称为结果主义。后果主义者，包括最著名的功利主义者，首先关注的是行为的结果和后果。这种功利主义思想深深植根于自动驾驶汽车的修辞中。甚至在自动驾驶汽车的倡导者开始决定车祸发生时撞谁之前，它就已经存在了。推动自动驾驶汽车大规模采用的一个常见原因是，它们可以极大地提高道路安全。2016年，美国有37000多人死于车祸。由于94%以上的车祸是由司机的错误引起的，用可靠的机器取代容易犯错的人显然是社会的净利益。问题是，专注于结果可能会让人们对自动驾驶汽车的优点和缺点视而不见。正如福特所指出的，工人面临电车问题和法官面临暴徒威胁的道德场景是不同的。因此，自动驾驶汽车以人为代价的同样结果可能会带来c……

完全不同的道德、法律和民事后果。最近，亚利桑那州坦佩市一辆优步自动驾驶汽车撞死了49岁的骑自行车过街的行人伊莱恩·赫茨伯格。在我写了一篇关于这场车祸可能产生的法律影响的文章后，一些读者以功利的嘲讽回应。毕竟，2015年美国有5376名行人被汽车撞死，新闻媒体不会把每个人都当作特例来报道。很快，自动驾驶汽车可以减少或消除行人死亡。如果你使用电车谜题的术语，轨道代表的是时间，而不是空间。一个人的死仍然是一场悲剧。但如果她的死意味着在防止数千人死亡方面取得进展，那么这也许是合理的。问题是，这种立场假设赫兹伯格的死亡与普通汽车造成的数千人死亡完全相同。从统计数据来看，这可能是真的，但从道德上讲，这不一定是真的。未来，如果自动驾驶汽车能够有效运行，就可以防止像Tempe这样的车祸。传感器和计算机对周围环境的反应比人类更好，行为也更理性。随着优步车祸的细节逐渐浮出水面，一些专家得出结论，这起车祸本可以避免。此外，优步的自动驾驶汽车似乎没有达到公司的目标，即在3月份发生车祸时，每13英里只需要人工干预。与此同时，谷歌的兄弟公司Waymo声称，其自动驾驶汽车在没有人为干预的情况下平均可以行驶5600英里。然后，在亚利桑那州的道路上，Waymo的自动驾驶汽车和优步的自动驾驶车辆之间的差异可能比人工驾驶汽车和计算机驾驶汽车之间的差异更重要。然而，为了吸引更多的公司到亚利桑那州学习和测试，从而促进就业。亚利桑那州州长道格·杜西允许所有此类汽车在没有重大监督的情况下进行道路测试。这些条件的存在决定了这个问题不能从电车问题的角度来考虑。如果你想问优步是应该撞上赫兹伯格还是突然转向（以使安全人员处于危险之中并避免行人被撞），你需要假设优步的车辆可以首先看到行人并做出相应的反应。有必要假设这种能力是可靠的，并保证它相当于一种机械行为，就像切换有轨电车轨道一样。这个背景在坦佩的车祸中消失了。然而，福特已经预料到她的案件缺乏背景。“在现实生活中，”她写道，“很难确定电车转弯后站在轨道上的人会被杀。也许他会在车身侧面找到一个立足点，并在车辆经过时紧紧抓住它。”解决这种无限可能性的一种方法是运行无限的电车问题，并从公众对这些问题的反应中收集模式。这是麻省理工学院对待道德机器的方法，与机器学习系统的最佳工作方式相匹配：使用大型数据集。但在最合适的道德背景下考虑具体问题还有另一种方法。碰巧的是，福特还提出了一个不同的例子，这个例子与坦佩实际发生的事情有更多的共同点，而不是电车问题。想象一下，医院里有五个病人。使用某种气体可以挽救他们的生命，但使用这种气体会向另一个无法移动的患者的房间释放致命的烟雾。在这种情况下，问题与经典的有轨电车问题相同。然而，对许多人来说，结果并不那么明显。这只是因为预期效果和可预见效果的不同，也因为避免伤害所产生的道德欲望有不同的运作方式。在电车问题中，司机面临着两种类似伤害之间的矛盾，别无选择。但在医院发生煤气事故的情况下，医生面临着提供帮助和造成伤害之间的矛盾。事实上，优步的处境更为艰难，因为所有参与者，无论是汽车制造公司、驾驶它的司机还是监管它的政府，似乎都不完全理解车辆现在（而不是未来）造成损坏的能力。这使得优步事故的道德背景不再是减少未来的车祸，更多的是政府监管、公司信息披露和交通政策的现状。然而，这些话题远不如失控的电车吸引人。如果这是技术人员、公民和政策制定者真正想要的道德哲学的先例。那么，他们最好以优步的车祸为例……

道德运气，这是由哲学家托马斯·纳格尔提出的。有一个经典的例子：一个醉汉晚上开车回家。尽管他喝醉了，但他终于到达了目的地，没有发生任何意外。然后想象另一个场景。一名男子在同样的情况下开车，但他不小心撞死了一名过马路的儿童。人们似乎很自然地认为后者比前者更应受到谴责，但他们都采取了同样的自愿行动。唯一的区别是结果。从这个角度来看，优步带来的车祸并不代表一种价值中立，更不代表所谓的正义：在自动驾驶汽车得到有效部署的世界上，牺牲一名行人来确保更多人的安全。相反，它强调了这样一个事实，即积极的结果——更安全的汽车、更安全的行人等——很容易成为自动驾驶汽车道德运气的一部分，因为它们没有犯下应受谴责的行为。当然，现在不行了。道德运气也为自动驾驶汽车开辟了其他考虑方式。就自动驾驶汽车而言，自愿行动更难确定。优步司机知道并理解他们行为的所有后果吗？假设人类驾驶员可以干预他们正在观察的机器的操作，而不是主动操作机器，这合理吗？当亚利桑那州明确邀请自动驾驶汽车在实际道路上进行实验测试时，优步是否也应该受到谴责？所有这些问题现在都在亚利桑那州和其他地方被问到了。但对伊莱恩·赫茨伯格来说，这只是一种冷冰冰的安慰。这一切的意义并不在于指责或赞扬最近优步车祸中的具体参与者。它也不是为了庆祝或哀叹自动驾驶汽车的未来。相反，它表明，无论是现在还是未来，解决和处理自动驾驶汽车都需要更高的道德修养。道德不是将简单的计算应用于任何问题，也不是将人类对一个模型案例的一整套意见应用于整个模型下的一个示例问题。事实上，采取这些立场可以从一开始就得出功利的结论。当工程师、评论家、记者或普通人将电车问题视为一个非常适合（也许是为了方便）思考自动驾驶汽车的问题时，他们拒绝考虑这些机器操作更复杂的道德条件。对于哲学家来说，思想实验提供了一种考虑未知结果或重新考虑已接受结果的方法。但它们只是思考的工具，而不是现成的行动指南。特别是，有轨电车问题的流行让人们错误地认为自动驾驶汽车是一种现有的、可靠的、同质的技术，因此可以提出甚至回答关于他们假设的道德行为的抽象问题。然而，这需要几年的时间才能实现。与此同时，公民、政府、汽车制造商和科技公司必须就今天和明天自动驾驶汽车可能带来的道德后果提出更困难和复杂的问题。是时候在电车撞死所有人之前踩刹车了。你可能对有轨电车的问题并不陌生：一辆失控的有轨电车正沿着轨道冲下。轨道前面有五名工人。如果电车冲过去，他们肯定会被撞死的。但你可以用操纵杆将电车转向相邻的轨道，但轨道上也有一名工人。如果电车冲过去，他也会被撞死。你是让电车改变轨道杀死一个人，还是什么都不做，让它杀死五个人？

这是电车谜题最著名的版本，是20世纪70年代普及的哲学思想实验。还有其他变体：例如，你愿意把一个胖子推下桥，让电车停下来，而不是杀死更瘦的工人吗？电车谜题除了是一种哲学实验外，还被用作心理学实验的工具。最近，人们将其视为衡量自动驾驶汽车的道德标准。自动驾驶汽车应该优先保护行人还是乘客？老人和孩子相比怎么样？如果一辆汽车能够获得有关事故的信息，它是否应该利用这些数据做出决定？有轨电车问题在自动驾驶汽车领域已经很流行。事实上，麻省理工学院的工程师已经建立了一项名为“道德机器”的测试，记录人们对自动驾驶汽车在各种条件下应该如何反应的看法。然而，理解当前的自我博士是有问题的……

电车问题。它在解决自动驾驶汽车或工人的道德问题方面做得非常糟糕。将其用于这些目的，特别是作为工程或政策制定中的答案或参考，将使机器伦理变得不完整或更加危险。哲学家朱迪斯·贾维斯·汤姆森于1976年创造了“电车谜题”。然而，这一观点最早是由另一位哲学家菲利帕·富特在1967年发表的论文《堕胎与教义的双重影响》中提出的。他认为，人们的意图和他们所能预见的是不同的。福特以堕胎为例。当外科医生对孕妇进行子宫切除术时，他可以预见婴儿的死亡。他应该这样做吗？与此同时，一名外科医生为了挽救母亲的生命，终止了胎儿的生命。应该这样做吗？尽管案例非常相似，但最终得出的道德结论并不相同。福特提出了许多相关的场景，其中之一就是现在著名的有轨电车问题。另一种假设是，暴徒威胁说，如果法官不处决一个无辜的人，他们会进行报复，杀死更多的人。法官应该怎么做？这似乎是一个电车问题，在或多或少的死亡之间做出选择。然而，福特写道，大多数支持电车运营商杀害工人的人也会因陷害无辜者而感到震惊。她得出的结论是，一个人所做的和一个人被允许做的是有区别的。特别是，福特写道，“避免伤害和提供帮助之间的区别真的很重要。”福特的短文为当代读者提供了一种更微妙的方式来思考涉及自动驾驶汽车的道德场景，而不仅仅是分析所谓的电车问题。在某种程度上，这是因为福特遵循了亚里士多德之后被称为道德和伦理的传统。然而，遵守道德准则并不会导致目前大多数关于自动驾驶汽车的争论。相反，对最终结果是自动驾驶汽车的社会的担忧是最令人担忧的。在道德哲学中，这种不同于道德伦理的方法被称为结果主义。后果主义者，包括最著名的功利主义者，首先关注的是行为的结果和后果。这种功利主义思想深深植根于自动驾驶汽车的修辞中。甚至在自动驾驶汽车的倡导者开始决定车祸发生时撞谁之前，它就已经存在了。推动自动驾驶汽车大规模采用的一个常见原因是，它们可以极大地提高道路安全。2016年，美国有37000多人死于车祸。由于94%以上的车祸是由司机的错误引起的，用可靠的机器取代容易犯错的人显然是社会的净利益。问题是，专注于结果可能会让人们对自动驾驶汽车的优点和缺点视而不见。正如福特所指出的，工人面临电车问题和法官面临暴徒威胁的道德场景是不同的。因此，以人为代价的自动驾驶汽车的同样结果可能会带来完全不同的道德、法律和民事后果。最近，亚利桑那州坦佩市一辆优步自动驾驶汽车撞死了49岁的骑自行车过街的行人伊莱恩·赫茨伯格。在我写了一篇关于这场车祸可能产生的法律影响的文章后，一些读者以功利的嘲讽回应。毕竟，2015年美国有5376名行人被汽车撞死，新闻媒体不会把每个人都当作特例来报道。很快，自动驾驶汽车可以减少或消除行人死亡。如果你使用电车谜题的术语，轨道代表的是时间，而不是空间。一个人的死仍然是一场悲剧。但如果她的死意味着在防止数千人死亡方面取得进展，那么这也许是合理的。问题是，这种立场假设赫兹伯格的死亡与普通汽车造成的数千人死亡完全相同。从统计数据来看，这可能是真的，但从道德上讲，这不一定是真的。未来，如果自动驾驶汽车能够有效运行，就可以防止像Tempe这样的车祸。传感器和计算机对周围环境的反应比人类更好，行为也更理性。随着优步车祸的细节逐渐浮出水面，一些专家得出结论，这起车祸本可以避免。此外，优步的自动驾驶汽车似乎没有达到公司的目标，即在3月份发生车祸时，每13英里只需要人工干预。与此同时，谷歌的兄弟公司Waymo声称，其自动驾驶汽车在没有人为干预的情况下平均可以行驶5600英里……

然后，在亚利桑那州的道路上，Waymo的自动驾驶汽车和优步的自动驾驶车辆之间的差异可能比人工驾驶汽车和计算机驾驶汽车之间的差异更重要。然而，为了吸引更多的公司到亚利桑那州学习和测试，从而促进就业。亚利桑那州州长道格·杜西允许所有此类汽车在没有重大监督的情况下进行道路测试。这些条件的存在决定了这个问题不能从电车问题的角度来考虑。如果你想问优步是应该撞上赫兹伯格还是突然转向（以使安全人员处于危险之中并避免行人被撞），你需要假设优步的车辆可以首先看到行人并做出相应的反应。有必要假设这种能力是可靠的，并保证它相当于一种机械行为，就像切换有轨电车轨道一样。这个背景在坦佩的车祸中消失了。然而，福特已经预料到她的案件缺乏背景。“在现实生活中，”她写道，“很难确定电车转弯后站在轨道上的人会被杀。也许他会在车身侧面找到一个立足点，并在车辆经过时紧紧抓住它。”解决这种无限可能性的一种方法是运行无限的电车问题，并从公众对这些问题的反应中收集模式。这是麻省理工学院对待道德机器的方法，与机器学习系统的最佳工作方式相匹配：使用大型数据集。但在最合适的道德背景下考虑具体问题还有另一种方法。碰巧的是，福特还提出了一个不同的例子，这个例子与坦佩实际发生的事情有更多的共同点，而不是电车问题。想象一下，医院里有五个病人。使用某种气体可以挽救他们的生命，但使用这种气体会向另一个无法移动的患者的房间释放致命的烟雾。在这种情况下，问题与经典的有轨电车问题相同。然而，对许多人来说，结果并不那么明显。这只是因为预期效果和可预见效果的不同，也因为避免伤害所产生的道德欲望有不同的运作方式。在电车问题中，司机面临着两种类似伤害之间的矛盾，别无选择。但在医院发生煤气事故的情况下，医生面临着提供帮助和造成伤害之间的矛盾。事实上，优步的处境更为艰难，因为所有参与者，无论是汽车制造公司、驾驶它的司机还是监管它的政府，似乎都不完全理解车辆现在（而不是未来）造成损坏的能力。这使得优步事故的道德背景不再是减少未来的车祸，更多的是政府监管、公司信息披露和交通政策的现状。然而，这些话题远不如失控的电车吸引人。如果这是技术人员、公民和政策制定者真正想要的道德哲学的先例。那么，他们最好把优步的车祸作为道德运气的一个例子，这是哲学家托马斯·纳格尔提出的。有一个经典的例子：一个醉汉晚上开车回家。尽管他喝醉了，但他终于到达了目的地，没有发生任何意外。然后想象另一个场景。一名男子在同样的情况下开车，但他不小心撞死了一名过马路的儿童。人们似乎很自然地认为后者比前者更应受到谴责，但他们都采取了同样的自愿行动。唯一的区别是结果。从这个角度来看，优步带来的车祸并不代表一种价值中立，更不代表所谓的正义：在自动驾驶汽车得到有效部署的世界上，牺牲一名行人来确保更多人的安全。相反，它强调了这样一个事实，即积极的结果——更安全的汽车、更安全的行人等——很容易成为自动驾驶汽车道德运气的一部分，因为它们没有犯下应受谴责的行为。当然，现在不行了。道德运气也为自动驾驶汽车开辟了其他考虑方式。就自动驾驶汽车而言，自愿行动更难确定。优步司机知道并理解他们行为的所有后果吗？假设人类驾驶员可以干预他们正在观察的机器的操作，而不是主动操作机器，这合理吗？当亚利桑那州明确邀请自动驾驶汽车在实际道路上进行实验测试时，优步是否也应该受到谴责？所有这些问题现在都在亚利桑那州和其他地方被问到了。但对伊莱恩·赫茨伯格来说，这只是一种冷冰冰的安慰。s……

这一切的重要性并不在于指责或赞扬最近优步车祸中的具体参与者。它也不是为了庆祝或哀叹自动驾驶汽车的未来。相反，它表明，无论是现在还是未来，解决和处理自动驾驶汽车都需要更高的道德修养。道德不是将简单的计算应用于任何问题，也不是将人类对一个模型案例的一整套意见应用于整个模型下的一个示例问题。事实上，采取这些立场可以从一开始就得出功利的结论。当工程师、评论家、记者或普通人将电车问题视为一个非常适合（也许是为了方便）思考自动驾驶汽车的问题时，他们拒绝考虑这些机器操作更复杂的道德条件。对于哲学家来说，思想实验提供了一种考虑未知结果或重新考虑已接受结果的方法。但它们只是思考的工具，而不是现成的行动指南。特别是，有轨电车问题的流行让人们错误地认为自动驾驶汽车是一种现有的、可靠的、同质的技术，因此可以提出甚至回答关于他们假设的道德行为的抽象问题。然而，这需要几年的时间才能实现。与此同时，公民、政府、汽车制造商和科技公司必须就今天和明天自动驾驶汽车可能带来的道德后果提出更困难和复杂的问题。是时候在电车撞死所有人之前踩刹车了。

标签：福特世纪

汽车资讯热门资讯