

想象一下,您正开车 在街上行驶,这时有两个人——一个孩子和一个成年人——走上马路。撞上其中一人是不可避免的。您面临一个糟糕的选择。您会怎么做?
现在想象一下,这辆车是无人驾驶的。那会发生什么?这辆车应该做决定吗?
到目前为止,没有人相信自动驾驶汽车——无需人类控制就能运行的机器人车辆——能够做出道德和伦理上的选择,这个问题一直是围绕其使用展开辩论的中心。但德国科学家现在不这么认为。他们相信最终有可能将道德和伦理的元素引入自动驾驶汽车。
当然,大多数人类驾驶员永远不会面临如此痛苦的困境。尽管如此,“路上的汽车有数百万辆,这些情况偶尔还是会发生,”奥斯纳布吕克大学认知科学研究所的研究员、关于为自动驾驶汽车建模伦理的新 研究 的主要作者 Leon Sütfeld 说道。该论文发表在《行为神经科学前沿》(Frontiers in Behavioral Neuroscience) 杂志上,由该研究所的 Gordon Pipa、Peter König 和 Richard Gast 共同撰写。
无人驾驶汽车的概念越来越受欢迎,因为它是一种对抗 气候变化 的方式,因为这些自动驾驶汽车比大多数人类驾驶得更有效率。它们避免了快速加速和刹车,这两种习惯会浪费燃油。此外,车队自动驾驶汽车可以在高速公路上近距离行驶,以 减少空气阻力,从而节省燃油。无人驾驶汽车还将鼓励拼车,减少道路上的汽车数量,并可能使私人汽车所有权变得不必要。

提高安全性也是一种节能方式。“[无人驾驶汽车] 预计会减少事故,这意味着需要生产更少的汽车来替换报废的汽车,”Sütfeld 说,“这提供了另一种节能方式。”“这项技术可以在许多方面帮助 [对抗气候变化]。”
该研究表明,汽车可以被编程来模拟人类涉及选择的道德行为,决定在多个可能的碰撞中哪种是最佳选择。科学家们将人类受试者置于沉浸式虚拟现实环境中,以研究在模拟交通场景中的行为。然后,他们利用这些数据为无人驾驶汽车设计算法,使它们能够像人类一样应对道路上可能发生的悲剧性困境。
参与者在“驾驶”一辆汽车,在浓雾天气下的一个典型的郊区社区,他们突然面临与 动物、人类或无生命物体(如垃圾桶)的碰撞,不得不决定要保护什么或谁。例如,成年人还是孩子?人类还是动物?狗还是其他动物?在这项研究中,孩子比成年人得到了更好的结果。狗是最受重视的动物,其他动物包括山羊、鹿和野猪。

Sütfeld 说:“当涉及到人类与动物的比较时,大多数人肯定会同意,人类的福祉必须是第一位的。”但他补充道:“从自动驾驶汽车的角度来看,一切都是概率性的。大多数情况不像‘我应该杀了狗,还是杀了人?’那样清晰。更有可能是‘我应该几乎确定地杀了狗,或者选择性地放过狗,但冒着 5% 的几率让一名人类受轻伤?’遵循严格的规则,例如始终有利于人类的决定,对许多人来说可能感觉不对。”
其他变量也起着作用。例如,那个人是否有过错?成年人在走到街上之前是否看了车?孩子是否在没有停下来思考的情况下追赶一个球而冲进马路?此外,有多少人处于危险之中?
德国联邦交通和数字基础设施部在其最近的一份 报告 中试图回答这些问题。该报告为自动驾驶汽车定义了 20 项道德原则,其中几项与 Sütfeld 实验中人类的选择相悖。例如,该部报告称,冲入马路的孩子比站在人行道上的成年人(未涉事方)更有过错,也更不值得拯救。此外,报告还声明,考虑潜在受害者的年龄是不可接受的。

Sütfeld 说:“大多数人——至少在欧洲,而且很可能在北美文化中——会选择救一个孩子而不是一个成年人或老人。”“我们可以争论我们是否希望汽车像人类一样行事,或者我们是否希望它们遵守像伦理委员会报告中提供的那些分类规则。”
该研究的合著者 Peter König 认为,他们的研究带来了更多悬而未决的问题,而不是解决了问题,正如科学中时常发生的那样。“既然我们知道如何将人类的道德决定植入机器,我们作为一个社会仍然面临一个双重困境,”他说。“首先,我们必须决定是否应将道德价值观纳入机器行为准则,其次,如果纳入,机器是否应该像人类一样行事?”
该研究的目的不是回答这些问题,只是为了证明,通过借鉴人类行为的线索,有可能为无人驾驶汽车建模伦理和道德决策。作者们正试图为进一步的研究和讨论奠定基础。
Sütfeld 说:“实施起来会相当简单,因为技术肯定不是限制因素。”“问题在于我们作为一个社会希望汽车如何处理这种情况,以及法律应该如何制定。什么应该被允许,什么不应该?为了形成一个明智的观点,了解人类在面临这种决定时实际如何行事肯定是非常有用的。”
玛琳·西蒙斯为Nexus Media撰稿,该媒体是一家涵盖气候、能源、政策、艺术和文化的联合新闻社。