在什么情况下你的无人驾驶汽车会选择牺牲你？
设想一下，一辆无人驾驶汽车正冲向五个行人。它可以沿着原定的路线撞死这五个行人，或者，转弯撞向旁边的水泥墙而让它的乘客丧命。在本期刊物（指2016年6月24日出版的《科学》杂志第352卷第6293期，译者注）的1573页，Bonnefon和其他人通过一系列精巧的调查设计来研究这一社会困境。调查的结果是，人们通常都赞同通过程序设定让汽车对人的总体伤害降到最低，哪怕是要以牺牲乘客的生命为代价。但是，对于这种“效益主义（也称“功利主义”）汽车，即根据程序设定，在一定的紧急状况下会选择牺牲乘客生命而换取更大的社会利益的无人驾驶车辆，接受调查的人自己通常却也不太乐意乘坐。
这样的困境产生的可能性很小，但是一旦上百万的无人驾驶车辆行驶在路上，那么不太可能就变成了很有可能，甚至是必然发生。而且，哪怕这样的事情永远不会发生，无人驾驶车辆的程序中也必然要对此种状况作出应对设定。该如何设定？由谁来设定？
调查中Bonnefon他们发现了很多有趣的变化，比如当有家庭成员在车上或者牺牲乘客可以挽救的生命持续增加时，人们的观点会如何发生变化。显而易见，如果有亲人在车上，那么人们对于作出效益主义的牺牲是更加不情愿的；而当这种利他的牺牲可以挽救的人数越来越大时，他们的心情也会跟着好很多。虽然有这些变化，但争议始终很大。产生不同观点的一个主要的决定性因素在于问题是关于无人驾驶汽车本身还是关于乘坐无人驾驶汽车。
根据这一发现，作者们提出相应的策略及其面临的困难。具有讽刺意味的是，他们指出，对于效益主义政策的制订者来说，最好的策略就是放弃效益主义设计。无人驾驶汽车的设计目的之一是极大减少交通事故造成的伤亡。如果无人驾驶汽车确实能做到极大减少交通事故，但是效益主义设计又不被广泛接受的话，推进效益主义设计的无人驾驶汽车反而可能会影响到总体安全的无人驾驶汽车的推广应用。
但是作者们也承认，随着各个国家和地区通过不同的政策进行试验，人们对于效益主义汽车的态度也有可能改变。人们或许会接受效益主义的无人驾驶汽车，就好像一些欧洲人已经习惯了“选择退出式”器官捐献计划，而澳大利亚人也逐渐适应了更严格的枪支法律。同样，如果我们再次思考我们的交通运输系统，我们的观点也有可能改变。当今社会，车辆被视作个人财产，被自己的汽车杀死似乎是一种背叛，需要尽一切可能避免。但是当无人驾驶汽车进入社会，汽车的私人拥有率或许将会下降，因为人们会对自己花钱买来的车大部分时间都只能停着而感到厌倦。未来社会的汽车可能会是一个巨大的公共交通系统中的可以互相交换的部分，就好像现在地铁里的一节节车厢。如果我们的思路从个人驾驶工具转向公共交通系统，人们可能会更倾向于整体安全性的最大化的体系。
在实验中，Bonnefon等人假定无人驾驶汽车的紧急状态算法是公开的，而且其可预见结果也是透明的。但现实中并不需要这样。实际上，对于无人驾驶汽车的道德伦理我们面临的最迫切的问题就是透明性。生与死的抉择让人无奈，但是无论无人驾驶汽车采用哪一种道德准则，必然都会受到公众的公开质疑，这也就使得制造商们不情愿公布操作准则。如果无人驾驶汽车有可能会选择杀死它的乘客，那么其制造商必然会遭到批评。如果无人驾驶汽车以其乘客利益至上，那么其制造商必然会因为轻视他人的生命和蓄意选择更大的伤害而同样遭到批评。面对如何满足公众的这种道德上的相互矛盾，无人驾驶汽车的制造商和监管层将会陷入两难境地。
和政治家、哲学家和固执己见的大叔们不同，软件工程师们没有时间闲扯。他们不可能乞求他们的机器去尊重人们的权利，品德高尚，或者寻求公正，至少在我们的道德理论或者训练标准已经足够精确到可以确定人们可以享有什么样的权利、需要什么样的美德以及什么样的权衡是公正的之前，他们做不到。我们可以设定程序，让无人驾驶汽车将伤害减到最少，但是很显然，这不会让我们百分之百地感到满意。
Bonnefon等人从另外一个方面向我们展示了无人驾驶汽车要与我们的道德情感一致是多么困难。这是一个技术难题，但更是一个哲学难题。在把我们的价值观加诸于机器之前，我们需要首先弄清楚如何让我们的价值观明确而且一贯。对于21世纪的道德哲学家们来说，这或许是他们真正需要解决的问题。
作者：Joshua D. Greene
翻译：心止即岸
