无人驾驶汽车最大的伦理困境：车祸时先救谁？

人们每天都会基于对风险的判断做出各种决定。比如，在路上没车的时候，急着赶公交的你可能会横穿马路。但如果马路上的车很多，你就不会这么做了。在某些危急时刻，人们必须在一瞬间做出决定。比如，正开车时，有个小孩突然跑到汽车前面，而你的左右两方又有其它危险——比如一边是只猫，另一边是悬崖峭壁，这时你要如何抉择?你会冒着自己的生命危险去保护其他人的安全吗?

不过，面对这些道德问题时，自动驾驶汽车技术却没有快速确定的方法，甚至可以说，毫无办法。汽车厂商们都面临着算法带来的道德困境。车载电脑已经可以帮我们泊车和自动巡航，甚至可以在面临重大安全问题的时刻控制车辆。但这也意味着，自动驾驶技术将面临人类有时会遭遇的艰难抉择。

那么，应该如何给电脑编制“道德算法”呢?

计算每一种可能结果，选取伤亡数字最低的那一条路走。每个生命都要被平等对待。

计算每一种可能结果，选取儿童伤亡数字最低的那一条路走。

赋值计算：人命20分，猫命4分，狗命2分，马命1分。然后计算每种规避措施造成后果的总分值，选取总分最低的那一条路走。那么，一大群狗的得分要超过两只猫，车子就会向另一个方向规避，救下这一群狗。

可是，如果车载电脑将车里的驾驶员和乘客也计算在内呢?要是车外的生命总分要比车里的高怎么办?要是人们知道，在必要情况下，车子会按照既定程序牺牲他们，他们还愿意坐进车里吗?

法国图卢兹经济学院的让·弗朗西斯·博纳丰最近发表的一篇研究认为，这些问题没有正确或错误的答案。在此次调查中，博纳丰选取了亚马逊公司土耳其机器人项目的数百名员工作为访问对象。调查人员首先问道：如果为了拯救一位或更多行人，车子就得转向并撞上障碍物，从而导致驾驶员丧生，那么是否还应该进行这样的规避?随后调查人员会增减被拯救的行人数量。博纳丰发现，大多数人都在原则上同意对汽车进行编程以尽量减少伤亡人数，但谈到这些情景的具体细节时，他们就不那么确定了。他们支持其他人使用自动驾驶汽车，自己却不那么热心。人们往往都有实利主义本能，认为应该牺牲车内人员的生命来救助更多的车外人员——除非这些车内人员就是他们自己。

智能机器

科幻小说家们总是爱写关于机器人暴政的故事，比如机器人占领了世界(如《终结者》电影以及其它许多文艺作品)，每个人说的话都会被监听和分析(就像奥威尔的小说《1984》里描写的一样)等等。这些情景暂时不可能发生，但科幻小说中的许多奇思妙想正在成为主流科技。互联网和云计算提供的平台已经造就了很多技术飞跃，显示了人工智能相对于人类的巨大优势。

　　在斯坦利·库布里克的经典电影《2001漫游太空》中，我们已经可以见到一丝未来的影子。在电影中，电脑已经可以根据任务的优先性做出决定。飞船上的电脑HAL说道：“这个任务对我太重要了，我不能让你危害到它。”如今，从手机到汽车，机器智能已经在我们身边的许多设备上出现了。据英特尔公司预测，到2020年，全球将有1.52亿辆联网汽车行驶在路面上，它们每年将产生多达1.1亿亿字节的数据，足以装满4万多个250 GB的硬盘。那么它们有多智能呢?用英特尔公司的话说，几乎和你一样智能。届时，联网汽车将分享和分析一系列数据，从而在行驶中随时做出决策。在大多数情况下，无人驾驶汽车的确比有人驾驶的汽车更安全，但我们所担心的正是那些异常情况。

科幻小说家阿西莫夫著名的“机器人三定律”，为我们提出了未来智能设备如何在危急情况下进行决策的有益建议。

1.机器人不能伤害人，也不能不作为而坐视人受到伤害。

2.机器人必须服从人类的命令，除非人类的命令违背第一原则。

3.在不违背第一及第二原则的情况下，机器人必须保护自己。

阿西莫夫甚至还在“三定律”之前增加了一条级别高于三定律的“第零定律”：

机器人不能伤害人类社会，也不能不作为而坐视人类社会受到伤害。

阿西莫多虽然没能帮我们解决“撞车”悖论，不过随着传感器技术的进一步发展，数据的来源越来越多，数据处理能力越来越强，“撞车”决策已经被简化为冷冰冰的数据分析。

当然，软件爱闹Bug是出了名的。如果有人恶意篡改这些系统，会造成怎样的灾难?到了机器智能真的能从人类手中接管方向盘的那一天，又会发生什么?这样做是否正确?到时候，购车者能否购买可以编程的“道德配置”，对自己的车子进行“道德定制”?既然有的汽车上帖着“我不为任何人踩刹车”的保险杠车贴，到时候会不会有“我不为任何人踩刹车”的人工智能?如果是这样的话，你怎么才能知道车子在危机时刻会做出怎样的反应——就算你知道，你又是否愿意坐上这样一台车呢?

此外还有法律上的问题。如果一辆车本可以采取措施减少伤亡，但它却没有这样做，那会怎样?如果它根据“道德计算”，直接从行人身上碾过去了怎么办?这些都是人类驾驶汽车时所要担负的责任，但机器是按指令行事的，那么应该由谁(或者什么东西)来承担责任?

如今智能手机、机场监控设备甚至连面部识别技术都在不断进步，对于计算机来说，识别物体并且根据车速和路况迅速计算出一系列可能后果，并选择和采取相应行动，已经不是很困难的事了。到那个时候，置身事中的你，很可能连选择的机会都没有了。