当无人车遇上著名的“电车难题”

“电车难题” 是一个伦理学领域的思想实验，自 1967年Phillipa Foot 提出以来，大批哲学家对此乐此不疲。

五个无辜的人被绑在铁轨上，一辆列车疾驶而来，他们死定了。除非你拉下列车控制杆，使列车朝另一个方向驶去，但那条轨道上有一个同样无辜的人。拉下控制杆，你能拯救五条生命，但会牺牲另一个：你如何选择才能不违背伦理？

随着时间的推移，这个问题演化出许多新版本，譬如：是选择让电车撞死五个人，还是把一个胖子推下去阻止列车前行（胖子也得死）；还有一种，胖子恰巧就是这个把五位无辜者绑在轨道上的人，等等。如今，这个辩题因无人车的出现被赋予了新的生命。新的版本是：你的无人车将撞上一辆校车，它意识到它可以选择杀死你或者拯救一车的孩子。那么在设置程序时应该如何抉择？我已经记不清有多少次，“电车难题” 总是以各种故作严肃、远见卓识的未来主义姿态出现，并激怒我 。最糟糕的是，这个肤浅的题型不仅伪装深刻，还演化出各种貌似更深刻、意义更重大的形式。

我们可以换种方式思考：如果你想设计一辆车，让它在特定条件下故意杀害它的司机，你如何保证司机不会修改程序，确保自己永远不会被自己的汽车蓄意谋杀？

答案很明显，借鉴 iPhone 模式。设计一辆汽车，让它只能安装通过交通运输部（或制造商）认证的软件，并将教人解锁定以重罪。目前 iPhone、游戏机和其他设备都上了数字锁，即业内所说的 “DRM”（数字版权管理）。美国 1998年 颁布的 “数字千年版权法案” 和欧盟 2001年 颁布的 “协调信息社会的著作权指令"禁止去除数字锁，防止受版权保护的作品被盗版。泄露帮助他人解锁的信息，如设备中的漏洞等行为也会受到制裁。

围绕这个问题有很大争议。无人车的程序必须对一个公路上高速移动的对象负责，尤其是那些脆弱的人类。

但这在现实中显然根本行不通。大家都知道，每台被锁定的设备都可以轻易地 “越狱”。数字锁法规最主要的目的不是阻止人重新配置设备——而是确保他们不能在企业和产品的帮助下这样做。2002年 英国电信监管机构 OFcom 宣布了手机解锁合法化，解锁你的手机并不难，你可以自己从网上下载软件解锁，或找非法破解手机的人。

即使我们可以锁定汽车的设置，我们也不应该这样做。数字锁会在在计算机里建立了一个计算机所有者也无法进入的空间。数字锁的相关文件对所有者绝对不可见。当用户命令操作系统列车数字锁的目录下的文件时，文件必须被掩盖或忽略（以防用户删除或替换它们）。当用户命令操作系统列出所有运行的程序时，数字锁程序也应被忽略（以防用户终止程序）。

所有计算机都有漏洞。即使使用多年的软件，源代码被无数程序员检查过后，仍会有微小的漏洞。安全是一个过程，不是一个结果。准确地说，安全是一种识别漏洞的过程，以及在对手发现、利用漏洞之前打补丁的过程，也是一种防患于未然，在此之前将对手从系统中消灭，并修补他们造成的破坏的过程。

当 SONY BMG 将数字版权管理软件暗藏在大量计算机中以阻止 CD 泄漏，它得不被杀毒软件发现，因为杀毒软件可以准确将它识别为一个未经用户许可安装、违背用户意愿运行的程序。通过改变用户的操作系统，使其无视任何以一串特殊、秘密的字母串 “＄sys＄” 打头的文件。恶意木马作者一旦发现，就会利用它：当他们的程序侵入 SONY 授权的电脑，程序可以在 SONY 的掩护下，不被杀毒软件发现。

汽车体型庞大且行驶速度快，可以杀死用户和周围的人。黑客可以通过授权的软件控制刹车、加速器和方向盘（去年夏天的克莱斯勒公司因此召回 140 万辆汽车）。如果把汽车设计为无法修改的无人车，把任何驾驶员试图修改程序（比如在 “电车难题” 中选择自保）的做法视为自私的行为，把乘客视为敌人，事情就会更糟。

“电车难题” 愚蠢的假设之下隐藏着深意。互联网的世界已经出现了 “合法拦截”，留下后门以供警察监管。这些后门已成计算机安全问题的根源。比如 2011年 中国政府攻击 Gmail 账户，“合法拦截” 疑似政见不同的激进人士；以及 NSA 在 2004年 奥运会期间窃听希腊政府的竞选过程。

尽管存在这些问题，执法者仍希望留下更多后门。英国内政大臣 Theresa May 颁布的 “刺探者宪章"，将迫使公司弱化产品的安全性，使监管用户成为可能。

我们似乎可以从无人车的合法拦截能力中获得启示：警察可以对你的车发送信号，让它停下。这会比"电车难题"带来更多问题：一种让汽车不按乘客意愿行驶的内置装置，对骗子、杀人犯和强奸犯来说简直是天赐良机。这些人能以此巧妙模仿执法机构的官员。不要说政府的警察这种行为在我们看起来是非法的——更别提叙利亚总统 Bashar al－Assad 的秘密警察，或是 Isis 控制下自封警察的恐怖分子了。

"电车难题"变得更棘手了：对城市规划者来说，无人车主要的吸引力在于可以减少路上的汽车数量，将私家车转化为一种无人驾驶的 Uber。Uber 甚至可以被看作一种无人车的演练。你和你的车存在某种关系，但你并不拥有它。你没有权利改变（甚至监视或确认）无人 Uber 里的软件。它会设置为让第三方控制。比如可以设置一种用户控制的紧急刹车，并委托保险公司管理，但保险公司显然不希望这种功能出现。

忘记"电车难题"吧：无人车注定会开启劳工关系、监听能力和资本分配的新篇章。

注：本文由实习编辑陈佳怡编译。

本文编译自： theguardian.com ，如若转载，请注明出处：http://36kr.com/p/5042116.html

“看完这篇还不够？如果你也在创业，并且希望自己的项目被报道，请 戳这里 告诉我们！”