前高层指责谷歌与军方合作：再聪明的人也可能作出没道德的事

3个月前，谷歌被曝决定为有争议的美国国防部军事试验项目Maven提供AI支持，该项目旨在通过自动对物体和人的图像进行分类来加速对无人机视频的分析。批评者称，这一军事计划可以帮助提高无人机导弹袭击的命中率。现在，已有十多名谷歌员工辞职，以抗议公司继续参与Maven项目。

周一，260多名来自人工智能、伦理学和计算机科学等领域的学者、研究人员签署了一封公开信，呼吁谷歌结束其对Maven的支持，并且希望谷歌转而支持禁止自主武器系统的国际条约。对此，谷歌的女发言人并未做出回应。

这封信的两位作者Peter Asaro和Lucy Suchman曾在联合国就自主武器问题作证，第三位作者Lilly Irani是一位科学教授、前谷歌员工。

Irani在谷歌工作了四年，在2007年离职读研，她说那些在谷歌工作的优秀人才总是抱着让世界更美好的愿景。

但她也知道，善良的人做出的决定也并不总是正确的。即使在那些年前，在Irani担任谷歌的软件产品设计师期间，她也看到财务压力如何影响经理人，而这些人转而施压给其他盈利的公司一样。

不管在什么地方，这种力量有时候会压垮人们，让他们做出可能违背道德或伦理的决定。

她回忆说，在研究谷歌的搜索历史时，她的一位项目经理告诉她：“获取隐私信息就像是温水煮青蛙。‘水温’上升太快会让人发狂，但是如果缓慢地上升，人们就会慢慢习惯。”

Irani在当时认为自己无法挑战这一主张。现在，她认为她只是当时抱着相似想法的许多技术工作人员中的一位，他们想讨论一些大型科技公司面临的道德责任，但又有些不知所措。这就是她现在谈论Maven的原因之一。

过去几个月肯定是谷歌在人工智能领域的一个艰难时期。上周在谷歌的I / O开发者大会上，该公司展示了一款尚未发布的谷歌助理版本Duplex，Duplex在与Google Assistant结合之后，已经展现出令人惊讶的真实感。据悉，这项语音技术能够用更加自然而流利的语气，帮用户完成诸如订餐之类的预设操作。

在路演期间，Duplex成功进行了一次电话预约，而另一端的工作人员并不知道她正在和智能程序对话。对此，甚至有媒体称这项技术“令人毛骨悚然”。

在四月份，据外媒报道，有一份请愿书在谷歌内部开始传播，要求管理层退出Maven并承诺永远不要开发武器。有3000多名谷歌员工签名。周一，已经有十几名员工通过辞职进行抗议。

加州大学圣地亚哥分校的一名助理教授称：“随着Maven项目的开展，谷歌很可能会牵连到一些有针对性的杀戮行为的怀疑中。”

如果说，谷歌的领导人以前后知后觉的话，那么现在他们应该已经充分意识到AI能吓到许多人，而将AI与武器相结合的前景尤其富有争议。研究人员和学者在他们的信中说，如果谷歌协助五角大楼提供人工智能，那么该公司就是 “授权无人机在没有人工监控或人为控制的情况下自动杀人”的帮凶。

机器人杀手听起来很可怕，但声明中的猜想是真实的吗？谷歌过去曾表示，公司对Maven的支持本质上不具侵犯性，不会被用来杀人。

如果谷歌退出这一项目呢？该公司的其中一名竞争对手可能会接手这项工作，并将其收入囊中。最后，无论是请愿书或是辞职信都无法阻止军方获取人工智能技术。

Irani表示，谷歌应该至少听取员工的意见，但无论如何，她希望在整个社会上看到关于自主武器和人工智能的大型辩论。她不认为谷歌或军方已经对人工智能武器有了最后的结论。

根据Irani的说法，像谷歌这样的公司，背负着“不作恶”的信条，仍然会发现自己与地狱火导弹、掠夺者无人侦察机和外科手术式打击等计划有关联，这表明当前的事态发展本身就存在问题。

Irani说：“谷歌充满了优秀、睿智的人，他们中的许多人都抱有美好的愿景。但即使在谷歌，我们也会遇到这样的情况，那就是我们的数据可能会被集成到不负责任的杀戮之中，并且这些活动正在进行，这是危险的重要信号。”