专访谷歌AI主管：我反对谷歌涉足自动化武器研发

2018年5月8日，谷歌人工智能主管杰夫·迪恩（Jeff Dean）与AI社区成员进行交流，并在I/O开发者大会上发表演讲

腾讯科技讯 5月10日消息，据外媒报道，大约一个月前，有报道称苹果公司挖走了谷歌人工智能（AI）主管约翰·吉安德拉(John Giannandrea)，但他很快被Google Brain研究部门负责人杰夫·迪恩(Jeff Dean)取代。

在AI继续被集成到谷歌所有产品和服务的过程中，这位资深谷歌人接任了AI主管职位，而且AI已经在谷歌形成独立部门。Google Researc最近甚至更名为Google AI。

在最近举行的开发者大会上，谷歌推出了很多新的功能和更新，包括为移动应用程序开发人员推出的ML Kit，计划发布第三代张量处理单元（TPU）芯片，Google Assistant中的AI甚至可以代表你打电话。迪恩日前接受采访，分享了他的未来远景。

在不久的将来，迪恩看到AI创造新产品的机会，并可找到人类从未考虑过的问题的解决方案。他还看到来自AutoML的挑战，这个AI模型可以构建其他AI模型，同时他认为谷歌不应该加入自动化武器研发行列。

通用智能AI崛起

在当今世界上，大部分AI只能被用于单一的、狭窄的用例中，就像将一个句子从一种语言翻译为另一种语言，但是迪恩希望谷歌创造更多的AI模型，它们可以执行多个任务，实现一种“对世界的常识推理。”

迪恩表示：“我认为将来你会看到能做很多事情的AI模型，并在此基础上积累起更多经验。这样，当我们想要训练AI模型来做其他事情时，它就可以在已有技能和专业知识基础上进行设置。”

举例来说，如果一个机器人被要求捡起什么东西，它需要首先理解一些东西，比如手是如何工作的，重力原理，以及其它对这个世界的理解。迪恩称:“我认为这将是未来几年你会看到的一个重要趋势。”

AutoML偏见和不透明挑战

询问不同的人，谷歌AutoML要么令人兴奋，要么令人感到恐惧。机器训练机器肯定会吓到AI的反对者。但Google Cloud首席科学家李飞飞(Fei-Fei Li)表示，AutoML降低了为所有人开发定制AI模型的门槛，无论对于高端开发人员还是东京的拉面店老板，都是如此。

迪恩认为，这令人非常兴奋，因为它可帮助谷歌“自动解决问题”，但是AutoML的使用也带来了一些独特的问题。

他说:“与传统的手工编码软件相比，我们使用的学习系统更多，所以我认为这给我们带来了很多挑战。其中之一是，如果你从数据中学习，而数据中已经存在有偏见的决定，那么机器学习模型就会使这些偏见延续下去。有鉴于此，我们与机器学习社区正在做很多工作，以便弄清楚我们怎样才能训练出没有偏见的机器学习模型。”

另一个挑战是：如何利用AutoML设计出更注重安全的系统，为医疗等行业开发专用AI。几十年计算机科学的最佳实践已经为手工编码建立了这样的系统，现在也需要为制造机器的机器建立同样安全的系统。

迪恩指出:“我认为这是一个非常有趣和重要的应用方向，特别是当我们开始在更注重安全的系统中使用机器学习的时候，比如那些正在决定你的医疗保健或自动驾驶汽车的东西。”

注重安全AI需要更透明

伴随着Google Assistant将很快可代表你接打电话，以及Android P测试版的发布，谷歌首席执行官桑德尔·皮查伊（Sundar Pichai）谈到谷歌如何将AI应用到医疗保健领域，以根据电子健康记录信息来预测患者是否需要重新入院。

谷歌研究人员在《数字医学的本质》(Nature of Digital Medicine)上发表了一篇文章，解释了其AI为何会对病人做出某些决定，以便医生能在医疗记录中看到其推荐治疗方案的理由。

将来，迪恩希望，那些想知道AI为何做出某个具体决定的开发人员或医生，能够通过简单地询问AI模型就能得到响应。他说，如今谷歌产品中部署的AI经历了内部审查过程。谷歌目前正在制定一套指导方针，以评估AI模型是否存在偏见。

迪恩称:“在本质上，就像对产品的新特性进行安全审查或隐私审查一样，你想要的是对机器学习进行公平审查，这是将机器学习融入我们产品的一部分。”

迪恩表示，当涉及到由开发人员通过诸如ML Kit或TensorFlow（已被下载超过1300万次）等工具部署AI时，人类也应该成为决策过程的一部分。

不该涉足AI武器化

迪恩说，他认为谷歌不应该涉足自动化武器研发领域。今年3月份，有报道称谷歌正在与美国国防部合作，帮助改进无人机收集的视频的分析能力。

迪恩解释称:“我认为，随着社会开始发展更强大的技术，机器学习和AI会出现许多有趣的伦理问题。大约在6个月或9个月前，我个人已经签署了一封公开信，承诺反对机器学习用于自动化武器。我认为很明显，大多数人都对使用自主武器系统感到不安。”

《纽约时报》曾报道称，数千名谷歌员工曾签署公开信，敦促谷歌远离“战争技术”，这可能会对谷歌品牌造成不可弥补的损害，并对公司和公众之间的信任关系产生影响。迪恩没有说明他是否签署了《纽约时报》报道中的那封信。

AI驱动新项目和产品

皮查伊还强调了先前发布的一项关于AI的研究，在研究中，AI就像训练有素的眼科医生那样，准确地发现了糖尿病视网膜病变。这种智力水平的AI模型不再局限于模拟人类活动，它们正在帮助谷歌发现新的产品和服务。

迪恩说:“通过使用大量数据对这些模型进行训练，我们实际上可以让系统做些我们不知道自己是否能做到的事情，这是个根本性进步。我们目前正在研发AI能够验证的全新测试和产品，而不是用AI来做我们想要它们去做的事情。” （编译/金鹿）