谷歌大脑发布官方年度报告：重视人工智能安全，推广机器学习

【编者按】在 人工智能 领域，谷歌是领导者和探险者。今日， 谷歌大脑 负责人Jeff Dean在谷歌博客刊文，从论文发表、自然语言理解、 机器人 到推广 机器学习 ，全面总结团队2016年的工作，并分享2017年有哪些事情等着他们。

本文转载自公众号新智元，亿欧编辑，供行业内人士参考。

---

谷歌大脑的长期目标是，通过在各种不同领域的纯理论和应用研究，创造更多智能软件和系统，以改善人们的生活。这显然是一个长期目标，让我们回顾我们的团队在过去一年取得的一些进展，并分享我们认为2017年有哪些事情等着我们。

论文发表

在ICML，NIPS和ICLR等顶级国际机器学习会议发表论文，是评价我们的研究的重要手段。去年，我们的团队共有27篇论文被这些会议接收，涵盖的主题十分广泛，包括程序综合（program synthesis），网络间知识转移（knowledge transfer from one network to another），机器学习模型的分布式训练（distributed training of machine learning models），语言生成模型（generative models for language），机器人无监督学习（unsupervised learning for robotics），自动定理证明（automated theorem proving），更好的理论理解神经网络（better theoretical understanding of neural networks），改进强化学习的算法（algorithms for improved reinforcement learning），以及其他。

我们还有许多其他论文在自然语言处理（ACL，CoNNL），语音（ICASSP），视觉（CVPR），机器人（ISER）和计算机系统（OSDI）领域会议被收录。我们的团队还向即将到来的ICLR 2017年提交了34篇论文，这是一个最前沿的深度学习研究顶级会议。 

自然语言理解

让计算机更好地了解人类语言是我们研究的一个重要领域。在2014年底，三位谷歌大脑团队研究员发表了一篇论文 ”Sequence to Sequence Learning with Neural Networks”，并证明该方法可以用于机器翻译。在2015年，我们表明，这种方法也可以用于生成图像的字幕、解析句子和解决计算几何问题。

在2016年，此前的研究（包括许多改进）最终使得我们团队成员与谷歌翻译团队密切合作，用完全端到端的学习系统完全取代了支持谷歌翻译的算法。这个新系统将一些语言在的旧系统和人类翻译质量之间的差距缩小了85％。

几个星期后，我们展示了系统如何做“零翻译（zero-shot translation）”，学习在语言之间翻译它从来没有见过的例句。此系统现在部署在谷歌翻译服务上，用于越来越多的语言，为我们的用户提供更高质量的翻译，让人们跨越语言障碍更有效地沟通。 

机器人

传统的机器人控制算法是小心翼翼通过人工精心编程的，因此打造具有新能力的机器人通常是一个非常费力的过程。我们认为机器人通过机器学习自动获得新技能是一个更好的方法。去年，我们与Google X的研究人员合作，展示机器人手臂如何学习手眼协调，汇集他们的经验更快地教会自己。我们的机器人在这项研究中进行了大约80万次的抓取尝试。

在2016年晚些时候，我们探索了机器人学习新技能的三种可能的方式：通过强化学习以及人类示范，使它们自己与物体进行交互。其基本的思路是，让多个机器人分别学习，然后把学到的信息上传到服务器中，再共用服务器中的信息进行训练和调整。这种“集体主义”式的学习方法，不仅能将学习时间大大缩短，还能对任务的多样性进行扩充。

我们将继续这项工作，我们的目标是使机器人能够灵活、容易地学习新的任务并且能在凌乱的真实世界运转。为了帮助其他机器人研究人员，我们已经公开了多个机器人数据集。

医疗保健

我们对使用机器学习来提升医生和临床医疗的潜力感到兴奋。例如，在《美国医学协会杂志》（JAMA）发表的论文中，我们证明了机器学习驱动系统在诊断糖尿病性视网膜病变的能力与专业眼科医生旗鼓相当。如果糖尿病性视网膜病变的早期症状未被发现，将有超过4亿人面临失明的风险，但是在许多国家很少有眼科医生进行必要的筛查，这项技术可以帮助确保更多的人接受适当的筛查。

我们还在其他医学成像领域工作，以及调查机器学习用于其他类型的医学预测工作。我们相信，机器学习可以提高医生和患者的医疗体验的质量以及效率，我们将更多地谈谈我们在2017年在这一领域的工作。

音乐和艺术生成

技术一直帮助人们创造和共享媒体，例如印刷机、电影或电吉他。 去年，我们开始了一个名为Magenta的项目，探索艺术和机器智能的交汇点，以及使用机器学习系统来增强人类创造力的潜力。从音乐和图像生成开始，再到文本生成和VR等领域，Magenta正在推动内容创作生成模型中的最先进技术发展。

我们帮助组织了一次为期一天的关于这些主题的研讨会，并支持了一次机器生成艺术的艺术展览。 我们探讨了音乐创作和艺术风格转移的各种主题，我们的音乐会演示获得了NIPS 2016的最佳演示奖。

AI安全和公平

当我们开发更强大和更复杂的AI系统并将其部署在更广泛的真实世界中时，我们希望确保这些系统是安全和公平的，我们还希望构建工具，帮助人们更好地了解他们所生产的东西。

在人工智能安全领域，我们与斯坦福、伯克利和OpenAI的研究人员跨机构合作，发表了一篇关于人工智能安全Concrete Problems的白皮书。本文概述了一些我们认为在人工智能安全领域有真正的和基础研究的具体问题和领域。另外一个我们取得进展的安全性方面是，训练数据隐私保护，通过知识传递技术获得不同的隐私保证。

除了安全性，我们开始依靠人工智能系统做出更复杂和更复杂的决策，我们希望确保这些决定是公平的。

TensorFlow

在2015年11月，我们开源了TensorFlow的初始版本，以便机器学习社区的其他人可以从中受益，我们可以共同改进它。 在2016年，TensorFlow成为GitHub上最受欢迎的机器学习项目，超过570个人进行了超过10,000次提交。TensorFlow 的模型库已经从社区的贡献发展壮大，还有超过5000个与TensorFlow相关的库在GitHub上列出！

此外，TensorFlow已经被知名的研究小组和大型公司广泛采用，包括DeepMind，并可能应用于一些不寻常的应用，如发现海牛和在日本分类黄瓜。

我们已经进行了大量性能改进，增加了对分布式训练的支持，将TensorFlow引入到iOS、Raspberry Pi和Windows，并将TensorFlow与广泛使用的 大数据 基础设施集成。我们通过改进可视化计算图形和嵌入的工具，将TensorBoard、TensorFlow 的可视化系统进行了扩展。

我们还使TensorFlow兼容Go，Rust和Haskell，发布了最先进的图像分类模型-- Wide和Deep，并在Github、StackOverflow和TensorFlow邮件中回答了数千个问题。

TensorFlow服务简化了在生产环境中提供TensorFlow模型的过程，对于在云中工作的用户，Google Cloud Machine Learning提供TensorFlow作为托管服务。

去年11月，我们庆祝了TensorFlow开源周年，并在OSDI上——一个主要的计算机系统研究会议——发表了关于TensorFlow的计算机系统方面的论文。在与Google编译器团队同事的协作下，我们还一直在努力打造TensorFlow的后端编译器XLA ，alpha版本最近开源。 

建立和维护机器学习社区

我们也致力于推动机器学习教育。去年1月，Vincent Vanhoucke作为Brain团队的研究主管之一与Udacity合作开发并提供免费的深度学习在线课程。我们还整合了TensorFlow Playground，一个有趣的交互系统，以帮助人们更好地可视化理解神经网络是如何学习完成任务的。

2016年6月，我们迎来了第一批27名谷歌大脑的常驻实习生（Residents），他们是2200名申请者中的佼佼者。7个月的时间里，他们进行了大量的原创研究，参与撰写了21篇研究论文。

2016 年8月，许多大脑团队成员在r/MachineLearning社区上参与了Google Brain team Reddit AMA（Ask Me Anything）活动，回答了社区对机器学习、对我们的团队的许多问题。

这一年里，我们还接收了46名实习生（主要是博士生）与我们的团队成员进行合作研究。

在谷歌内部推广机器学习

除了上文列举的已向公众公布的活动外，我们还继续在谷歌内部众多产品团队中推广机器学习专业知识和认识，确保公司作为一个整体能够充分利用最新的机器学习研究成果。例如，我们与我们的平台团队紧密合作，为谷歌的张量处理单元（TPU）提供规范和高级目标，TPU是在Google I/O上公布的定制机器学习加速器 ASIC。这种定制芯片为机器学习的工作负载提供了指数级的提升，并已经广泛使用与我们的产品中，包括RankBrain，最近推出的神经翻译系统，以及去年3月份在围棋对弈中打败李世石的AlphaGo。

总结而言，2016年对于Google Brain团队以及谷歌内外的许多合作者和同事来说都是令人兴奋的一年，我们期待2017年我们的机器学习研究将产生更大的影响。