臭名昭著的 Deepfake 能提升创造力？Facebook AI 负责人有话说

雷锋网按：作为全球最有影响力、也最具争议的公司之一，Facebook 的人工智能发展被大众密切关注。从 Instagram 滤镜到 AR 应用，Facebook 仍在不断利用人工智能构建新的功能和产品。作为 Facebook 人工智能副总裁，Jerome Pesenti 指导着数百名科学家和工程师工作，直接影响了公司的人工智能发展。近日，他接受了  Wired 的采访 ，讨论人工智能技术的现状与挑战。雷锋网在不改变原意的基础上对采访进行了编译。

【图片来源： Wired ，所有者：Wired】

以下是 Wired 采访 Jerome Pesenti 的对话实录。

问：

人们认为人工智能可以解决假新闻和网络滥用，但这可能是种夸大。您是否能跟我们谈谈人工智能在这一领域的真实进展？

答：

将人工智能技术应用于这一领域，比如自动调节，或者是与人类、计算机一起工作，对现阶段的 Facebook 而言绝非易事。但毋庸置疑，我们也已经取得了很大的进步。

早期，人工智能技术在视觉（识别视频和图片）方面有所进展。过去几年里，我们已经能够将其应用于识别裸体、暴力，及图片、视频中发生的事情。

最近，人工智能在语言领域有了很大的进步，我们可以借此更精确地理解人们在交流中使用的语言。我们可以辨别是否出现了语言霸凌、仇恨言论，或者只是说话人在讲笑话。

问：

那您能谈谈 Deepfake 技术吗？

答：

我们很重视这个问题。实际上，我 这是个很大的挑战，我们正在积极应对，它目前似乎并不重要，但我们深知其重要性。我们正在努力占据优势地位，目前我们已经开始接触行业和社区。

问：

让我们更宏观地谈谈人工智能吧。一些公司，例如 DeepMind 和 OpenAI，声称他们的目标是开发"人工智能"。那么这就是 Facebook 正在做的吗？

答：

我们实验室的目标是匹配人类的智力。当前我们离这个目标还很远，但我们认为这很伟大。但我认为实验室里的很多人，包括 Yann，都觉得"通用人工智能" 的概念并不是很有趣，意义也不大。

有人认为通用人工智能是人类的智力，我觉得这有点儿虚伪，因为人类的智力水平并不相同。另外，也有人将奇点的概念投射到通用人工智能上 -- 如果你有通用人工智能，那么你就会拥有一个能使自己变得更好，并不断提高的智能。但其实并没有这样的模型，人类无法让自己变得更聪明。

问：

Facebook 的人工智能实验室是由 LeCun 创建的，他是深度学习的先驱之一，最近获得了图灵奖。目前，有些人认为深度学习不会给我们带来真正的智慧，您如何看待？

答：

坦诚地讲，深度学习和当前的人工智能，的确有很多限制。我们离人类智能非常远，一些批评也是有效的：它传播人类偏见，很难解释，缺少常识的支撑，更多地还是停留在模式匹配的层面上，而非强大的语义理解。但我们在解决其中一些问题上也取得了进展，而且这些领域仍在快速发展。深度学习可以应用于数学，应用于理解蛋白质，我们可以通过它做很多事情。

问：

一些人工智能专家还谈到了 "再现性危机" ，即重建突破性研究的难度很大。您怎么看？

答：

Facebook AI 很关注这一话题。当人们做一些不可复制的事情时，就会出现很多挑战。如果不能复制，便失去了投资的意义。

我们相信可重复性会给这个领域带来很多价值。它不仅能帮助人们验证结果，还能让更多的人了解正在发生的事情，并以此为基础。人工智能之美便在于它终究是由计算机运行的系统。因此，作为科学的一个分支，它可复制的几率很大。我们相信，未来人工智能将是一个几乎默认可复制的东西。我们试图开源我们在人工智能中的大部分代码，这样其他人就可以加以利用。

问：

OpenAI 最近指出，高级人工智能所需的计算能力每 3 个半月就翻一番。您有在担心这一点吗？

答：

这是个很好的问题。当你进行深度学习时，它往往表现得更好，并且能更好地解决更广泛的任务。所以，计算能力翻倍是有好处的。但显然，这是不可持续的。如果你有留意拿些顶尖的实验，你会发现它们每年的成本都会涨10倍。现在，一个实验可能需要七位数的资金，但绝不会达到九位数或十位数，这是不可能的，没人能负担得起。

也就是说，我们还是有极限的。其实在很多方面我们已经有了。并不是每个领域都达到了极限规模，但在大多数情况下，我们真的需要从优化和成本效益的角度来考虑问题，我们真的需要看看我们如何从现有的计算中获得最大的收益。这就是我们要发展的方向。

问：

您从 IBM Watson 的人工智能商业化中学到了什么？ 有什么是 Facebook 可以借鉴或避免的？

答：

我在 Watson 的经历十分有趣。IBM 指出这是一个商业市场，实际上也有一些应用，我觉得这真的很了不起。不过可能也有点儿过于夸张了。我不认为这对 IBM 来讲有很大的好处。

Facebook 在公司内部的使用率相当惊人。目前，公司里使用人工智能的开发者数量正以每年两倍多的速度增长。因此，我们要强调人工智能是有用的，但不会过分夸大它。宣称自己能做自己能力之外的事，对我们没有好处。我不需要大肆宣传来证明我们团队的存在。

问：

Facebook 有时很难将人工智能研究转化为商业上的成功，比如虚拟 AI 助手“M” 。您是如何更有效地将研究与工程联系起来的？

答：

一旦开始谈论技术转让，就意味着已经输了。你不能只是挑选一些研究，然后找人尝试把它投入生产。你不能就这样把它抛出去。最好是让做基础研究工作的人接近与更接近产品的人一起工作。这确实是组织结构上的一个挑战--要确保有一套随着时间的推移而成熟的项目，能让大家一起参与其中，而不是让科学家把自己的研究抛到一边。

问：

近期 Facebook 会推出什么样的人工智能产品呢？

答：

当前，人工智能在 Facebook 上的两个核心用途是：保证用户安全性，为用户传播价值。但最令人兴奋的事情是，我们试图创造新的体验，这些体验只有借助人工智能才能实现。增强现实和虚拟现实都只能以人工智能为基础。我们最近看到，用户可以用手与虚拟现实互动，这需要对耳机周围的事物有非常精细的理解。它解析整个场景只需一个相机，用户可以用手作为控制器。

同时，我也相信，它很有可能让人们更有创造力，通过 TikTok 这样的竞品，我们可以看到这一点。即便不是专家、视频剪辑师或艺术家，许多普通人也能自然地与媒体互动，创建视频和内容，而不是作为专家、视频编辑或艺术家。

问：

那么，Deepfake 视频背后的技术也会激发用户创造力吗？

答：

当然。我们需要多角度考虑问题。Deepfake 有很大潜力为用户赋能，提升用户创造力。但正如我们在过去几年中了解到的那样，我们需要负责任地使用这项技术，学会居安思危。

问：

您对人工智能出口管制的想法有何见解？ 技术能被限制吗？ 这会影响行业发展吗？

答：我个人的意见是，这似乎是非常不切实际的。除此之外，它可能会对研究进展产生负面影响，迫使工作更少可复制性降低。我认为，开放和协作对于推动人工智能的进步很重要，而限制基础研究成果发表或开源，可能会拖延该领域的进展。

尽管如此，无论这种控制是否已经在实施，作为负责任的研究人员，我们应该继续考虑潜在误用的风险，以及我们如何能减轻这些风险，同时还要确保我们推进人工智能的工作尽可能开放、可重复。

雷锋网年度评选—— 寻找 19 大行业的最佳AI落地实践

创立于2017年的「AI最佳掘金案例年度榜单」，是业内首个人工智能商业案例评选活动。雷锋网从商用维度出发，寻找人工智能在各个行业的最佳落地实践。

第三届评选已正式启动，关注微信公众号“雷锋网 (公众号：雷锋网) ”，回复关键词“榜单”参与报名。详情可咨询微信号：xqxq_xq

【封面图片来源：网站名  Wired ，所有者：Wired】

。