CMU机器学习系负责人：人工智能与人类的未来是共生自主

机器之心编译

参与：吴攀、蒋思源。

在 2021 年之前，我们日常所用的软件将会具有很大程度上的智能和能力，并将会在越来越多的任务中取代人类。难道我们就要就此落后了吗？

尽管有一些人预测会出现大规模的失业和人类与 人工智能 之间的全面战争，但其他人并不认为未来有那么糟糕。卡内基梅隆大学 机器学习 系负责人 Manuela Veloso 教授设想了一个人类与 人工智能 密不可分的未来，它们将同心协力持续不断地交换信息和目标，她将其称之为「共生自主（symbiotic autonomy）」。在 Veloso 眼中的未来里，我们将难以将人类代理和自动化助理区分开——但不管是人还是软件，如果没有彼此，就不会有很大的用处。

Veloso 已经在 CMU 的校园里面测试这个想法了。他们打造了可移动的、赛格威一样的机器人 cobot。它们可以自动将客人从一栋建筑护送到另一栋建筑，而且当它们短缺时它们会请求人类的帮助。这是一种新的思考 人工智能 的方式，并且可能会在未来五年里带来深远的影响。

日前，The Verge 在匹兹堡对 Veloso 进行了一次专访，谈论了机器人、编程自发性（programming spontaneity）和人工智能给人类带来的挑战。下面是采访内容：

自动化是过去五年里的一个大趋势。我们也看到有更多的智能被构建到了我们已经在使用的工具中，比如手机和计算机。你对未来五年的发展怎么看？

答：在未来，我相信会出现人类与人工智能系统的共存，并有希望会造福于人类。这些人工智能系统将涉及到处理数字世界的软件系统，也将涉及到在物理空间中移动的系统，比如无人机、机器人和自动汽车，另外还会有处理物理空间的系统，比如物联网。

你也将在物理世界中有更多的智能系统——不只是你的手机和电脑，而是我们周围的各种物理存在，它们能处理和感知这个物理世界，并帮助我们进行涉及到大量物理世界的特征的决策。随着时间的推移，我们还将看到这些人工智能系统还将会对更广泛的社会问题产生影响：比如管理大城市的交通、做出关于气候的复杂预测、在人类进行重大决策时提供支持。

目前，我们可以看到有一些系统并不好。当一个算法或机器人进行一项决策时，我们并不总是知道它们为什么要这样决策，这让它们难以得到我们的信任。技术可以如何解决这个问题？

答：我正在研究的一件事是让这些机器能够解释它们自己——对它们做出的决定负责和透明。我们做的很多研究是让人类或用户询问该系统。当我的 Cobot 到我的办公室稍微迟到时，我可以说：「你为什么迟到了？」或「你选择了哪条路？」

所以我们正在研究这些人工智能系统在学习和提升时解释自己的能力，以便提供不同详细程度的解释。我们想通过与这些机器人交互从而让人类能够更加信任这些机器人。你就可以问：「你为什么要那样说？」或「你为什么推荐这个？」

提供那样的解释占到了我现在的研究的很大一部分，而且我相信能做到这一点的机器人能够为我们提供对于这些人工智能系统的更好的理解和信任。最终，通过这些交互，人类也将能够纠正这些人工智能系统。所以我们也在做尝试整合这些纠正的研究，让这些系统能够从指令中进行学习。我相信这会是我们与人工智能系统共存中的很大一部分。

你认为为什么这些系统现在会提升这么快呢？在过去 50 年的人工智能研究中，你觉得是什么在拖我们的后腿？

答：你必须理解，对于一个人工智能系统而言，要知道什么是手机、什么是杯子、一个人是否健康，它就需要知识（knowledge）。早期的人工智能研究实际上是获取知识。我们不得不求助于人类。要人类将信息收集起来并人工录入到计算机中。

神奇的是，在过去几年来，这些信息越来越数字化。看起来这个世界通过互联网显现了出来。所以现在人工智能就是关于可用的数据，以及处理这些数据和理解它的能力，我们仍然在寻找最好的做这些人物的方法。另一方面，我们很乐观，因为我们知道数据已经有了。

现在的问题变成了，我们如何从数据中学习？你怎么使用它？你怎么表征它？你怎么将这些碎片结合到一起？那就是你用深度学习和深度强化学习做自动翻译的系统和能玩足够的机器人的方式。所有这些系统之所以成为可能，是因为我们可以远远更加高效地处理所有这些数据。我们不再必须执行收集知识和表征知识这些大步骤了。就是这些。

过去五年最大的发展之一是类似 Siri 和 Alexa 的个人助理，它们都是由 机器学习 驱动的。我想知道你怎么看待这些系统在过去五年内的变化？

答：你知道，我是 Alexa 的大粉丝。我家里就有一个，大部分时间我与 Alexa 所谈论东西变得越来越广泛。在一开始的时候就是「天气怎样？」现在我会问「我的日历上有什么安排？」Alexa 在学习，我也在学习 Alexa 能做什么。它到底能够随时间变得多好，这会是很让我惊喜的。

我告诉你一件有趣的事：当我离开家的时候，我告诉 Alexa：「Alexa, stop.」我想停止它正在播放的音乐，因为我要离开了。但如果我告诉 Alexa：「Alexa, I’m leaving」，它就无法理解「I’m leaving」意味着它应该停止了。我必须明确说出「stop」才行。所以我设想个人助理会越来越能明白这样的指令：「Alexa，当我离开时，意味着你应该停止播放音乐。」这样的指令应该被提到研究日程上。

你认为我们会达到这样的程度吗：我们可以问个人助理「我车子里的检查引擎指示灯亮了，我可以开这辆车吗？」或「谷歌，我刚拿到了一份工作邀约，我应该接受吗？」？

答：我认为这是可能的。这种类型的问题是决策问题（decision-making questions）——假设你必须选择某个健康保险计划，但你被这些选择搞糊涂了。你可能会在你要睡觉的时候告诉 Alexa：「Alexa，你看看所有这些健康保险计划，还有那些我能够购买的汽车，或者我的孩子可以去哪些学校读书。」然后它就可以在晚上帮你编译一份报告出来。

大量的相关信息都是可以通过网络获取的。你可找到那些学校的所有特征，其他人对这些学校的评价。你能找到关于这些学校的博客和其它的选择。你可以有一个能收集这些学校的所有特征的人工智能系统——它们距离多远、得到了哪些评价……你可以进入一个关于你想从教育中得到什么的主页，而人工智能系统可以将这些信息聚集到一起。它们可以查看这些特征，它们可以从过去的经验中学习，它们可以处理所有的信息，根据你的指导和问题发送所有可用的消息，以一种你能更容易消化的方式呈现这些信息。因为网络上的这些信息非常繁杂，你根本不可能实时处理掉所有这些信息。

最后，你可能也会想有一个能告诉你它这样建议的原因的助理。你可能会问：「为什么你说我应该买这辆车？我真的不喜欢那个品牌。」我认为这是非常重要的一步，让人工智能在决策中支持人类，尝试结合和学习所有的信息，并且整合你可能给出的反馈。

除了个人决策之外，这些系统还能做什么？

答：你可以想象这同样系统的一个版本可以用于科研论文。目前已经有很多的科研论文发表了，而且现在它们都在网上。你可以想象有一个人工智能系统能帮助研究者消化所有这些信息并找到他们感兴趣的东西。

这个人工智能系统将仍然是网络上的信息的一个产物。很多人正在研究信息——文本信息、图片信息、流图表、表格——尝试理解网络上有什么并最终推理对这些信息的需求。比如， 机器学习 里有一个叫做「主动学习（active learning）」的领域，其中我们推理出其中一些过程的图像不够，而因此你可能会想要增加更多的图像。

我设想会有能够识别缺少什么的人工智能系统，从而能够将网络上的信息点连接起来，并在有需要时请求更多的数据。你可以想象它可以问研究者：「如果你告诉我更多有关这些细胞与这种化学品的交互方式，我就能有一个更好的关于当前情况的模型。」

你的共生自主思想的一部分已经体现到了 Cobot 中，对吗？这些机器人目前被放养在 CMU 的校园里，通过一套深度相机、WiFi 和 LIDAR 装置在计算机科学大楼里面导航。它们没有机器臂，所以对于很多简单的导航任务它们也会有麻烦，但你让它们很擅长寻求帮助。

答：是的，当我们意识到这些自动机器人也有限制时，我们也很吃惊。它们没法必须打开世界上所有的门，它们也不能理解世界上每一种口语。也许它们会随时间变得越来越好，但同样地，我相信人类也有限制——我说话有口音，我的网球打得没有其他人那么好——所以这些机器人也会有局限性。

我们很清楚这些机器人，这些人工智能系统最重要的一个特征就是识别它们不知道什么、不能做什么和不能理解什么，然后才向人类求救。你能按下电梯按钮吗？打开一扇门？或拿些东西放在我的篮子里，这就是我们所称呼的共生自主（symbiotic autonomy）。机器人能够对那些它不能做的、不知道的或不理解的问题自主地向人类寻求帮助。这是一种新的思路，我们将有一些围绕在我们周围并将寻求我们帮助作为它们部分任务的人工智能系统。

当这种系统实现规模化时，共生自主会以更复杂的方式发生。系统已经能用无线交流了，它在云端交流数据，或获得远程团队的协助。你可以认为人工智能系统能和其它所有事物永远成为一个共生系统，比如网络上的信息、其它人工智能系统和旁边的人类或远处的人类。它成为一个独立运行的人工智能系统也是完全没有问题的，但是一个人工智能系统要意识到什么时候它不知道、什么时候它需要信息、什么时候该用一些概率来思考问题都是不确定的。它不能预先解决所有问题，但它能依赖于周围其他的帮助来解决，这也就是我所设想的。

你怎样看待共生关系改变下已有的人工智能系统？

答：所以让我们返回去设想向人工智能求教怎样决策上哪所学校或投哪种健康保险。我猜想这些人工智能系统将在某种情况下需要一些人类没有提供的信息。人工智能系统也将意识到如果它们知道那些额外的特征，这将会帮助我们更好地决策。

真正有趣的是什么时候人工智能系统能自己认识到它们缺失了些什么信息。它们意识到是否能有更多的信息，是否能做一些明确的行为，例如它们是否能够预订那家网上订不到房间的旅馆、是否能给你订一个离开会地更近一些的旅店。我真的认为这种能力是很重要的，因为我不打算知道需要做某些决策的所有信息。

现在我们用的 Uber、谷歌地图或 Waze 通常对路线的的规划已经是做得很不错了，然而 Waze 会反过来问你「你现在饿了吗？我能给你一条最短路径吗？你喜欢走这条岔路看看更美的景色吗？」。如果智能助手知道我十分喜欢兰花、十分喜欢某种艺术那有怎么样？我只要稍稍地偏离路径，我就能看到更好的博物馆。它在路线规划中并不知道这些，如果知道这些，那么它一定会规划一条通过博物馆的路。

许多现在的人工智能系统专门从事某一具体的任务，如对象识别或路径优化，但是这就导致了十分孤立的专家系统。我很好奇为什么你想的是带领我们返回一种软件中更为泛化的智能。

答：通用人工智能问题是极端困难的，我也确信深度学习就是其要求的技术基础，深度强化学习也会为通用人工智能加把料。我们也在做许多这种理解迁移学习概念的研究。我们是怎样有这些算法的——是因为它们能够从事特别的任务，但同样还能学习更多其它东西吗？我们并没有真正理解人工智能，我们还不知道做很多的事情。按照算法与技术、泛化的方法和提供解释的方法来看，我们的人工智能还真正处于婴儿期，关于很多这些事情我们还束手无策。

我真的认为通用人工智能有一天能从聚合人工智能专家系统中诞生出来，就像 Minsky 描述的那样合并他们就成为了一种心智社会（Society of Mind）。你也可以用一些特殊目的的算法来解决特别复杂的问题，就像 Simon 和 Allen Newell 在人工智能刚开始研究时预测的那样。

所以通用人工智能是极其困难的，但因为现在这么多的数据它又是极其令人兴奋的。现在有很多人在使用电子设备并产生数据，而且越来越多的人在使用计算机、手机、Alexa 和 Uber，所有这些都给我们在研究通用人工智能铺平了道路。我们仍然还有很多研究要做，仍然不知道通用人工智能系统确切的样子，但是我们在一条正确的道路上。

你曾经担心过这种不确定性吗？有一些担忧是当人工智能超越人类的智能，那么人类也将会灭亡。

答：我完全是一个乐观主义者，我认为我们所做的自主系统研究（包括自动驾驶汽车和自主机器人）都是要求对人类负责的。在某种意义上，这是和技术毫无关系的。技术会发展，但它是由我们由人类发明的。它不是从外星人那来的，而是我们自己的研究。它是人类智能构思的技术，它取决于人类思维也充分地利用人类思维才产生。

我很相信这将发生，之所以我很乐观是因为我看到人类已经意识到了他们需要很小心地研究这些技术，同样我也意识到了。但是最好还是投资于教育。把机器人扔在一边，它会持续变得更好，但是聚焦于教育，人们知道其他人、关照其他人、关心社会的进步、地球自然的发展和科学的进步。解决所有这些问题、治疗癌症、终结贫穷等。很多和人类相关的事都能使用这种我们正在发展的技术去解决。

在某种程度上，人工智能的人文主义将最终能将我们凝聚到一起，所以我是很乐观的。