深度 | 专访《西部世界》科学顾问：机器人可能会进化为有意识的物种

选自Flick

机器之心编译

参与：曹瑞、李泽南

HBO 雄心勃勃的新剧《西部世界》――描述了一个十九世纪牛仔风格的未来主题公园，其中遍布人工智能的角色「接待员」，自开播以来已经播出了五集，每周一更新。

在前几集中，我们已经看到了制片人乔纳森·诺兰和 Lisa Joy（他们是一对夫妻）如何在每个星期一用剧情戏弄观众的感受。通过五集的刻画，未来人工智能的行为方式跃然呈现在现代人的眼前。在第一季剧情进入高潮之前，Flick网站对本剧的科学顾问，奥克兰理工大学人工智能教授 Wai Kiang（Albert）Yeap 进行了一次有关人工智能的专访。

　　

正如我们所见，《西部世界》展示了小诺兰的深厚功力，那么它是如何写成的？让我们看看 Yeap 是怎么说的

问：看到目前的剧情，我们不知道「西部世界」是如何创作的，你觉得科学对剧情的设计有什么样的影响？

答 ：我得说从科学的角度来说，这是很有趣的。《西部世界》对于一个不研究人工智能的高学历人士而言――比如物理学家和化学家――是很有趣的。对于研究智能的人们来说，一些明显的 bug 会让他们有点出戏，我想。

问：那当然啦。作为一名专业人士，你可以评价一下接待员在「西部世界」里的设定符合你心中人工智能的未来吗？

答 ：他们干得不错（笑），接待员也很不错。一切都是人类的错（笑）。

问：我觉得我们未来会看到更多这种类型的剧作，顺着这个思路。你觉得《西部世界》中的人工智能是什么级别的存在？

答 ：对于《西部世界》中的人工智能，表现力是核心――这就是说必须通过图灵测试。我认为对于大多数人而言最重要的是需要让你觉得它就是真实的人类，这样的接待员才能让来客们满意。当然，我们不知道剧中客人是如何分清谁是机器人，谁是其他客人的，我漏掉了一点剧情。但剧中的接待员举止得体，而且它们遵从阿西莫夫的经典定律「机器人不能伤害人类」。

问：如果你是这部剧中的人物，你会发现什么能区分出人类和机器人的东西？

答 ：我觉得如果我在其中，或者任何其他人，在《西部世界》中如果没有被事先告知，那我们是看不出来的。所以我说机器人的表现很好嘛，它们让人真假难辨。

问：你看到剧中对机器人的能力，功能和权限的设定了吗？

答 ：是的，所以我说它们的表现很好，但对于一个故事而言，人类部分的描写就显得有些薄弱了。我认为目前剧中人物正在试图通过与接待员对话来控制他们。如果他们可以控制机器人，剧情就变得有点过头了。你不能用这种方法检查和分析性能。

问：这是因为通过图灵测试的机器人具有欺骗性吗？

答 ：不，只是因为这太复杂了。剧中机器人的程序非常复杂，你不可以简单地询问公园中的角色「你为什么要这么做？」然后期待它们可以给你一个可以理解的答案。其中的原因会非常复杂，它们不会遵循简单的逻辑。想象一下一些程序可以为这些机器人加入一点阴险的特征，让它们变得更加危险，同时也变得更加像人类（甚至最终变成人类）。这样，就变成了有一个超人正在创造和控制这些机器人。一旦你创造了西部世界，你就难以分析其中的人造角色了。

问：当你在设计一个和《西部世界》中的人物一样复杂的物体，你认为创造者会在其中加入一些人类的特质吗？

答 ：你能说的就是在程序当中可能会出现一些出乎意料的行为。如果你允许它们学习新的信息，学习怎样在不同的情境下表现的话，确实是这样。这也就是危险的所在。机器人可以在人类没有意识到的情况下进行学习，并且表现出很多不同的行为。它们很快就可以有能力做到这样的事情，它们选择怎样表现也就变得无法预料。

问：如果在《西部世界》中，一个进化程序被故意设定开始运行，这会让你感到不不安吗？

答 ：在回答这个问题之前，弄清楚设定「一个程序的进化过程」（an evolutionary process in motion）是什么意思非常重要。简单地说就是允许这些机器人自己接受（无限制的）信息，并且选择它们认为合适方式来改变自己的行为。这样一来，进化的就是它们的行为。潜在的过程基本上是一样的。机器人所进行的就是我们所说的符号到符号的处理（symbol to symbol manipulations）。如果是这样的话，我会觉得非常不安。如果它们来控制我们，想一想我们居然被机器统治。这部电视剧中对这一过程的描述从科学的角度来讲是非常薄弱的。在电视剧中，这些机器人慢慢发现了自己是谁，并且认识到人类正在尝试修复它们。而我认为，这不可能发生。如果机器真的这样做，它们可能会立刻展现出一些「疯狂的」行为，一个个被「消灭」。那个用石头砸自己头的流浪机器人可能就是感到迷惑的一个，我喜欢那一幕。

问：似乎在这部电视剧当中，不只有一位人类科学家想要赋予这些机器人高级的意识。如果人类这样做的话，我们应该感到担忧吗？

答 ：再次说明，当你说到他们正在尝试要去做什么的时候，事实上他们并没有那样去做。剧中科学家们正在做的事情是让它们可以「进化」，产生一些更加有趣和让人意想不到的行为。正如我之前说到的，如果这些科学家真的按照你说的方式去做，他们能够控制这些人工智能的时间也就不会太久了。这种行为很危险，也不是什么好事儿。也就会成为像我之前说到的一样，被机器所统治。可是尽管它们能够展现出复杂的行为，它们仍然还是机器。可惜的是，大多数电影描绘的都是人工智能的这一方面，让人工智能看上去很邪恶。另外一种可能，也是更加复杂的一种可能就是让机器加速人类的进化过程。这样，我们就会跨越物种，从生物进化为机器。但是我们首先需要要去认清我们是谁，我们是怎样从原始物种进化到现在的状态的。

问：考虑到这一点，你有没有猜想过，或者说你有没有一些想法认为哪些故事情节可能会在这里上演？

答 ：最有可能的是，机器人会开始学习成为一种「有意识」的物种，之后他们有可能会取得控制权，或者是在人类和机器人之间创造出一种复杂的相互作用。

问：你认为人工智能拥有一定程度的能力已经是一种必然了，是这样吗？

答 ：是的，但是就像我之前所说，虽然它们的行为和人类一样复杂，但它们也仍然只是机器。

问：那么对我们来说，对待人工智能最好的方式是怎样的呢？从一方面来讲，我们是不是不应该让它们的能力超出某一限度？或者还是说我们应该继续追求那些只能在实验室环境下研究的高度受限的人工智能？

答 ：对于我来说，最好的方式就是使用人工智能科技来帮助我们将心智神秘的面纱一层一层地揭开。如果我们继续使用人工智能科技创造拥有复杂行为的机器，那么它们就会像霍金教授所预言的那样摧毁我们。像《西部世界》这样的游戏太危险了。

问：如果要和一个自己拥有人工智能的机器人或是一个被远程人工智能控制的机器人互动，你认为在这种情境之下，人类的生命会面临危险吗？你会怎样去尝试控制这些风险？

答 ：同样，这取决于你对机器人的警惕放松到了多大程度。如果你控制了他们的学习能力，那就不会出现什么问题。问题的源头就在于它们是否拥有自我学习的能力。

问：在这部电视剧当中，有一个编程策略是让每一台机器都可以在一个狭窄的框架之中在白天完全自主，控制自己。这样让它们自己运行，但是又给它们设定了一些限制的方式，你怎么看？从一个非专业人员的角度来看的话，这让我感到有点不安。

答 ：如果说你为它们设定了一系列的行为，让他们从中选择的话也是可以的。如果我们对此进行限制的话，你会很安全，但是就没有那么有趣了。确实在现实世界当中，一些公司出于盈利的目的，会放松对人工智能的限制，让它们可以展现出更多有趣的行为。可这样的话，我们可能就会面临大麻烦了。

问：我在看电视剧的时候，想到其中一件最危险的事情就是人类用对待同类的方式来对待机器人。所以说，如果你可以谋杀或是强奸机器人，这会改变我们人类互相之间的关系吗？

答 ：是的，当然。因为它们太过于真实，这会影响我们与机器人的关系以及对它们的感觉。我们会越来越觉得它们像人类――因为就像我所说的，从机器人层面来说，我们无法对它们进行区分。另外，你问到人与人之间的关系，我只能说我不太了解。

问：如果你有反社会的冲动或是行为，在人工智能方面付诸实践是不是一个好主意？这样的行为应该受到鼓励吗？

答 ：我认为我可能还没有资格来回答这个问题，但是如果你让我做一个猜想的话，我的回答应该是否定的！

问：那我们换种方式来说吧。假设你是一个机器人研制方面的工程师，看到它们被对待的方式，你会喜欢吗？

答 ：我认为这取决于你创造机器人的用途是什么。

问：对于这个节目，你还有什么特别想要讨论的东西吗？

答 ：是的。我一直在想这些接待员是怎么具备原始意图/意识的。在《西部世界》当中展示的是这些接待员是怎么突然有了「知觉」，但是否确实有一些「特别瞬间」让我们意识到它们是谁。这和处理其他情况或是产生一些反应有什么不同呢？

问：对于说这样的改变会最终成为现实的说法，你怎么看？

答 ：很困难，对于人工智能来说明白它是怎么来的是关键，就像圣杯一样。我们是怎样具备原初意向性（original intentionality），或者是一些宗教人士所说的人类灵魂。像我之前所说的，我相信使用人工智能科技能够揭开思维运作的秘密。或许之后我们就能够了解真相。

问：如果看到这样的科技被用到了游乐园而不是一些科学领域，你会感到惊讶吗？

答 ：不会，一点儿都不惊讶。事实上，我也有一个问题想要问你，我想问一下《西部世界》的地址。

问：我们都想尽快去那儿，是吗？

答 ：你也想去吗？

问：当然了。你不会感觉不舒服吧？你确定是 100% 安全的吗？

答 ：是的，当然。

问：你在追求知识的过程中也花了很大功夫，是吗？

答 ：肯定，那是当然。我一直在进行观察，尽力想要找到这个迷宫。「笑声」

©本文由机器之心编译， 转载请联系本公众号获得授权 。

　　 ?------------------------------------------------

加入机器之心（全职记者/实习生）：hr@almosthuman.cn

投稿或寻求报道：editor@almosthuman.cn

广告&商务合作：bd@almosthuman.cn