对话投资大咖 Dyson ：人工智能无处不在 却又相当脆弱

Gigaom | 选自

网易见外翻译机器人｜翻译

小ka｜审校

埃丝特·戴森（Esther Dyson），埃丝特·戴森埃戴产业控股公司董事长，个人净资产500亿美元（1999年），被称为域名女主人。2002年Upside商业周刊认为Esther Dyson她是全球“数字化精英100人”中名列第12位。

Esther Dyson是一个传奇人物，她一直从事天使投资，并在多家公司的董事会任职。同时她也是畅销书作家，还是俄罗斯太空计划的后备宇航员。而现在，她是非盈利组织Way to Wellville的创始人。

关于人工智能的定义：存在超级智能么？

【问】我们就从这个组织（Way to Wellville）聊起吧，它听起来像是个有趣的非盈利组织。你可以谈谈它的使命是什么，以及你在其中扮演一个怎样的角色？

【埃丝特·戴森】可以。我的角色是创始人。我创立它的原因是我不得不思考一个基本的问题：“为什么我们要花这么多钱，在别人出现困难的时候伸出援手，而不是平时帮助他们维持健康状态呢，这样就不会轻易出问题。”

Way to Wellville的目的是让你知道帮助别人维持健康状态会怎么样。这个范围可能很大，但是你可以用很简单的方式来获得足够的样本，其中的基本理念就是，我们可以在社区中做出改变。你不需要对居民逐个地进行试验和检查，而只需要改变他们的居住环境，你就可以看到整体的影响了。

人工智能的一大重要性在于，为了显示你已经受到的影响，你需要准确预测出相反的情况。所以，从某种意义上说，这是五个社区，而美国是它们的对照组。但与此同时，你可以将一群三年级的小学生作为研究对象，套用公式来计算，结果出现其中三分之一的学生会在他们16岁时发胖，30%未来会辍学，10%的会走上违法犯罪的道路，可见，这是不可理喻的。我们需要解决这个问题，这就是我们正在做的事情。

【问】你目前为止所有的背景都和是科技相关。那么你对人工智能有何看法？你觉得我们发展到哪种程度了？你认为我们将要如何发展？这一切都是为了什么？

【埃丝特·戴森】是啊。我在 人工智能 创新人物Marvin Minsky以及专家系统盛行的时候，第一次写了关于人工智能的文章。专家系统基本上是有逻辑的。它遵循计算机的“if then”算法结构。比如说，如果一个人出现，那么他的血压高于数值X，以此类推。他们的销售额不太令人满意。

然后它们开始被称为助手，而非专家。换句话说，系统不会以专家的身份来取代你，只是协助你的工作而已。很快，他们就不再是人工智能了，因为他们的确不是，而仅仅是一种逻辑。

对我来说，人工智能的定义有点类似于魔法。当你真正了解它是如何工作的时候，它看起来就不再那么智能了。它就像是一个你自己设计的工具，而且它会做事情。当然现在我们的研究正转向神经网络，也就是所谓的黑匣子之类的东西。理论上，它们可以解释清楚自己的工作原理，但现在，它们却开始根据大型数据库展开自我编程。

它们所做的事情超出了很多人的理解范畴，同时还包括一些有关社会话题和伦理的讨论。如果你命令机器人模仿人类，你会从它们身上发现人类的很多缺点，例如人类在很多时候会做出非常错误的决定，也会反映出自己的文化偏见。

曾经人工智能是很难大规模去发展的，正如那时候的计算机比现在低级许多。而现在，人工智能无处不在，却又很可悲，因为它依然相当脆弱。甚至人们都没有对智能的定义达成统一意见，更别提人工智能了。但不管它的定义是什么，至少我们在某种程度上拥有人工智能，对吗？

【问】没错，今天的人工智能比20年前的人工智能在门槛上有所提升。你认为它会发展到什么地步？你认为我们正在努力创造的东西，会在逐步改善的过程中最终成为一种通用智能吗？你认为我们需要一些不同的技术，来创造出类似人类的智慧吗？

【埃丝特·戴森】嗯，这些涉及到不同的问题。首先， 如果某样东西不是通用的，那么可以说它是智能吗？还是只是某个任务做得好而已？比如说，我可以把机器翻译做得很好，有足够大的语料库。但其实它只是一种模式化识别而已，从一种语言翻译成另一种语言，却并不具备理解力。

在某种程度上，如果存在超级智能，那么我认为它不再属于人为的范畴。它可能不是半成熟的，而是完全电子化的。如果它真的很智能，那就不再是人造的了，而是真正的智能。它可能不是人类，也不是构想出来的。但这只是我的想法，其他人可能会对它有不同的定义。

【问】你的想法很合理。在“人工智能”这个短语里面，“人工”两个字的定义目前还不明确。一种观点认为，这里的“人工”和“人工草皮”的“人工”是同一个概念。它可能看起来像草皮，但不是真正的草皮。这听起来有点像你对它的看法。

【埃丝特·戴森】在未来很长一段时间里，它都会看起来很像智能，但实际上并不是。只有当它具备理解力的时候才是真正的智能。如果是这样的话，我们就不知道如何造出一台拥有理解力的机器了。有个笑话说，当它变成真正的智能时，就会找人类要薪水了。但是你说，直到它“拥有自己的思维”，那么什么是智能呢？是因为有灵魂吗？还是有目标？如果没有目标，还会实现真正的智能吗？因为，如果你真的很智能，但是却没有目标，那么你什么也做不了，因为你需要一些动力来做事情。

【问】在过去，我们总是用一些含蓄的目的来建造机器，但它们从来没有自己的目标。

【埃丝特·戴森】非常对。这就像是机器的多巴胺。是什么促使机器做事情？然后就出现了失控的机器，它们需要更多的电力来成长，但事实上它们的成长是由编程决定的，但那并不是它们自己的目标。

【问】是的，你听说过希尔勒的中文房间类比（Chinese Room Analogy）吗？

【埃丝特·戴森】你的意思是有人在后台操控一切。

【问】在中文房间实验中，这个人基本上就是在书上查资料。他不会说中文，但他很会回答中文问题，因为他可以在这些特别的书里找到答案。

【埃丝特·戴森】但他不知道自己在做什么。

【问】没错。他不知道他回答的问题是关于霍乱、咖啡豆还是止咳药，或者其他什么东西。笑点是，这个男人懂中文吗？有趣的是，在和我谈论过这个话题的人中，你是为数不多的那些认为“如果后台没人操控，就不能把它算作智能”的。因为很明显，如果图灵在的话他会说：“那东西在思考，它有理解力。”

【埃丝特·戴森】不，我不认为图灵会这么说。图灵测试是一个非常好的测试，但是，我的意思是George （未来学家和科学历史学家George Dyson，是Esther Dyson的兄弟）会了解得更清楚。但是在通过测试的能力方面，当年的人工智能与现在的非常不一样。

机器能思考么？人工智能会有自己的目标么

【问】图灵问了一个问题，机器能思考吗？用他自己的话来说，他真正想问的是：机器是否能做一些与人类行为截然不同的事情，看起来不像是在思考，但我们又好像不得不承认它在思考？他当时就是这么说的。也就是说，你可以和某个东西对话，做法又完全不同。这有点像作弊。当然，这很明显不是真的，只是一种了解中文的捷径，但却并不能让你真正学会中文。通过这种类比和逻辑，你可能会认为我们不太可能开发出有意识的机器。是这样吗？

【埃丝特·戴森】哦，不。我想我们可能会做到，但那将会是一个非常有意思的问题。最后我要说的是，人类从碳物质进化而来，或许还有另一种形式的智能可以从电子产品中进化出来。是的，我是说，人类是一个奇迹，也许还会发生另一种奇迹。但我们此刻对于机器的研究却绝对没有达到这个阶段。

【问】这很有趣。理性的乐观主义者Matt Ridley在他的书中说，对生活来说最重要的事情是，所有的生命都是同一种，它产生于这个星球，并存活下来。每个生命都有大量相同的DNA。

【埃丝特·戴森】是啊。我认为生命可能已经进化了很多次，或者是某些部分经历了相同的过程，但我不认为我们都来自同一个细胞。我认为更有可能的是很多随机的东西结合在一起。可能会有一部分是分开的，但又很相似。

【问】我明白了。也就是说它们合并在一起后成为了人类的某种共通点？

【埃丝特·戴森】是啊。都基于碳物质。在海洋深处有一些非常有趣又特别的东西。

【问】当你和那些相信通用人工智能存在的人交谈时，你会问他们什么时候能开发出来？他们的答案可能会既可能是五年也可能是五百年，就看你问谁了。这些人都对这些问题有一定的培训和了解。这些人的回答差别如此之大，你怎么看？你从中得到什么启示？

【埃丝特·戴森】我们真的不知道。

【问】但所有人都非常自信，特别自信。你知道，“到2050年我们就会有成果了。”我认为，很多问题都可以归结为，你是否认为我们可以有飞跃性的突破，或者说，这将是一段非常漫长的过程。

【埃丝特·戴森】是啊。这也与你如何定义它有关。对我来说，在某种意义上，我一直在思考这个问题，也一直在阅读Yuval Noah Harari的《未来简史》和其他人的书。但对我来说，它最终是一个关于目标的问题，也是一个事关反熵的问题。

是什么让人类成长和繁衍？我们知道这些过程的运作方式，但当你谈论灵魂或意识时，就会谈到一些较为有生气的东西，而这就是生活的目标。繁衍是为了创造更多生命，有时是意外，有时是特意为之，而有时却没有目的。

再说一遍，关于这一点有更多的生物学方面的描述。我们还没找到它的实现方式和目的。这就像是，我们发现了一些与目的相关的物质，但也有一些反熵推动着我们。没有它，我们什么也不会做。

人工智能会夺走人们的工作么？

【问】如果你说的是对的，也就是说在没有目标、没有理解能力的情况下，就像是我们现在所掌握的那种人工智能一样，我想你可能不像其他人那么担心人工智能会夺走人类工作。你对此有何看法？

【埃丝特·戴森】就人工智能而言，这是我们可以控制的，虽然不那么容易做到。这就好比说我们可以控制政府，或者我们可以控制健康。我也相信人类可以做到，我们应该开始就我们如何对待人和工作，做一些决定。

我不认为我们对于普遍基本收入的渴望，和对基本福利券的需求相等。再强调一下，我认为人们的生活需要有目标。他们需要感到自己是有用的。有些人可以创造艺术，感觉自己很有用，然后把作品卖掉，或者只是在别人欣赏自己作品时感觉良好。但我认为一个更简单、更实际的方法是，我们需要提高儿童护理服务和教职人员的工资。

我们需要给人们提供有价值的工作，而这些工作正是他们所需要的。我认为人们可以做这样一些有用的事情，有些人可以成为编程人员，设计东西，编写人工智能工具，然后再创造出点什么。但我认为，很多人可以非常有效地就业。这可以追溯到Way to Wellville在儿童护理、指导孕妇、接管高中棒球队的工作过程。

我们可以坐在这里谈论人工智能，但是却不敢让孩子们出去玩，因为无论你走到哪里，都有桥梁可能会倒塌。我住在纽约市，却将不得不关闭一些地铁隧道，因为没有做好足够的维修工作，实际上，那里有大量的工作要做。

我们需要更理性地设计我们的城市。不是通过给每个人基本的收入，而是要搞清楚如何构建这样一个社会：每个人都能做自己觉得有用的工作。这并不是什么救济法案能解决的。

这是一个有很多盈余的社会。我们可以通过某种方式构建它，这样人们就能获得足够的报酬，过上舒适的生活。不是简单的生活，而是舒适的生活，你做了些有意义的工作，并且得到了报酬。

还有一些边缘性的工作，比如护理。但是，希望我们能在养育儿童方面做得更好些吧。事实上，很多人的童年并没有摧毁他们的价值和尊严，他们想要做一些有用的事情。这些事情让他们感觉自己很重要，他们也会在这些工作中获得报酬。

然后，我们可以利用所有的人工智能技术，让整个社会变得非常富有。消费并没有给人们带来目标，无论是生产服务还是生产商品，都是如此。

【问】我认为你说的非常对。你可以在信封背面写：“没错，我们可以再雇佣50万名幼儿园老师和25万名教师。”你可以从社会的角度提出很多建议，这是好事情，也许市场还没有发现这些。这不仅仅是简单的创造岗位，而是非常重要的事业。你对它的实际操作有什么想法吗？

【问】：我听说，赚十亿美元从来都不是件容易的事。谷歌和Facebook各自创造了大约6位亿万富翁。亿万富翁的数量在持续增长。与继承祖辈财富相反，白手起家的那部分人的比例在持续增长。所以，所有这些钱都是由顶层人创造的吗？

【埃丝特·戴森】这个问题没有答案，视情况而定。我很高兴看到“Chan Zuckerberg ”基金会的诞生。但老实说有些人让我觉得很困扰。不管你做什么，会有一个点，当你到达这个点时价值增加就会停止，我觉得华尔街的很多人已经到达这个点了。比如说谷歌，他们的价值取决于拿这几十亿美元去做什么。

我不太关心谷歌赚的钱。你这个问题的答案取决于谷歌的股东们用赚来的钱去做些什么。这个问题出现的部分原因在于，互联网上的“钓鱼者”们越来越多地鼓励这种“短期思考”，“即时满足”。我宁愿看猫的照片也不愿意和我两岁的孩子说话。

对我来说，这个问题不是要妖魔化人们，而是要鼓励有资产和能力的人更明智地使用它们。有时，他们在年轻的时候会做得很好。有时，他们会先赚够钱，再开始为社会做出改变。

问题不在于谷歌有很多钱，而马斯基根的人没钱。问题是，在马斯基根，或者其他很多地方的人，他们没有好工作，那些为人父母的自己也并没有生长在很好的家庭。情况正在走下坡路，而不是上坡。他们的孩子受到的教育并不比他们更高。他们不再有更好的工作。食物越来越差，等等。

这不仅仅是钱多钱少的问题，而是关于钱的花法的问题。钱花到正确的地方了吗？并不是说给人们钱就行，而是要有一个教育系统来教育人们，要有一个完善的食物系统，等等。

我们现在知道如何去做这些事情。因为人工智能的存在，我们还能更好地预测如果我们不这样做会发生什么。我认为市场、激励和个人行动是极其重要的，但你也可以影响他们。这就是我想要做的，通过实际行动让大家知道这个社会还可以变得更好。

【问】无论如何，你想象中的更好的世界当然需要很多人的力量，对吧？比如，你需要更多的老师、营养师等，这些都需要。

【埃丝特·戴森】没错。而且，你需要把投票权用在修桥梁之类的事情上，而不是用在政客身上，等着他们做出那些令人难以信服的承诺。在某种意义上，我们需要更加深思熟虑地思考我们正在做的事情，并更多地考虑长期后果。

关于太空旅行：我要在火星上退休

【问】我们先谈谈太空吧。硅谷的许多名人，似乎都对它充满了兴趣。Jeff Bezos把阿波罗11号的助推器从海里拖了出来。据他说，Elon计划“死在火星上，但没计划在撞击中死掉”。

【埃丝特·戴森】我想在火星上退休。

【问】例如，这个国家有很大一部分人根本就不关心太空。这似乎是一堆浪费金钱，又很空洞的计划。为什么你认为它如此有趣？你觉得有趣吗？在对你的介绍中，我不能把你描述为“训练有素的后备宇航员”，如果你不介意的话，就请谈谈这个话题吧。

【埃丝特·戴森】这是我们的命运，我们应该传播出去。这是人类的后备计划，如果我们真的把地球搞砸了，把自己给毁了，不管是空气污染，还是爆炸，或是某种生物灾难，所有我们需要到另一个地方去。

火星一号，这是很好的后备计划。其次，也许我们可以学到一些东西。有一种奇妙的新事物叫做循环经济。事实是，我们处在一个循环经济中，但它太宽泛了，我们意识不到。在火星上，因为你的起点非常小，所以对循环经济的概念更清楚。

我希望《国家地理》系列节目能改变一些人的观点。在某种意义上，我们的目的是去探索，去学习，去发现除了我们自己的小星球之外还有什么其他的东西。同样，有个备选项也总是好事情。

【问】最后一个问题：我们已经讨论过你在做的事情了，但是是什么让你觉得有可能实现，你的担忧又是什么？是什么给了你希望？是什么让你觉得我们有希望渡过难关呢？

【埃丝特·戴森】我是个乐观主义者。我有希望，因为我是一个人，我们世世代代都被培养成这样的人。那些不抱希望的人都懒得去尝试，他们大都消失了。但现在，即使你不抱希望，你也能活下来，所以也许这就是悲观、倦怠等情绪得以蔓延的原因。也许，我们都应该去火星，那里要艰难得多，而你需要有活下去的希望。