在全球人工智能高峰论坛上，我们听尤瓦尔·赫拉利聊起 AI 和人类的关系

我们应该怎样借助人工智能的力量推动社会发展？人工智能技术会怎样代替人类的工作？未来城市究竟和人工智能有什么样的关系？

关于这些问题，在 7 月 9 日杭州市人民政府主办的主题为「未来已来」的「全球人工智能高峰论坛」上，我得到了一些新的答案。本次大会上，汇聚来自科技领域的最具影响力的科学家以及学者们，他们对上面这些问题作出了诸多探讨，而演讲台的话筒完全交给了他们。

图灵奖获得者、康奈尔大学教授约翰•霍普克洛夫特 (John Hopcroft)，讲述了人工智能数十年来的发展以及快速崛起背后的深刻含义，并对比了中美关于人工智能研究方面的异同，他认为「中国和德国在政府层面对于正在发生的科技变革有更多的意识。不过中国关注更多的是人工智能的应用而不是背后的理论，美国关注更多的是它背后的理论，这是教育系统上的区别。」所以应该考虑改变教职工和学校的评估矩阵，对基础研究领域投入更多。

阿里巴巴技术委员会主席王坚，则讲到「人类历史上最伟大的发明就是城市」，所以人工智能对于城市智慧化发展将会具有深刻的影响，并认为等到「大脑被连到互联网」的时候，将会是人类新的开始。

本次演讲中，《未来简史》作者尤瓦尔·赫拉利的内容也非常引人思考，作为《人类简史》以及《未来简史》的创作者，他通过人类历史的简述和生活体验的类比，探讨了人类从诞生以来将要面对的最深刻的一次变革——AI 革命，认为人类从「有机体变为无机体」后将会「走出地球之外」。

在尤瓦尔·赫拉利看来，人类发展到现在研究的人工智能虽然发展迅速，但不过是对于「智能」的研究，并没有触及到「意识」的层面，因为人类自己也很难知道意识究竟是什么。所以，当我们讨论人工智能时，应当明白这背后的危险性是我们自己的意识，要尝试去了解人类的喜怒哀乐的表现到底是最难得，同时也是很重要的。

因为演讲内容较长，前面不过多赘述，感兴趣就直接来看看尤瓦尔·赫拉利当天的演讲：

---

我今天想跟大家说的，是人工智能和意识的关系。人工智能和人工意识，处在很伟大的变革边缘，这不仅仅是在历史上，实际上也是从地球有生命开始最伟大的一个变革。

地球诞生大概在 40 亿年前，40 亿年是一个很长的时间，但人类生命的变化当中没有什么发生了根本的变革，所有都是自然的选择而最终导致的结果。不管你是很小的泥巴虫，还是很大的恐龙。或者说，你可能只是一个人，你都参与到了这样的自然选择过程当中，因为你是有机物组成的。

而现在的变革，特别是 AI 以及生物科学的发展，在未来几十年，会改变人类变革的基本原则 。我们的生命会由智能设计而控制，这并不是神所做的智能设计，而是人类的智能设计，是电脑、云计算所驱动的革命。同样，我们的生命会从一个有限的有机体变成无限的无机体。我们现在要创造第一个无机的生命体，这个生命体会超出我们的想象。

另外一个革命，是第一次走出地球以外 。40 亿年来，生命都是存在于地球上的，因为物竞天择适应了星球的特别环境，所以不管是对人还是植物，它都没有办法在外太空生活，不论在月球，还是在金星，我们没有办法适应。所以电影中看到一个人坐上宇宙飞船搬到另外的星球生活，那只是电影，是科幻。但我们从有机体到无机体，从机器人到人工智能的过程，将会让我们在其它星球上生活变得可能，也变得更加容易。

人类需要重新认识工作

这样的变革对于人类来说会有很大影响，特别是对经济、政治。最明显最快速的就是在就业市场。因为随着 AI 发展，它会在很多任务上超过人类的表现。从驾驶到医疗诊断，成千上百万的人会没有工作。因为你不再需要出租车司机、卡车司机。

就像 19 世纪的工业革命，创造了新阶层，也革除了旧阶层。 21 世纪 AI 的革命同样也会创造一个不工作的阶层，或者无用阶层 。他们没有任何经济价值，也没有任何政治力量。这件事可能会在未来几十年发生，所以我们今天就要非常严肃的思考这个问题。不仅仅是为了开发新的经济模型，或者政治模型来解决这个问题。同样也是因为我们需要决定，对于今天的孩子来说要教他们什么，这样的话他们就会有工作，20 年之后会有相应的技能。

一个坏消息是，没有人知道未来的就业市场会是什么样。所以没有人能够预料我们未来的孩子应该学什么。 今天做的很多工作到 40 年，50 年之后，肯定会被取代 ，他们需要重新改变自己，并在有生之年不断学习。 我们要教给孩子的内容，是让他们有一个心理的灵活度 ，一个平衡度，如何不断适应自己的心理状态，适应生活。 因为对于世界而言，最大的不变就是变化 。

人工智能也会在情感智能上比人类更出色， 人类最后一道防线就是机器人、计算机还没拥有情感智能 。如果说医生这个职业，计算机比人类在医疗诊断方面更好，它们可以非常迅速去处理和搜索海量的医疗数据，那么 AI 很快会比人类医生表现更好。但有人说我们还是需要人类医生，因为你跟医生有情感交流，医生有情感智能，可以非常好的识别出病人的情感，喜怒哀乐，并很好的照顾病人情绪，这是世界上任何一个好医生都能够做的事情。

但就算是诊断心理上的疾病，人工智能也可能比人类的医生更好。因为 情感到最后其实也是一个生物模式 ，人类的医生要如何去识别一个病人的情绪状态呢，基本上他们会分析一些信息。从身体状况的表现和身体发出的信号来判断情绪，比如我讲的话和表现出的表情，识别出病人脸部肌肉上微妙的变化。从愤怒的脸到悲伤的脸，或者到开心的脸，他们会有细微局部的肌肉变化，医生才可以识别出病人。

人工智能也可以识别一个人愤怒的语调，或者快乐的语调，这叫模式识别。人工智能会比人类医生在未来的语音识别、脸部识别上做得更好，可以更好监督病人外部的一些表征，身体的一些动作，脸上的表情。人工智能可以比人类医生做更多，甚至是人类医生从来没做过的，也就是可以实时监控人类身体内的一些情况。我的血压，现在的心率，大脑部分的活动。 如果把 AI 和生物治疗传感器连接在一起，人工智能会比人类更强大 。甚至在情感智能上更胜一筹，可以更好回应人类情绪上的一些反应。

研究人类意识能够帮助发展人工智能

但有一件事情，人工智能是不能够和人类媲美的。 这件事情在不久的将来也是会不断保持这样一个状态，人工智能在这方面不能战胜人类，那就是我们的意识 。现在你会看到很多智能上的融合，但是 人们对于智能和意识的定义还比较模糊 。我想和大家说一下两者的区别， 智能是解决问题的能力，比如说要诊断一个疾病，找出最好的诊断方式，解决问题需要智能 。

意识，在另一个层面来说是感知外部世界的能力 ，感受到快乐，感受到愤怒，感受到爱情等等。对于人类或者其他哺乳动物来说，都是通过情感，通过意识、感受来解决问题。它们是使用智能和意识的综合体来解决问题，我们看到这两个词会感到很困惑，而过去人工智能还没有发掘出意识，它们只是不断的发展智能。它们在意识上的发展是零，计算机在很多方面都会比人类好。比如说解决问题方面，但它们不能解决一些人类使用意识和情感感受来解决的问题，这是人工智能不能够达到的。

我认为大家对于这两个词有很大的误解，可能因为受到很多科幻小说的影响，我个人也非常喜欢科幻小说。但我认为有些科幻小说会带给大家很大的误解，让大家错误的了解什么是智能，什么是意识。因为科幻小说把一些事情都颠覆了，颠倒了。在很多科幻小说中讲到了机器人、计算机、人工智能，说计算机和人工智能得到了一些非常复杂的意识能力。它有了感觉，它有了情感。要么就是和科学家坠入爱河，要么变得非常愤怒，想要毁灭人类，这是 95% 科幻小说的情节。

他们对于 AI 的理解是错误的。因为到 2017 年为止，我们没有根据认为计算机会发展出意识，或者说计算机需要发展出意识来超过人类。也有可能计算机会不断演进，不断发展，朝着超级智能体的方向发展，但这是通过不同的方式。哺乳动物也在不断的进化演进，变成越来越智能的哺乳动物。过去几百万年也渐渐发生、产生出了意识。而计算机是采用了截然不同的路径，达到了和人类、哺乳动物一样的结果。

哺乳动物的演进历史是非常漫长的，他们需要几百万年的历史。而电脑、计算机，它们采取了捷径，在短短数十年采用了截然不同的方式，并发展出了极高的无意识的智能。我们正在经历这个大的发展，也许过几百年，几千年，人类会和机器融合在一起。

为什么计算机现在还没有意识，是因为人类作为计算机的创造者，对于意识的理解和它的含义知之甚少。我们对于大脑的理解，对于智能的理解是越来越多的。 我们知道通过智能可以创造出智能的机器，但是我们不理解什么是意识 。所以到现在为止，我们还不能够创造出一个有意识的机器。

意识不是一个有机体，它不像是我们的手、眼睛或者是腿。意识是一个主观的东西，像爱、疼痛、愉悦这种感觉。而这种感受是一个接一个的，比如说爱恨交织，或者愤怒交加，这才是组成了大脑意识的元素。

所以大家对于意识和大脑其实也有困惑，它们两者是互相关联的，但它们不是同一个东西。大脑是什么呢，它是一个非常复杂的组织，里面有很多神经元，很多化学物质。意识控制的是主观的信息流，我们每时每刻都感受到一些感觉，恨、爱。它不是非常形而上的东西，它是世界上最普遍的东西，也就是我们每时每刻所感受到的，这就叫做意识。

现在一些科学的结论，尤其是生命科学中，解释了大脑、意识，并说意识是从大脑中得出的，大脑产生了意识。它也解释了大脑是一个生物化学的载体，让我们能够处理数据，做出决策。

总结一下，在过去 150 年生物化学研究中，从达尔文开始，人们得出的是，生物体就是算法，这是一个最大的理论结果，是进化论的精髓。生物体，比如说人类、哺乳动物，都是算法。他们是机器，处理数据的机器，做出决定。所以我们的感受，我们的感官是这个大算法中的一部分。

意识研究依旧「前路漫漫」

那么，到底是什么感情，它该如何处理，如何做出决策，如何计算，如何处理这些数据。我们想象一个非常典型的问题，生物体每天都会面对的一个问题：狒狒在非洲的大草原上，他看到前面一棵树上有香蕉，它想吃香蕉。但是在树的不远之处还有一头狮子，现在狒狒面临两难的抉择，它需要做出一个决策，去拿香蕉，可能就会被狮子吃掉。或者做另外一种决策，这种问题的本质其实就是数学计算可能性的问题，到底哪个可能性更大。

如果狒狒不吃香蕉，死的几率多大。如果它吃香蕉，狮子吃掉它的可能性有多大，必须要计算两者的可能性谁更大。所以我需要去采集很多数据，关于香蕉的数据，上面有几个香蕉，香蕉的大小是多大。它们是青香蕉，还是熟香蕉，这会有完全不一样的结果。然后看一下狮子在哪里，是大狮子还是小狮子。它是刚吃过饭还是很饿，所以要采取一些数据，还要评估自己的身体到底有多饿。计算这个可能性可以帮助它做正确的决策，这需要几秒钟的时间收集数据，然后再做出决策，那么狒狒到底要怎么做呢。

它没有拿出一只笔一张纸计算可能性，所有狒狒的身体结构、意识、神经网络、大脑，正在不断的进行计算。在几秒钟的时间，它已经获取了大量的数据，对于这些香蕉树或者狮子的数据。并且在它的大脑中，数百万的神经元正在不断的燃烧，计算可能性。最后的结果不是数字的形式出现，它的结果是以一种情感，一种感受的形式出现。如果说被狮子吃掉的可能性太大，它就会产生一种非常害怕的情感。狒狒可能会逃走，感到很害怕。

如果说这头狮子在睡觉，有很多香蕉，它就可以去采香蕉，它的决定非常有勇气。狒狒就会挺起胸膛，爬树上吃香蕉。这是现在关于意识，关于感受的一些理论来源，它的例子能够帮助我们计算各种可能性，并且得出最后的结果，这也是世界对于我们生活的一种行事方式。

还有两个问题，在这个理论当中还有一些漏洞。我觉得 科学的想法是对于宗教相悖的 ，宗教想要无所不知。科学对于不知道的知识是敬畏的，如果说有一些东西不知道，科学家会做出研究得到答案。在讲到意识和认知时，还有一些是我们不知道的，我们并不知道大脑是如何产生认知或者是意识的。我们可以找到其中的相关性，可以看显微镜或者扫描，看其中的联系。但我们不知道的是它到底是怎么发生的，也就是意识到底是怎么样做到的。

有上百万的神经元在发出相应的信号，是怎么样导致害怕、爱、疼痛的感觉，这方面我们一无所知，我们还不知道一个好的理论。讽刺的是，我们能很好的了解大脑，但我们为什么需要这个认知？很多年之前，当我们对大脑一无所知时，认知可以很容易做相应的解释。为什么狒狒从狮子那边逃跑，因为它害怕。为什么它想要吃香蕉，因为它渴望这个香蕉。

现在我们能够做更好的解释，并且能够明白神经元发出信号和处理的过程。狒狒看到一个狮子，然后一个神经元发出信号，到另外一个神经元，最后再到腿，让狒狒开始逃跑。我们做的研究对于认知有了更多的问题。如果没有这样的现象，没有主观的感知，可能神经元就没有发出信号。但它发出这个信号，是不是因为它有害怕的感觉呢。还是说只因为我们心理的感知，我们在这方面一无所知。

大概不久之前刚刚出来的一个理论：我们需要认知，是为了创造对于这个世界的理解，或者说大脑的理解。并且把我们自己放入到这个世界当中，如果说我是一个动物，我想要知道这个世界是怎样的，这样的话就需要大脑来让我有这样的意识。

随着人工智能的发展，我们知道可以在没有意识，没有认知的情况下做到一些东西。就像无人驾驶汽车可以在非洲大草原上跟动物一样奔跑一样，它可以在地上跑，但也需要地图。它需要一个自我处理系统，但它在这方面做得很好，不然也没有办法安全在道路上行驶。可实际上它并没有认知，无人驾驶的汽车可以和其它汽车做一个沟通，但当一个大卡车过来时，它并不会感到害怕。

我们对于认知的了解缺少相应的方法，或者是工具 。如果我们想要研究大脑的话，就有很多非常成熟的工具。比如说有核磁共振、显微镜等等。用这样一些工具，我们可以看到这个神经元在动作。但却看不到我们的感觉，或者说害怕、痛苦、爱。

所以今天，我也不知道未来会怎么样，在 2017 年唯一一个能够接触到的认知，就是我们自己的认知。我可以看到你们的大脑，可以研究你们的大脑，而且是用非常成熟的工具，但是我却看不到你们的认知。我没有办法直接接触到你的感觉，你的情感，这是非常难的科学研究。

尝试更多方法的努力

科学最基础的一个原则，是在做研究时需要直观的看到它。认知呢，我们没有办法看，没有办法直接观察，唯一能看的就是我们自己的认知。如果说我们想要看认知时，可能会被恐惧、爱、愤怒所覆盖。

有一些比较古老的文化，在中国，在印度，或者在世界其它的地方，他们在几千年前开发出一种方法，能够帮助我们系统的观察自己的大脑，这种方法就是冥想。冥想一般都是和宗教相连的，很多情况下都是这样的。冥想实际上是一个工具，特别是对于这些邪教或者宗教的工具，但并不意味着这是它唯一的功能。比如我们可以使用书，科学家也可以使用书，科学家也可以试着用冥想的方法直接观察认知发生了什么。

我自己的一个例子。在牛津大学读博士时，我学到了维帕萨纳冥想。冥想的技能，在生活当中不管发生了什么，它都和身体感知连接得非常紧密。观察认知的方法就是观察身体的感知，因为认知和世界的联系中都有感知在其中。对于外部发生的事情都有感知，不管是气候变化还是邮件上看到的信息，或者是新闻，或者是过去的记忆，都会做相应的反应。

认知唯一感受到的，唯一做出反应的是自身身体的感知。所有生活当中发生的或者即将发生的，你都会有身体的感知，并且做出相应的反应。不管是说产生渴望，或者说快乐，或者说不开心的感觉。或者你不喜欢，你都会有感觉，这就是为什么在外界发生了同样事情时，不同的人会有不同的反应。

比如说在 2001 年「9.11」时，成千上万的人在电视上看到恐怖袭击的发生，发生在纽约的世贸大厦。但并不是所有人的反应都是一样的，有的人感觉到害怕，有的人觉得非常生气。甚至有人会感觉到非常开心，特别你就是那个恐怖组织的成员。同样一件事情，你的反应却不一样。因为在电视上的画面和你大脑的反应之中，这中间是有一个不同的身体感知。我们的恐惧对于厌恶、开心、爱的感知是不一样的，所以要调查来研究认知。

比如我要对愤怒了解得更多，为什么我要愤怒。通常我们看到外面的世界，来找到为什么我会生气，谁让我生气。这实际上是从外在关注愤怒，可能有人说了你不喜欢听的，才让我非常愤怒。这样的话，我需要对这个人进行控制，或者对这个情况进行控制。这样的话，我就不会再有这样不开心的愤怒感。但如果说你真的想了解到底愤怒是什么，那么你就需要观测在身体里面到底发生了什么时候，特别是在我感到特别生气时发生了什么。

有人四十、五十岁了，但他从来也没有观察过愤怒的基本过程。他们没有花过哪怕 5 分钟的时间，来观察到底愤怒是什么？我的认知或者身体当中对于愤怒是一个什么感觉？如果观察的话，会发现包括痛苦，这都不是外界世界的感觉，是认知生成的一种感觉，它是一种反应。

我并不是在说不要研究大脑，或者说智能只去研究认知，意识。 我们需要找到很多好的研究，通过大脑的研究与智能联系在一起 。认知，就像是硬币的另一面，像在挖一个地道，如果从两边开始的话会更容易一些。我们的大脑和认知就是硬币的两面，我们现在还不知道它们具体的关系，却已经知道它们就是硬币的两面。我们也知道它们并不是一样的，同样会花一些精力来研究认知或者意识，而不仅仅是着重于智能或者大脑。

了解认知或者意识是非常重要的。因为这其中所蕴藏的是人工智能会带来的巨大变革。我们要用这力量做些什么？作为历史学家，我在看历史时，看到的是在几千年前人类在获取权力上都做得非常好。但在权力转化为快乐方面做得并不是太好，我们并不知道怎么做。这就是我们比孔夫子那个时代、石器时代的人更有权力，但并不意味着我们比那个时候快乐上万倍的原因，因为这和认知相关。我们比祖先拥有更多，也期待更多，这也是人类认知对于快乐最大的反应。

我们的认知，对于快乐最大的反应是渴望得到更多。不管能够达成什么结果，或者能够拥有什么权力。如果我们没有办法了解或者改变认知的更深层次结构，那没有什么让我们最终满足。这当中存在着危险性，我们对于这样的创造和建造越有权力，就越会成为不容易满足，且不负责任的一群人。（编辑：早优夫斯基）

谢谢大家。