对话James Barrat：AI让人类巨富也变得不堪一击 | AI英雄

本文系网易智能工作室（公众号smartman163）出品，此篇为AI英雄人物第61期。

选自 | Futurism

编译 | 网易智能

参与 | 抹茶

我们正处于人工智能革命的风口浪尖，它将给我们带来巨大的利润收入，但同时也让人类变得不堪一击。――James Barrat

【网易智能讯 2月1日消息】本期对话嘉宾是畅销书《我们最后的发明：人工智能与人类时代的终结》（Our Final Invention, subtitled Artificial Intelligence and the End of the Human Era）的作者James Barrat（詹姆斯・巴拉特），他谈论了人工智能对人类工作的影响，以及人类与人工智能的比较等问题。

| 人类最后的发明

问： 您写了一本广受欢迎的书《我们最后的发明：人工智能与人类时代的终结》。您能跟我们大体介绍一下这本书的主要内容吗？

James Barrat： 当然可以。总体而言，人工智能是我们的最终发明，它被认为是一种具有双重用途的技术。所谓的两用技术就是一种可以既可以被用来做好事，同时也可以带来巨大伤害的技术。

目前，我们正处于人工智能的蜜月期，我们只看到了许多优秀的人工智能工具，未来还会有更多的智能工具即将问世。如今，人工智能可以比人类更快地发现X射线中的癌症簇。在商业分析上，人工智能可以做的比人类更好。人工智能可以做法律助理第一年做的工作，进行法律细节的搜寻。无人驾驶汽车将使我们的道路更加安全，因为我们不再需要开车了。因此，我们发现了人工智能很多非常有用的应用。

但是，人工智能是把双刃剑，首先，它将抢走人类成千上万的饭碗。目前美国约有500万个职业司机，700万个会计，这些工作将会被人工智能所取代。而这仅仅是众多将被人工智能所取代的万千工作中的一两个。

所以我的书的主题是，我们需要重新审视人工智能的本质，探索它的应用，弄清是谁在控制它。并且，从长远的角度来看，讨论一下未来我们是否能控制它等。

问： 史蒂芬・霍金表示，人工智能的问题在于短期内是由谁来控制的，从长远来看，我们能控制它吗？您怎么看？

James Barrat： 从短期来看，目前我们已经在人工智能领域遭遇了一些问题。例如，美国国家安全局利用人工智能可以轻而易举地访问我们的手机，查看我们的手机数据，获取我们的电话簿和通讯记录。这本质上是在窥探我们的个人隐私，而这在过去是违法的。过去，倘若我想要获取你的通讯记录，我需要去法院申请，直到得到法院的命令来可以获取你的通讯记录。你的手机和通讯记录隶属于你的个人财产和隐私。由于人工智能技术，美国国家安全局绕过了这一漏洞，“窃取”了我们的手机信息和手机数据。由于先进的数据挖掘软件，他们能够在海量数据中进行快速筛选。

在短期内，谁才是控制人工智能的人？现在有很多国家正在开发具有自主性的战地机器人和无人机。这些机器人和无人驾驶飞机可以在没有人类的控制的情况下杀死人类。这些都是人工智能的问题。

数据统计，目前有56个国家正在开发战争机器人，而其中最受追捧的则是具有自主性的战争机器人。近期，有一篇文章讲的就是某国海军陆战队的机器人如何在战场上控制机关枪疯狂扫射。目前人类可以用平板电脑控制它，但是人类研发的目标，就是让机器人具有自主性，可以自动射杀敌人。

我们现在以及未来所面临的问题，我可以用一个叫做“智能化爆炸”（intelligence explosion）的概念来解释。所谓的“智能化爆炸”是由统计学家I.J Good于20世纪60年代提出的。他说，“一旦我们制造出了方方面面优于人类的机器，届时它们会做的一件事就是‘繁衍’创造出更多的智能机器。”而目前的现状是，我们正在见证人工智能逐步开始比人类做的更好，不难想象，未来将有一天，人工智能将从方方面面超越人类，甚至在人工智能的研究上也优越于人类。“当这一切发生的时候，我们人类将不再引领智力发展的步伐，取而代之的将会是一种机器，将由它主宰未来世界的发展。”

但问题是，我们不知道如何控制机器，也不知道其认知结构，但它比我们人类的智商要高很多。到时候我们如何对待比自己聪明一千倍的事物的呢？

| 人工智能就像核裂变

问： 现在有些人说“人工智能”是恐怖的代名词，但是也有人说它和我们曾经运行过的其他计算机程序并没有什么不同，只是更好更快，而且只是在某一件事情上做得比人类好而已。您是如何看待的呢？另外，到目前为止，我们似乎还没有遇到什么人工智能的大麻烦。您认为未来什么将会激化人类与人工智能之间的矛盾，或者我们现在正在处理的问题上究竟有什么本质上的不同？

James Barrat： 我认为很重要的一点是，关于智力的分类有很多种。有情商、理性的智慧、直觉以及动物的智力。所以，如果说有什么会比我们人类聪明得多时，我会用另一种方式来解读：它将会更好地理解我们对智力的定义，它将会更好地解决各种各样的新环境中的问题，它将会更好地学习。

从另一个角度来回答你刚才提问的问题，包括电脑在内的每一项技术都有着不可预测的前景和风险。从人类会使用火开始，所有的技术，都是一把双刃剑。但人工智能却有着本质的不同。

对我来说，人工智能就像核裂变一样。核裂变是一种具有双重用途的技术，可以带来巨大的好处但同时也存在着巨大的危害。核裂变是原子弹背后的力量，也是核反应堆背后的力量。当我们在20年代和30年代发展它的时候，我们认为核裂变是通过分裂原子获得自由能量的一种方式，然后很快就被武器化了，然后我们用它来毁灭城市。然后我们人类作为地球上的一个物种，用枪指着我们自己的头进行了50年的军备竞赛，我们用核能威胁要让人类自己灭绝。

对我来说，人工智能亦如此。你说它一点也没有被用于邪恶的目的，那是不可能的。

所以我认为人工智能与人类智能的本质区别在于，智力是我们人类的超级力量，是造福人类的超级力量，并不违背人类的发展。这是一种具有创造力的能力，是发明技术的能力。斯蒂芬霍金在被问及“人工智能的陷阱有哪些？”时说道：“首先，他们能够开发出我们甚至无法理解的武器。”所以，我认为质的区别在于人工智能是可以再创造发明的一种人类以外的发明。

人工智能的时代已经到来，我们正处于人工智能革命的风口浪尖，它将给我们带来巨大的利润收入，但同时也让人类变得不堪一击。

| 意识之争

问： 你肯定听过Searle的“中文房间”这个实验，这被称为世界上著名的十大悖论之一。“中文房间”最早由美国哲学家John Searle于20世纪80年代初提出。这个实验要求你想象一位只说英语的人身处一个房间之中，这间房间除了门上有一个小窗口以外，全部都是封闭的。他随身带着一本写有中文翻译程序的书。房间里还有足够的稿纸、铅笔和橱柜。写着中文的纸片通过小窗口被送入房间中。根据Searle，房间中的人可以使用他的书来翻译这些文字并用中文回复。虽然他完全不会中文，Searle认为通过这个过程，房间里的人可以让任何房间外的人以为他会说流利的中文。

Searle创造了“中文房间”思想实验来反驳电脑和其他人工智能能够真正思考的观点。“中文房间”问题足够著名，这是Searle为了反击图灵设计的一个思想实验。房间里的人不会说中文，他不能够用中文思考，但因为他拥有某些特定的工具，他甚至可以让以中文为母语的人以为他能流利的说中文。根据Searle，电脑也是这样工作的：它们无法真正的理解接收到的信息，但它们可以运行一个程序，处理信息，然后呈现出智能的假象。但是，他是否懂中文？许多计算机世界的人会说“是”。

这个试验通过了艾伦图灵的图灵测试，但是显而易见，这个人并不懂中文。同样，电脑也是如此。通过了图灵测试，但是并没有思想。您如何看待这个问题？

James Barrat： “中文房间”的问题很有意思，你可以写一些关于它的书，因为它是关于意识的本质的。

我不知道机器是否会像我们一样思考，我认为关键在于它是否能像人类一样解决问题。当然，我们更不了解机器是否具有意识的问题。

我举个例子，2011年IBM Watson参加综艺节目危险边缘（Jeopardy)，并在该节目有史以来第一次人机大战中成功战胜人类，一举成名。众所周知，IBM Waston是认知计算系统的杰出代表，也是一个技术平台。在David Ferrucci还是IBM沃森团队的首席科学家时，他被问到一个非常具有挑衅性的问题：“当Waston在击败人类取得胜利的时候，它是在思考吗？”Ferruci的回答是：“潜水艇会游泳吗？”他的意思是，人类建造潜艇时，他们是通过模仿鱼游泳的方式来制造的。但后来他们创造了一种比鱼游得更远、更快的东西，并且有着巨大的有效载荷，所以它比鱼更有用。尽管它不会繁殖，也不会像鱼一样做一些神奇的事情，但就游泳而言，它比鱼要先进。

同样，飞机会飞吗？航空先驱们使用的是鸟类飞行的原理，但很快就超越了这一点，创造出了飞得更远更快的东西，并携带了巨大的有效载荷。

所以，你的问题有两个答案。 一个是，我不认为这很重要。第二，我不认为机器会像我们一样定性思考。 一方面，我认为这将会带来一定的威胁，因为我认为它不会有我们哺乳动物所具有的同理心。另一方面，它不会有太多的多愁善感，也不会有太多的认知偏见，而我们的大脑却在努力工作。但是谁也不敢保证，说它不会有意志。

在我的书《我们最后的发明：人工智能与人类时代的终结》中，我采访了Steve Omohundro，他是一个人工智能制造者和物理学家，他致力于发明创造了一门科学，用来理解超级智能机器。现如今，电脑并没有达到通用智能的水平，因为电脑并不具有意识。我认为，我们会创造出一种认知能力可以与人类相媲美的机器，甚至超越我们人类自己，在不远的未来，这些都是有望变成现实的。

问： 人类智能来自于我们的大脑，也就是人们所说的“银河系中最复杂的物体”。我们尚未搞明白大脑是具体如何高效运转的，我们不知道思想是如何被编码的。从宏观的角度来看，我们对大脑的运作方式知之甚少。但我们知道，人类拥有这些惊人的能力，比如意识，再比如人类几乎不费力就可以概括的能力等等。是不是意识的东西，我们无法去理解？

James Barrat： 意志是一个拟人化的术语，我不确定我们是否真的可以将其用于电脑上。

数据分析公司Gartner认为，人工智能领域由于投资的指数性，2009年以来每年投资数额都会翻倍。Gartner估计，到2025年，这一领域的投资价值将达到250万亿美元。

对我来说，这是两件事。一件事是，这将带来巨大的增长，以及这些系统将会有巨大增长。第二，我们正处在一个与众不同的时代，就像新的工业革命一样。借用未来学家凯文・凯利的话说， 未来所有被“电”改变的东西都会被认知化。

我们不能认为人工智能可以像钟表一样随时拆开，理解它的每一个部分。当Ferrucci在看IBM沃森系统的时候，他说：“它为什么要这样回答？”他的团队里没有人知道答案。把它和时钟进行比较，我认为这是一个错误的比喻。

当AlphaGo打败围棋大师，我开始认为玩这个游戏的时候，AI需要大量的直觉，这不仅仅是模式匹配，围棋需要更多难以定义的直觉。

我认为如果我们讨论的是一些古老的语言，比如Fortran、Basic、Pascal，你可以在这里查看每一行代码，并搞清楚发生了什么。深入学习、强化学习和人工神经网络是不同的。

| 奇点之争

问： 一方面，马斯克（Elon Musk）、史蒂芬・霍金很担心通用人工智能（AGI）的出现。另一方面，吴恩达（Andrew Ng）却说，担心AGI的事情就像担心火星上的人口过剩一样。有些人说，最糟糕的事情可能发生在500年之后。我很好奇，为什么他们对这项技术有截然不同的看法？你是如何理解他们所说的观点的？

James Barrat： 我第一次听说火星的类比是Sebastian Thrun说出来的，他说我们不知道怎么去火星，我们不知道如何在火星上生活。但是，我们知道如何让火箭飞到月球上，我们不能在火星上生活，但我们正在把它跟火箭放在一起，而且一些公司正在投入一些资金。他们确信，我们最终有一天将到达火星，那里将会有生活在火星上的人，然后人们将会创造另一个世界。

这是一个非常有趣的问题，我们何时才能在一台机器上实现人类水平的智能，如果有的话。

为此，我做了一个调查。这是一项有偏见的调查，调查对象是关于人工智能会议的参与者，然后我还看了很多民意调查。

库兹韦尔（Ray Kurzweil）非常善于预见技术的进步，他说2029年会实现。库兹韦尔现在为谷歌工作，他说他想要创造一台每秒能进行300万亿次计算的机器，并在网上与10亿人分享这一数据。这基本上就是大脑的逆向工程。每秒钟做300万亿次计算，这大概是对大脑的粗略估计。然后在网上与10亿人分享，这让超级智能成为一项服务，这将是非常有用的。你可以做药理学研究、高级天气建模和气候建模，你可以做武器研究，开发出不可思议的武器。

有些人说100年以后，我得到的平均日期是一台机器达到人类智能水平大约在2045年。加里马库斯（Gary Marcus）说，不管十年还是一百年， 更重要的问题是：接下来会发生什么？它会融入我们的生活吗？还是会突然出现？ 无论是50年还是100年， 当它出现时，我们如何保持自己的安全？

这是两种思考方式，一是有很多猜测，另一种思考是，接下来会发生什么真的很重要吗？

另外，我在《最后的发明》一书中写到：如果我们在一百年内无法实现，你认为人类会因此停止吗？或者你认为我们会一直在解决这个问题，直到我们解决它？

就像我之前说的，我不认为我们会在机器中创造出完全类似人类的智能。我认为，我们将在某种程度上创造出一种非常聪明、非常有用的东西，但我们却以一种非常深刻的方式，无法理解。所以我不认为它会像人类的智慧，也许它会像外星智能一样。这就是我的观点。

其实什么时候都不重要，直到我们到达目的地，我们才会停下来。如果最终我们将面对比我们聪明一千倍或一百万倍的机器。我们要怎么做呢？

| 当下的问题

问： 在较短的时间内进行预测总是比较容易的。从现在到2030年，您认为在接下来的十几年里会发生什么？

James Barrat： 聊未来，这好像是一场巨大的赌博，而且预测往往是错误的。

用凯文・凯利的话来说，所有的电子都将被认知化。人工智能的普及将极大地影响我们的经济。有了物联网，我们周围一切都会变得智能，我们的手机，我们的汽车等等。

麻省理工学院做了一项研究，引用了剑桥大学的一项数据，该研究称：“人类目前45%的工作将在20年内被取代。”并不是说他们会被取代，而是可以被取代。

但 如果人工智能在2025年可以产生25万亿美元的价值，就能取代任何做重复性工作的员工，包括医生和律师。

这一举措进一步削弱了中产阶级的地位，这不仅仅会影响在工厂工作或驾驶汽车的人，还包括会计、医生和律师。因此，我们将看到经济中巨大的颠覆，而巨大的财富是由越来越少的人创造的。

问题在于， 我们必须找到一种方法，让我们的大部分人口拿不到公司也会免于饥饿。人们已经提出了基本的最低收入（UBI），但要做到这一点，我们就需要税收收入。而大公司，亚马逊、谷歌、Facebook，他们在爱尔兰等地纳税，那里的公司税很低，所以他们不会为这个政策贡献什么。

因此，这里存在着巨大的不平等。我们必须直面这种不平等，不幸的是，这将需要政治解决方案，而我们的政治家是我们文化中技术落后的人。所以，我看到的是大量的失业。

我看到了人工智能领域的许多精彩之处，我也很乐意看到人工智能、机器人技术和自动化带来的就业机会。但最终的结果是，你看到世界上最大的代工制造商富士康安装了31000个机器人，在亚洲取代了30万人的工作。所有这些人都不能接受再培训，因为如果你做的事情是重复的，你能重新训练他们去做什么？

也许每100个人中就有一个可能是机器人工厂的楼层经理，但其他人呢？颠覆将来自于所有没有工作的人，没有什么可以重新培训的，因为我们的机器人也是机器人制造的。

一百年前，90%的人在农场工作，现在是10%。之前的工业革命夺走了就业机会，但之后这些人可以再培训，也可以去其他领域，因为仍有巨大的行业没有被工业化取代，还有很多体力劳动要做。其中一些人可以接受培训，进入管理和其他领域。

《机器人崛起》、《第四工业时代》这两本书指出，人工智能革命与以前的工业革命不同的是，人工智能在每个行业都能发挥作用。因此，它不像过去的革命那样，一个部门在某个时候被取代，有时间去吸收这些变化，有时间重新吸收这些工人，并以某种方式重新培训他们。

我的观点是，所有经济部门都将受到冲击。

无处不在的人工智能将会同时影响很多经济，同时也会出现一个巨大的混乱。而且，与过去不同的是，这些人如何被重新培训，重新成为就业岗位的目标，目前还不清楚。因此，我认为这与其他工业革命，或者说是技术革命非常不同。

问： 20年来，工业电气化的发展速度之快令人难以置信。用机械力量取代动物的力量发生得非常快。然而，这个国家的失业率仍然在4%到9%之间。除了大萧条，不管发生了什么破坏性时间，经济都能利用技术创造更多的就业机会。您如何看待这种观点？

James Barrat： 这是一个有说服力的论点。但是人工智能时代不一样。

当司机的工作被抢走后，你会对职业司机进行再培训吗？你会培训什么？所以我预计会出现问题，但我希望能感到惊喜。

问： 我还是不同意您的观点，就像1995年互联网刚起步，你刚听到这种概念的时候，能知道互联网创造了成千上万的工作吗？

James Barrat： 如果有人告诉你，这项发明会带来数万亿美元的价值，谁会想到呢？也许我个人无法想象下一波将创造如此巨大价值的浪潮。我可以看到人工智能和自动化如何创造出巨大的价值，但我只看到它进入了几个口袋。至少现在是这样。

后记：

希望人们接受教育，了解人工智能的前景和风险，准备好迎接即将到来的革命。这迫使企业要对人工智能的发展负责，而政客们要更加精明，投入一些资金，让人工智能的发展变得透明和安全。我们希望接触到与人类一样聪明的机器时，它们实际上是我们的盟友，而不是我们的竞争对手。（完）