专访奥巴马：政府应该少插手，多投入研究经费在人工智能上

很难想象除人工智能外还有哪项单一技术更能够如此有力地帮助我们构筑未来的世界。深度学习使我们的电脑可以进行自主的学习，随后从医疗诊断到自动驾驶汽车，一大波的技术突破不断涌现。当然，人们的担心也随之而来：这些技术掌握在哪些人手里？它会让我们失业么？它的危险性怎么样？

美国现任总统奥巴马正努力希望能够解决这些来自人们的疑虑。近日，奥巴马就和MIT媒体实验室的主任——伊藤穰一（Joi Ito）一起在白宫接受了WIRED的独家专访，就人工智能所带来的希望、恐慌以及存在的泡沫发表了自己的观点。 

Q：你大概是在什么时候开始意识到人工智能的时代正在降临？

奥巴马：我自己的观察是人工智能已经以各种方式进入了我们的生活中，只是可能我们还没有觉察到。当然，还有一部分原因是，我们很多人所理解的AI其实是被流行文化所着色过的。或者很多WIRED的读者已经很熟悉这方面的问题了，我说的是有关于通用人工智能（generalized AI）和专用人工智能(specialized AI)之间的区别。

在科幻小说中，我们应该都听说过通用人工智能。计算机开始变得比我们人还聪明，最终让我们知道人类并非我们想像的那样无所不能。甚至还有可能它们会控制我们。根据我和我最顶级的科学顾问进行的交流，我自己的感受是距离计算机比我们人类还聪明这还有很长的一段距离。

当然，上面我们说的也还是值得去深思的，因为这能够延展我们的想象力，那我们不断地思考关于有可能面临的问题，以及我们应该如果去使用算法和计算机来进行专用人工智能的开发，以解决不断出现的复杂性难题。

在我们生活的方方面面，我们已经可以看到很多的专用人工智能的应用，从医疗到交通，再到电力供应。它们的出现让我们看到了一个更具生产力和高效的经济体系。如果这些都能够被妥善的利用，将会产生催生出巨大的繁荣和机会。与此同时，我们也不得不面对一些随之而来的，像人员失业这样的问题。它们有可能加剧社会的不平等。

伊藤穰一：这可能会让很多我在MIT的学生们感到压力山大。但我自己在当中的一个担心是：男性，尤其是白人男性，正统治着AI的核心技术。并且，比起和人类交流，他们和计算机交流时显得更轻车熟路。他们中的很多人认为，如果他们可以达到科幻小说中描绘的蓝图，能够实现通用人工智能，我们将不用去担心像政治和社会这些将会一团糟的事情。他们认为机器会帮我们把一切都搂清楚。

但是他们低估了其中的困难。我感觉如今人工智能已经变成了不仅仅是一个计算机科学难题的问题。每个人都需要去理解AI的行为，这是十分重要的。在我们的MIT媒体实验室，我们为这个定义了一个词语叫做“延伸智能(extended intelligence)”。这其中的问题是，我们如何将社会的价值观构建到AI中去？

奥巴马：刚刚我和伊藤在吃午饭的时候，伊藤就用了驾驶汽车来举例。有了这样的可以做一箩筐快速决策的机器，我们能急剧的减少交通死亡事故，提升我们交通路界的效率，帮助减少二氧化碳的排放以及全球变暖的问题。

但是伊藤也同样提到了，我们将在这些自动驾驶的汽车中植入怎样的价值观呢？这些意味着我们面临多种多样的选择。传统的问题有：如果汽车行驶在马路上，你可以选择来一个急转弯避开将要撞上的行人，但你自己就有可能撞到墙上至死。这是一个道德的决策，谁将会来制定这些一准则呢。 

伊藤穰一：当我们做电车问题实验的时候，我们发现大部分的人会选择牺牲乘客和电车司机，而去拯救更多的人。他们还说他们永远也不会去买一辆自动驾驶的汽车。（笑） 

Q：对于人工智能的道德问题，政府会在其中扮演什么样的角色呢？ 

奥巴马：随着人工智能的捷报频传，我们已经在思考监管结构。政府应该相对少干预其中，投入大量的经费在科研中，确保基础研究和应用研究之间的相互沟通。随着技术的发展和成熟，之后再找出如何将他们并入现有的监管结构的方法。当然这会变成一个越来越棘手的问题。到那时，政府将会多一些的参与其中。不要老想着迫使新的技术进行现有的体系中，而要确保监管能反映出更广泛的价值观。 

伊藤穰一：我不知道你是不是听说过“运动神经的多样性”，但Temple Grandin经常提到这个词。她认为莫扎特和爱因斯坦，还有特斯拉会认为是自闭症患者，如果他们身处于现在的世界。如果我们消灭了自闭症，让每个人的神经都正常，我相信很多MIT的学生都将不会是今天的样子。这其中的一个问题是，不管我们谈论的是自闭症还是多样性，我们交给市场自己去决策的时间点是什么时候。或者你不会希望爱因斯坦是你的孩子，但是只要一般正常的孩子是不会带来社会利益的最大化的。 

奥巴马：如果我们总是对AI严阵以待，这将会导致更大的问题的出现。我们之所以为人，一部分原因就是我们的奇思妙想。正是一些突变、不合群、甚至是缺陷才带来的新的艺术和发明的出现。如果一个系统是完美的，那么它也将是静止的。当然，这其中的一个挑战是，在什么地点、什么时间，我们需要插手去让事情照我们想象的去发展，不再带有惊喜出现？ 

Q：关于将延展智能用于政府、民营行业和学术界，研究中心在哪里，或者说是否有这样的中心？

伊藤穰一：当你问一个MIT的人的时候，那他一定是会说将会是在MIT喽。（笑）从过去的历史来看，很有可能会是一组拥有来自政府帮助的科研人士。但是目前来看，很多十亿美元级别的实验室都在商业界。 

奥巴马：那些为新技术投入大量资金的践行者，比如Larry Page等，他们普遍的态度是，“在我们追寻独角兽的过程中，最不想看到的就是一系列官僚主义导致研究进度放慢。”当然，这也是情理之中。 

然而我们看到的其中一部分问题是，社会对基础研究的关注和投入在减少。意识形态和言过其实在一定程度上削弱了人们对集体行动的自信。 

50年过去了，登月计划却仍是一项我们可以用来类比现在的伟大技术成就。有人和我提过，太空计划占到了美国GDP的0.5%。这可能看起来没有多少，但在今天意味着对于人工智能的投入，每年将会高达800亿美元。现在我们的投入可能还不到10亿。无疑未来我们会加速AI的投入。但我们也需要意识到，如果我们希望赋予技术突破所代表的多元化人群巨大价值，政府投资可以成为其中的一部分。如果政府没有参与其中，伊藤穰一所提出的那些有关技术价值的问题将无法得到解答，甚至可能不会被考量。 

Q：你提到的正是伊藤穰一的那个有趣的矛盾——个体小众的创新与类似太空计划的创新是不同的。那我们如何保证这些想法最终都能落地呢？ 

奥巴马：有一点是我一直在强调的，政府的资金支持和帮助收集数据，这并不意味着我们要私藏起来，或者只能用于军用。一个具体的例子：精准医疗（precision medicine）项目的一部分内容是从各类美国人身上收集足够大的人类基因组数据库。我们没有给Stanford或Harvard一笔钱，让他们把样本私吞，相反地，现在人人都可以访问全部的基因数据库内容。这是一项全民共有的价值和架构，我们要保证这项研究会分享给大家，而不是只有个别组织从中获利。

Q：但这也的确会面临一些风险。Elon Musk和Nick Bostrom都表示过对有朝一日AI可能会超出我们人类理解能力的担心。随着我们继续研究，你认为应如何看待这些顾虑，因为我们所保护的不仅仅是我们自己，而是全部人类？ 

奥巴马：让我先从一个我认为更紧迫的问题开始——目前它是AI领域可以解决的，所以我们要提上日程。很快，可能就会出现一个可以陪你下国际象棋的计算机，或者开发出一套可以使你的纽交所收益最大化的算法。如果谁或公司率先实现了，那他们很快就能控制股票市场。 

之后，很有可能一套算法跳出来说，“去破解核武器的代码，看看那些导弹是怎么发射的。”如果这仅仅是它的任务，它可以自我学习，并自我保持高效，那问题就来了……因此我要告诉我们国家安全局的是，在担心机器会占领世界之前，先要担心的应该是那些无政府成员或恐怖分子对国家系统的窥伺。这和我们现在的电脑安全工作完全不是一个概念，这意味着居心叵测的坏人已经比过去强大了许多，因此我们要更加牛才行。 

伊藤穰一：我基本统一你的说法。还有一点补充是对一些相信强人工智能在未来十年就会实现的人们，在监控这件事是否发生之前，我们还得先突破十几、二十几项技术难关。最重要的是找到一个会将AI善用的人。 

奥巴马：以前，我们一说安全和自我保护，首先想到的是盔甲或城墙那些。慢慢地，我发现自己越来越多的去关心医疗、病毒、抗生素那些。电脑和网络安全不是像一列坦克那样轰隆隆出现在你面前，一个小bug就可能导致系统的瘫痪。因此，我们要对重新看待“安全”。 

比如令我一直很闹心的传染病。你不能真的建一道墙把空气中弥漫的传染病毒和我们隔离，因此我们能做的是建立起世界范围的公共医疗系统，可以更快洞察到病毒的出现，快速应对，并开发出更加智能的疫苗系统。当你想到这些问题，以及我们可以应对的措施，AI恐慌也就没这么可怕了。 

伊藤穰一：另外一件我特别感兴趣的话题是微生物组（microbiome）。许多证据表明，用一个好细菌去攻破一个坏细菌，而不是我们去杀掉它，不失为一个办法。这开始让我们重新思考“干净”的定义，（OBAMA：哈哈是的，尽管我现在仍不想让我家狗狗舔我…）这和你所说的网络安全和国家安全的概念类似，制定严格的规定或者消灭每一个潜在的病原体是很困难的。 

Q：这是否会导致新一轮的军备竞赛？

奥巴马：目前，开发国际标准、协议和网络安全的确认机构，以及AI的开发， 现在毫无疑问普遍都在最早期阶段。这个件事有趣的一点是攻击和防守之间的分界线非常模糊。尤其在现有阶段，大家对政府的不信任度越来越高，这更加大了难度。其他国家会认为美国具有最厉害的网络力量，但我们必须要说，“如果你限制你们自己的话，那我们也只能限制我们自己。”这里的挑战是其他几个大国，俄罗斯、中国、伊朗等，他们和我们对标准和价值的看法不同。我们必须把这件事提到国际问题才会让我们有效。 

伊藤穰一：我认为我们正处在一个黄金的时代，人们都愿意相互交流和分享。你无法在一个真空的环境中获得成功，我们需要的是一个全球的社区。

奥巴马：伊藤说得对。这也是我们已经和对人工智能相关的人召开了一系列的会议。有一件我们谈论的不是很多，但我在这里想提一下的事就是经济意义。因为目前大部分的人将不是在担心奇点的来临，而只是在担心“如果我的工作被机器取代了该怎么办？”。

我自己是倾向于乐观的来看待。从过去的历史来看，我们吸引了很多新的技术，人们也找到了新的工作。我当然理解今天可以是一个不同的时代，因为今天我们有了大规模的AI应用和其他的新技术。拥有高技能的人在这其中可能会如鱼得水，他们将利用他们的聪明才智，和机器进行交互以扩展他们的人脉，他们的产品、销售和服务。

不掌高技能的这些人可能会变得越来变冗余。他们的工作可能还不会被取代，但是工资会越来越低。如果我们要成功的渡过这一转变的过程，我们需要一个全社会的对话。如果来开展培训，确保我们的经济是包容的，当越来越多的生产技术掌握在一小部分最顶尖的人手里时？我们又如何确保其他的人获得生存的资本？对于艺术和文化这些支撑性的事物来说，这些又意味着什么？社会必须要接受这些新的技术，而我们的经济模型也必须接受它们。

伊藤穰一：其实我们并不明确的知道哪些工作会被取代。因为如果一台电脑可以理解医疗的系统，可以来进行诊断，那么医生要比护士和药剂师看上去更容易失业，因为后两者的工资水平更低。像律师和审计师这些的高技能工作，也有可能会消失。不过，像服务业和艺术这样子计算机无法很好的掌握的行业可能还不会被取代。

我不知道你怎么看普通的工资水平，但当人类的工作不断的被代替的时候，我们正好可以借此机会去重新认识，像学术界和艺术界这种不太追求金钱的行业。我相信这其中大家一个很根深蒂固的观念是，当你没有钱的时候，你怎么变得聪明？但是，在学术界，很多聪明的人都是贫穷的。

奥巴马：我同意你的观点。就当下而言，普通的工资水平是不是一个正确的模型，它是不是将会被广泛的人接受呢？这是一个我们在接下来的10年到20年，将会一直争论的问题。不仅是低技术的服务类工作将会被AI取代，高技术但重复性的工作也有可能会被取代。

存在争议的是，有可能随着AI进入人们的生活，社会的财富有可能反面会增加：生产和分配之间的联系，工作和收入之间的关系将会变得越来越弱。计算机就可以做很多的工作。因此，我们必须做很多艰难的决定。目前教师的待遇过低，因为这是一份很不容易的工作，计算机也很难胜任。

所以，当我们重新审视我们的价值观的时候，我们会更愿意去向教师、护士、护工、母亲或父亲这些呆在家里的人、艺术家和所有那些对我们来说无比重要，但是目前却待遇不高的人支持更高的工资。

Q：你现在在寻找什么样的技术以解决目前你在政府中所看到的问题？

奥巴马：在使政府变得更友善以及在改善纳税申报这些方面，我们还有大量的工作要做，因为现在这些还不像订一个外卖或者一张机票那样方便。需要让联邦政府、州政府和当地政府一起来进行改变，我们还有很多事要做。其实联邦政府和私营企业之间人才上的差距还不是那么大。但是在技术上的差距却是巨大的。

在我刚上任的时候，我总是在想，要是有一个像Tom Cruise在《Minority Report》里那样能够把东西随便移来移去的情况室（Situation Room），那该是多么酷的一件事啊。但是，现在你看，完全不是这样的。（笑）

谈及围绕着技术更广泛的问题，我坚定的相信我们能解决气候变暖问题。我们已经做了很多的工作，但还和很多未尽的事。另外，关于网络问题，如何能一方面确实我们的互联网是有责可询、透明和安全的，能及时抓住坏人，但又确认政府不过多的拥有权力，这也是我们还在努力解决的问题。有一些是技术上的问题，加密就是一个很多的方法。我见了很多次公民自由主义者和国家安全的人。这确实是一个很棘手的问题，因为没有人能给我一个很好的回答，如果去和缓这些问题。

最近一个我想要提到的东西，和太空有关。探寻如何进行下一代的太空旅行是目前我们重要经费支持的领域。私营的企业已经做了很多很好的工作。

Q：我知道你是一个《星际迷航》迷。它是如何影响你对未来的想象的呢？

奥巴马：从小时候开始，我就超级迷这部电影了。那时候觉得太有趣了！我认为使这部剧长青的原因不在于技术，而在于它所传达出的价值观和人们之间的关系。它讲述的是关于人性，和我们通过自己的能力解决问题的自信。

近年上映的《火星救援》也同样传达出了这种精神。它之所以吸引人，不是因为剧情有多复杂，而是在于许多了在不断的努力解决问题。只要拥有创造力，毅力、勤奋、还有自信，我们就能解决它们。我也是我热爱美国的原因，这也是为什么我们能吸引到那么多世界各地的人来一起面对挑战的原因。

-END-