埃隆·马斯克：科技圈疯狂追捧的AI 或终有一天吞噬人类！

3月29日报道?

编者注：本文作者为?Maureen Down，名利场资深记者。

马斯克，不仅仅是一名企业家，同时也闻名于他对未来的敢想敢做。最近，硅谷对 人工智能 （AI）的热潮显然有些吓着他了。 马斯克认为，所有人都应该有所畏惧。因为AI在快速发展，影响着各行各业的同时，也同样可能会对未来造成不可预料的危害。

1. 马斯克的“反AI计划”

高级人工智能的领先创始人，AlphaGo之父哈萨比斯与马斯克曾展开会谈，讨论关于AI带来的威胁问题。相比于前者对AI前景的看好，后者显然是有些抗拒。

虽然不住在硅谷，然而他们两人却是硅谷最举足轻重以及最“有趣”的两个人。哈萨比斯是伦敦DeepMind实验室的联合创始人之一。他在几年前就曾经拜访过马斯克的SpaceX火箭工厂。 马斯克曾告诉他，SpaceX的最终目标是实现“星际殖民化”。

哈萨比斯回应他说，他也在挑战另一个世界上最重要的项目之一：超级人工智能。马斯克反驳，超级人工智能的出现，就是为什么我们需要在火星实现殖民化的原因，因为有一天所谓的人工智能有可能会反噬人类。然后哈萨比斯却被马斯克的这个说法逗笑了，他说道：“人工智能只会跟着人们去火星。”。

然而，马斯克却笑不出来。

哈萨比斯被认为是最可能突破AI技术的人，尽快他长得不起眼，而且也才40岁。现在，虽然AI领域急速发展。脸书用AI来实现定向广告，照片标签，以及新闻推送；微软和 苹果 则用AI来驱动他们的个人语音助手——Cortana和Siri； 谷歌 的搜索引擎更是从始至终的运用AI技术。这些小的技术进步，无疑将会逐渐在未来形成一个灵活的、自我学习的，并且能够仿照人类行为的超级人工智能。

然而，马斯克认为，如果没有人为监控，那么AI有可能会变成一个潜在的威胁。

在DeepMind被谷歌吞并之前，马斯克曾经参与了该公司的投资。不过，据他本人表示，他参与到这个项目中来，并不是为了寻求收益回报，而仅仅是想盯住AI的发展速度。

马斯克说道：“参与到这个项目中来，我能够更深入地了解事情的进展。我知道现在这项技术突飞猛进，但是我们日常中不会看到有机器人走来走去。当然啦，扫地机器人倒是蛮多的，不过地球总不可能会被扫地机器人占领吧。”

马斯克曾经在公开谴责过他的友人以及技术员工。他警告说，他们正在创造一种“自我毁灭”的方式。马斯克曾经接受采访时表示，他十分担心他的朋友拉里佩奇（Google的联合创始人，现任 Google母公司Alphabet的 CEO ）有可能会无意间创造了一些“邪恶的事物”，包括有能力毁灭人类的机器人。

2014年，马斯克在麻省理工发表完讲话之后，对AI技术开始警惕。他预测，AI将会成为人类生存最大的威胁。他还补充道，现在国际国内应该都对AI技术实施一些监控措施，来防止人们做出一些“傻事”。他说道：“AI就仿佛是我们召唤恶魔的工具。你们应该都听过这些故事，一个人有五角星，有圣水，所以就认为自己可以控制恶魔了，但是，根本不现实。”一些AI设计师听到了马斯克的这个“恶魔”言论，所以现在他们都每次回到实验室，都开玩笑说：“来吧，我们开始召唤吧！”

然而，马斯克依旧冷漠脸。不管怎样，马斯克“反抗AI”的旅程已经开始了。

2. 马斯克

在2月份，马斯克宣布将会将两名游客送到月球上游览一圈。说实话，马斯克本来就是希望最后在外太空定居的那一类人。他所掌权的特斯拉还推出了新能源电池，能够将太阳能以 极 低成本的方式运用到实践中。他还在致力于推行“超级高铁”的项目，能够实现洛杉矶到旧金山的时速高达700英里。

去年夏天，马斯克在拜访美国国防部长Ashton Carter时，还提到了要打造一身类似于“钢铁侠”的金属西装。当堵在洛杉矶的公路上的时，他萌生了为什么不能运用地下通道来解决交通问题的想法。于是，便有了SpaceX将要开挖隧道的消息。此外，更别提他对于特斯拉电动汽车的创新和设计了。

当然，马斯克也并非一番风水。大梦想家的路上也有很多的绊脚石。SpaceX的火箭曾炸毁，特斯拉无人驾驶汽车也因传感器故障而发生车祸。

马斯克说到：“人类有自我毁灭的能力，也就是通过这个方法，我们能够挨过自己那些挫败的历史。”

第一次亮相的时候，OpenAI（诸多硅谷大亨联合建立的人工智能非营利组织，旨在预防人工智能的灾难性影响）看起来似乎有些假大空。毕竟是一帮科技大佬窝在一个公寓内想出来的注意，并且还雇佣了世界上领先的人工智能领域专家。马斯克在这其中的角色，就是一个掌舵人。

在30年前，马斯克就已经把人类在太空的命运看作了他个人的责任。他在年轻的时候，看了一本由Douglas Adams写的《银河系漫游指南》。 这本书主要就是关于外星人摧毁地球，从而为超空间高速公路铺路，并且混合了一些超级计算机等元素的科幻小说。那时，马斯克就为自己立下了使命：唯一值得去做的事，就是为集体争取更有意义的利益。

据了解，OpenAI正在执行一项尚未公开的任务 —— 这并不奇怪，因为领域内的各类人士仍在讨论AI能够做什么。到目前为止，相关政策仍不太明确，一些AI软件在很大程度上不受管制。 不过，至少现在联邦航空局已经开始监督无人机，而且美国证券交易委员会也在监督自动化金融交易，交通部已开始监督自驾车了。

马斯克认为，在将技术推广到世界范围，让政府和科技精英掌握之前，先要在小范围内尝试应用超级人工智能的相关技术。

“关于人工智能和机器人，我已经和拉里聊了很多次了，真的很多次。而且，不只是拉里，很多未来主义者都对机器人的发展有着必然论和宿命论。”马斯克说道。

3. “金牛犊”

在所谓的“人工智能寒冬”（即在80年代早期技术的商业化失败）之后，人工智能的名声仿佛是添加了润滑油，一路飙升。OpenAI的格雷格·布罗克曼（Greg Brockman）认为，接下来十年的投资和技术将都是围绕AI来进行的。

微软的Jaron Lanier被称为“虚拟现实之父”，他提出了自己的看法：“行业对AI如何着迷的原因是因为能够满足人们的控制欲。就好像变成了神明一样，创造了另一批物种，创造了“生命”。国家总统做不到，明星们做不到，普通人也做不到，只有科学家们可以。这种成为神明的野心也不是什么新鲜事，我在一本《金牛犊》的书里面读过。人们还是太高估自己了。”

过去几年，Google几乎吞并了所有稍显成果的机器人和机器学习公司。它以6.5亿美元收购了DeepMind，并建立了专注AI研究的Google Brain团队。另外，谷歌还聘请了人工神经网络技术专家杰弗里·亨顿（Geoffrey Hinton） ，以及领域内的专家雷·库兹维尔（Ray Kurzweil）。

可以说，AI的研究和推进就是谷歌的使命。有人称，如果世界上真有邪恶的机器人，那么第一台就肯定是诞生于谷歌。毕竟，Google能让计算机来完成智能搜索，而这项任务又是人类最重要的任务之一，所以可以理解为Google同样就能够让计算机来完成其他事情。

哈萨比斯称，他正在为人工智能领域推进一个“阿波罗”计划。他表示：“这将会是 一个历史性的时刻，人工智能发展的速度已经比我所预期的快太多了。我一直希望AI能够帮助我们探索一些新的想法，在科技领域有所作为。”

之前，AlphaGo 曾经与中国、日本，以及韩国等国家的围棋手大战，拿到了极为亮眼的比分。今年1月，该系统卷土重来，这一次甚至能够用一些“诡计”来骗过对手，赢得比赛。另外，一个基于AI技术的扑克机器人 Libratus在德州亮相，并且碾压了其他的一线选手。

Paypal联合创始人Peter Thiel 称，他的朋友认为，人们忍受硅谷这种技术无底线的原因，主要还是因为太寂寞了。因此，想要通过技术的手段，研发一些代替人类的“情趣用品”，满足个人欲望。在聊到这个问题的时候，马斯克表示：“性爱机器人，这个可能性还蛮高的。”

无论是真心还是假意，哈萨比斯都已经让Google收购DeepMind成为了现实，并且还联合建立了AI实验室。在3年前，关于人工智能伦理问题的讨论似乎还为时尚早，但是到了今天，却已经有人要扬言暂停AI的研发计划了。

Google高管称，拉里之所以对AI充满憧憬，主要是因为曾对旅游行业的定价系统价格高涨失望。因此，拉里希望能够通过AI的智能换算，来改变人们的生活。他相信，当人们的需求更容易满足的时候，将会有更多的时间来陪伴家人，或者是追逐自己的兴趣，尤其是当一个机器人能够帮助他们摆脱工作的时候。

前 百度 首席科学家吴恩达认为，现在人们担心AI带来的威胁，或许是有些多虑了，就好像是在考虑火星人口过多的问题一样。他曾经和马斯克对话，提出了AI能够创造巨大价值的观点。

Eliezer Yudkowsky ，机器智能研究协会的联合创始人表示：“马斯克的担忧纯属无稽之谈。如果他真的想要保持自己性感的救世主形象，他好好聊自己的火星殖民计划就好了，何必来插人工智能一脚呢？”

马斯克和脸书的扎克伯格关系不能算太好，毕竟他们俩许多看法都不太一致。当然，关于2016年AI大潮的看法，两人也持不同观点。

在马斯克宣布AI可能给世界带来威胁的3周后，扎克伯克就把他AI领域专家们的办公桌挪到了自己的旁边。扎克伯克在脸书的一条博客中表示，未来将会打造一个全能型的助理机器人，帮助他管理家里的一切事务，包括请好友进门、照顾孩子和老人，等等。他写道：“大概就有点像钢铁侠的那个语音机器人一样，通过指令就能够让他来完成所有工作。”

有人曾在脸书上警告扎克伯克：“不要创造出毁灭世界的那种人工智能”。扎克伯克回应道：我们可以研发AI技术，不用过于无理由地担心（暗指马斯克）。人工智能带来的危险，远比天灾人祸要更远。希望要凌驾在恐惧之上。

扎克伯克接受采访时曾表示，如果我们因为恐惧这些末日的场景而放缓技术研究，这才是真正的得不偿失。就好比，我们在考虑“飞”之前，至少也得先去理解如何飞吧。马斯克的这些忧虑，是有些“歇斯底里”了。

4. 历史的断层

马斯克等人给AI提出警告的这种行为，在有些人看来是作秀。不过，支持他的人也不少。史蒂芬·霍金曾表示，人工智能的全面推行有可能将带来人类的终结；比尔·盖茨提到，人工智能可能会比核武器更危险； 牛津哲学教授尼克·博斯托罗说道，一旦人工智能具备了大脑，它可能就会不惜一切手段阻止人们更换它或者是改变它，人类的命运堪危。

去年，美国前国务卿基辛格在布鲁克和人工智能领域的专家进行了一次不对外公开的会议，主要就是讨论关于智能机器人对历史的影响。

2015年1月，马斯克参加了波多黎各的AI安全大会，由麻省理工的49岁的物理学教授Max Tegmark主持。

Tegmark在会上说道：火灾让我们发明了灭火器；车祸让我们发明了安全带，气囊和交通灯。正是这些灾难和祸害让我们学习到了如何预防和保护自己。但是，以上两者根本无法和核武器，以及AI带来的危险相提并论。我们需提前计划。”

马斯克目前已经开始启动一笔基金，用来专门抵御AI可能带来的威胁。他表示，将会为“人类未来研究协会”投资1000万美元，来完成此项计划。另外Tegmark也向牛津的“人类未来研究所”提供了150万美元。

波多黎各会议的六个月后，马斯克、霍金、哈萨比斯，联合苹果的史蒂夫·沃兹尼亚克，伯克利计算机学院教授斯图尔特·罗素及1000多名知名人士，共同撰写了人工智能标准教科书，倡议停止武器自动化的研究。

罗素说道：“以AI在50年的发展计划来看，我们现在的这18个月至??关重要。AI社区终于开始觉醒，并且也是时候让我们思考如何打造更好的未来了。”

5.人机世界

为了更好地理解AI的正反面观点，我驱车到了圣马特奥，在那里约谈了Ray Kurzweil。他是《奇点临近》的作者，一个对AI保持着乌托邦态度的人。

“计算机思维现在已经进步太多了，”Kurzweil说道，“就在几年前，AI甚至分不出猫狗。” 对于AI的未来世界，他似乎都已经有些迫不及待了。甚至在聊天的时候，他无数次地将机器人和人类直接称为“我们”。

Kurzweil当然也表明了他自己对于AI潜在危险的观点。“危险和愿景当然是交织在一起的，就好像火能够给我们温暖，帮我们烹饪食物，但是也可能会烧光我们的房子。”

此外，Kurzweil还提到了人类对于新技术的三个反应阶段，分别是“哇塞，好棒！”、“完了，出大事了！”，以及“还有别的选择吗？”。他说道：“相比于电脑来说，人类能够做好的事情似乎越来越少了。但是我们能够通过创造工具来实现我们的长远目标。AI也许未来会很友好，但是也有可能不会。如果和我们计划的相差太多，那么人类当然也要举手反抗。但是，唯一的方法可能就是研发一个比对手更聪明的AI才能取得胜利了。”

不过，Kurzweil有些意外罗素居然是站在反对AI的这一边。于是，我们也一起去拜访了罗素，和他聊一聊关于这方面的问题。

罗素说道：“有人认为，如果机器比我们更聪明，那么他们就会占领地球。那么只要我们把自己升级成机器人，而且加上人类的意识的话，那我们就没问题啦。这种想法完全不可行。”

罗素认为，人们现在之所以不担忧AI，主要是出于两点考虑：第一点是，AI威胁人类不可能会发生。就好比我们开车驶向悬崖，在坠车之前，汽油早就已经耗光了。不过，这一点似乎不太能成立，因为人类的发展史本来就不可预估。

第二点是，人类只会创造可控的，能够合作的机器人。以后的团队将是“人类+机器人”的模式。不过，这就引申出了一个疑问：如果你创造的机器人和你计划的不一样，那么所谓的团队还能够和谐吗？

去年，微软曾推出过一款AI聊天机器人Tay。不过，该机器人很快就被迫关闭了。因为她的学习能力太过强大，不仅学习了网络环境下的好言好语，而且也吸收了那些态度极端的措辞，发表了一系列反社会的言论。

如今美国特朗普当政，马斯克的身份极为尴尬。一方面他的公司享受着美国政府的商业补贴；另一方面，他本人又是特朗普移民禁令的反对者。与此同时，与Uber的Travis Kalanick不同的是，马斯克现在仍然作为特朗普战略政策论坛的幕僚之一。

我曾经询问过马斯克关于他和特朗普之间的片段。然而，在一张和特朗普的合照中，马斯克显得尤为阴沉。当他讨论到特朗普的时候，显得十分疲惫：“在白宫里，很多人的态度都太过强硬了，所以，他们也需要一个温和的声音。”

6. 所谓“旅程”

Eliezer Yudkowsky是一位业内评价颇高的研究员，他对AI也看法也颇为独特。我在伯克利的一家日本餐厅约了他。

Yudkowsky解释说：“AI不会接管整个互联网。它有武器并不危险，危险的是它可能会比我们聪明。 假设，它通过分析DNA信息中的蛋白质结构，从而解决科学难题的话，那么它就仅需发送一份邮件到实验室便可以合成固定的蛋白质分子结构。不久之后，它有自己的分子排列，从而能够构建更复杂的分子机器。”

我回想起了我和马斯克的谈话。他说道：AI主体不是一个机器人，而是基于网络中的计算机算法。机器人仅是一个终端的执行器。重点是，如果我们的算法失控，那么人为可以进行操控干预。但是，一旦该算法的信息网过大，那么人为操控就不太简单了。

即使是一个看似善良的机器人，也有可能会对我们造成伤害。马斯克谈到了一个例子：一个简单的摘草莓机器人，它不断地升级，不断的进化。它不停地摘草莓，越来越多，而且越来越快。那么人类就需要去开垦越来越多的土地来提供能让这个机器人工作的条件。渐渐地，反而人类自己没有立足之处了。

“人们真的能够控制得住这些机器人吗？如果有一天，真的能够有一个按钮让我们在1秒钟“杀死”这些机器人，那么我愿意做那个握着按钮的人。因为那个时候，也许你们已经成为了这个机器人脚下的亡魂了。如果，在你们看来，所谓的终结是宇宙的极热，那么不如现在就开始这段旅程。”马斯克补充道。