警示！马斯克的“圣战”：要阻止人工智能毁灭人类

特斯拉CEO埃隆·马斯克(Elon Musk)以押注未来而闻名，但如今却因为硅谷拥抱人工智能(AI)而胆战心惊。于是，他开始了自己的“十字军东征”，以避免人类将来被人工智能扼杀。

　　 国外《名利场》对此进行了深度报道，AI世代（微信号：tencentai）对文章进行编译整理如下：

　　 一、机器杀人狂

这是一次关于人类未来命运的友好争论。戴密斯·哈萨比斯(Demis Hassabis)是高级人工智能(AI)的领先开发者，而埃隆·马斯克(Elon Musk)是一位知名的预言者，二人曾针对人工智能的威胁进行过针锋相对的探讨。

他们是硅谷最具影响力、最令人感兴趣的两个人，虽然二人均不住在硅谷。哈萨比斯是谷歌(微博)旗下人工智能实验室DeepMind联合创始人兼CEO，数年前，他曾造访马斯克旗下太空探索技术公司SpaceX位于洛杉矶郊外的火箭工厂。二人在食堂里聊了起来，马斯克说，SpaceX的终极目标是这个世界上最重要的项目：星际殖民。

而哈萨比斯回复道，其实他们正在从事的是才是世界上最重要的项目：开发人工超级智能。马斯克接着说，这就是我们殖民火星的原因之一：将来如果人工智能向人类发起攻击，我们还有一个藏身之地。哈萨比斯笑着说，那人工智能也会追着人类去火星。

这番谈话并未打消马斯克对人工智能的担忧，虽然他也相信人工智能跟踪人类走上火星的可能性不大。

哈萨比斯今年40岁，谦逊低调，但不乏竞争意识，被视为帮助我们召唤“人工智能之子”的魔法师“梅林”(Merlin，魔幻电视剧《梅林传奇》的主人公)。当前，人工智能正在快速发展，但尚未达到马斯克所设想的能够威胁到人类的程度。目前，Facebook利用人工技术来提供精准广告服务，微软和苹果利用人工智能来驱动其数字助手Cortana和Siri，谷歌搜索从一开始就依赖于人工智能技术。这些努力的最终目标就是创建一种灵活的、能够自我教育的人工智能，像人类能够自我学习一样。

哈萨比斯是一位象棋高手，也曾经是一位视频游戏设计师，并设计了《邪恶天才》(Evil Genius)这款游戏。在游戏中，一位邪恶的科学家开发了一款“世界末日设备”，来主宰世界。知名风险投资人、PayPal联合创始人彼得·蒂尔(Peter Thiel)和马斯克曾向《名利场》(Vanity Fair)杂志讲述过一个故事：在DeepMind的一次投资者会议上，一位投资者临走时开玩笑地说，应该就地射杀哈萨比斯，因为这是挽救人类的最后机会。

　　马斯克3年前就发布警告，称人工智能将来可能成为“杀人机器”。哈萨比斯的 合伙人 之一谢恩·莱格(Shane Legg)曾表示：“我认为，人类将来可能会灭绝，而科技也许从中发挥部分作用。”

在2014年被谷歌收购前，马斯克曾是DeepMind投资者。马斯克称，他投资DeepMind不是为了获得资金回报，而是要关注人工智能的发展。他说：“这会让我了解人工智能的发展状况。我认为，人工智能的发展速度真的很快，远超出人们预期。在日常生活中，我们很少能看到机器人走来走去。有机会看到的也就是Roomba这样的扫地机器人，但它们无法主宰世界。”

马斯克曾在公开场合提醒好友和科技同行，称他们可能正在创造毁灭自己的方法。例如，马斯克曾对彭博社表示， 他担心好友拉里·佩奇(Larry Page，谷歌联合创始人)可能会在无意中偶然创造出一种“邪恶机器”，如能够毁灭人类的人工智能机器人。

在今年2月于迪拜举行的“世界政府首脑峰会”上，马斯克再次提及人工智能威胁论。他说：“有时，科学家们太过于专注自己的研究，以致于没有真正意识到其后果。”他还称，为了不被人工智能所淘汰，人类最终需要与机器相结合，成为一种“半机械人”。马斯克说：“我认为，随着时间的推移，我们将看到生物智能与数字智能的紧密结合。”

马斯克对人工智能的担忧始于2014年。当时，他在麻省理工学院(MIT)发表演讲时称，人工智能可能是人类存在的最大威胁。他还称：“我们应该出台一些国内或国际监管条例，以确保我们不做傻事。有了人工智能，就相当于我们开始召唤恶魔。”

　　马斯克的这番言论被一些人工智能工程师认为荒唐可笑，每当他们休假后重返实验室，就会调侃说：“好了，让我们重 新开始 召唤恶魔的工作吧！”

马斯克并没有被他们逗笑，但他反对无拘无束的人工智能的征程却已经开始。

　　 二、马斯克的“圣战”

当提及“他被认为是艾茵·兰德(Ayn Rand，俄裔美籍作家)小说中的英雄人物”(强调个人主义和理性的利己主义)时，马斯克笑着说：“兰德的小说中有些极端的观点，但有些积极的观点。”

但是，如果要真正描写马斯克，兰德可能还需要做些修改。例如，眼睛是灰色的，脸看起来要憔悴些，公众形象没那么幽默好笑。此外，兰德还能从马斯克复杂的个人生活中找到更多有价值的材料：第一任妻子是科幻作家贾丝廷·马斯克(Justine Musk)，他有五个儿子(试管技术，一次是双胞胎，一次是三胞胎)，第二任妻子是英国演员妲露拉·莱莉(Talulah Riley)。马斯克和莱莉经历了结婚、离婚、再结婚和再离婚。

　　作为一个 平凡 的女人，要想和马斯克这样长期痴迷于工作的人长期维持关系是件很困难的事情。马斯克在接受彭博社记者阿什利·万斯(Ashlee Vance)采访时曾称：“女人一周需要关注多长时间？10个小时？”

每当马斯克、斯蒂芬·霍金(Stephen Hawking)和比尔·盖茨(Bill Gates)谈到人工智能的威胁时，许多人认为这只是一个“10级火警”(发生的概率极小)。但马斯克却不以为然，他计划倾注所有的资源来规范人工智能研发，从而阻止这一切的发生。

例如，马斯克与Y Combinator总裁萨姆·奥特曼(Sam Altman)成立了非营利机构OpenAI，旨在预防人工智能可能带来的灾难性影响。如今，OpenAI喜迁新址，全职员工数量达到50人，另计划招聘10人至30人。

OpenAI 2016年6月公布了其主要目标，包括制造通用机器人和使用自然语言的聊天机器人。乍一看，OpenAI像是一个轻量级的面子工程，一群聪明的孩子们窝在低层公寓里，对抗谷歌、Facebook和其他科技公司数十亿美元的人工智能项目，以及全世界顶尖的人工智能专家。

但是，“以少胜多，以弱胜强”是马斯克的专长，他经常用自己的风格来做这样的事情。在硅谷其他公司纷纷专注于IPO股价时，马斯克却拥有着更伟大的目标，如解决全球变暖问题，殖民火星等。

OpenAI本质上是一个研究实验室。建立这个实验室的目的在于监督企业和政府，以免这两个群体依靠超级人工智能系统过度榨取利润或者谋取权力，并以此压制民众。

OpenAI也是带着一个模糊的使命开始运作的。这不足为奇，因为业界对于“采取怎样的人工智能形式”、“人工智智能可以做什么”以及“如果去做”等问题，业内专家也在探索中。到目前为止，针对人工智能的公共政策尚未出台，软件在很大程度上也不受管制。

虽然马斯克对人工智能持批评态度，但并不代表他对人工智能敬而远之。他的策略是进攻。马斯克认为，首先要实现超级人工智能，然后在全球推广这些技术，而不是让这些算法(人工智能技术)隐藏或集中在少数科技或政府精英的手中。

马斯克说：“我认为防范人工智能技术被误用的最好办法是尽可能让更多的人可以使用人工智能技术。如果每一个人都可以使用这项技术，那么这项‘超能力’就不会成为少数团体的囊中法宝。”

谷歌联合创始人拉里·佩奇(Larry Page)和塞吉·布林(Sergey Brin)等科技精英都是马斯克的好友，马斯克说，佩奇和布林都认为自己是人工智能的善意力量。但是，有时会事与愿违，一些事情可能会脱离他们最初的动机。

　　马斯克说：“ 马可 ·奥勒利乌斯(Marcus Aurelius，罗马皇帝)执政期间，罗马人民安居乐业。但到了卡里古拉(Caligula)执政时，一切都变了。 ”

　　 三、人工智能卷土重来

在经历了所谓的“人工智能寒冬”之后，人工智能如今再次成为硅谷的热门话题。OpenAI首席技术官(CTO)格雷格·布罗克曼(Greg Brockman)称，科技市场的下一个十年将围绕人工智能而展开，几乎每个人都会把钱投资给那些“少数了解人工智能咒语的巫师身上”。

　　微软计算机专家、“ 虚拟现实 之父” 杰伦·拉尼尔(Jaron Lanier)向我们解释了人工智能的诱人之处，他说：“有这样一种观点说，你们这些人工智能技术人员就是上帝，你们正在创造生活，你们正在改变现实。许多开发人员也有一种自恋倾向，只有我们能做这样的事情，其他人根本做不到。教皇做不到，总统也做不到。我们就是人工智能的主宰……”

在过去的几年，谷歌几乎收购了每一家有吸引力的机器人和机器学习公司。例如，以6.5亿美元收购了DeepMind，随又组建“谷歌大脑”团队，专攻人工智能。此外，谷歌还聘请了英国人工神经网络专家杰弗里·希尔顿(Geoffrey Hinton)和未来学家雷·库兹韦尔(Ray Kurzweil)。

在佩奇的骨子里，以及谷歌的DNA中，都认为公司走上人工智能之路不可避免。彭博社记者万斯甚至表示：“如果 人工智能惹出什么事，我第一个就会想到谷歌。”如果谷歌能用电脑控制搜索(当时是世界上最重要的问题)，那就能用电脑做成任何事。

　　去年3月，DeepMind开发的人工智能围棋 程序 AlphaGo因战胜人类围棋顶尖高手李世石而震惊世界。哈萨比斯称，AlphaGo简直就是人工智能界的“ 阿波罗 计划”。最近，AlphaGo又在网上匿名狂虐各国围棋高手，甚至实现了60-0的完胜战绩。

无论是出于真心，还是公关目的，针对三年前的谷歌收购DeepMind交易，哈萨比斯提出了一个前提条件：双方必须要组建一个人工智能伦理委员会。在三年前，这真的是一个弥足珍贵的举措。这表明，哈萨比斯是在追求真正的人工智能。去年6月，DeepMind一名研究人员还发表了一篇论文， 给出了“紧急按钮”解决方案，以阻止人工智能伤害人类。

佩奇认为，当前的许多系统都没有处于最佳状态。但如果能引入人工智能，人们的需求就能更好地被满足。这样，人们就能有更多时间陪伴家人，或追求自己的兴趣爱好。虽然是佩奇的好友，但马斯克却不同意他的观点，并认为佩奇在这个问题上的看法太天真了。

而一些硅谷人士认为，马斯克拯救世界是假，给自己贴金才是真。此外，马斯克用“人机大战”的剧情也是为了吸引人才，其真正目的并非阻止人工智能，而是阻止别人发展人工智能。

但万斯认为，马斯克的担心是真实存在的，虽然马斯克到底要拿什么对抗人工智能的崛起还是个未知数。万斯说：“马斯克的第一任妻子曾表示，他们夜里很晚还会讨论人工智能的问题。”

加州大学伯克利分校机器智能研究所(MIRI)联合创始人埃利泽·尤德科夫斯基(Eliezer Yudkowsky)也认同万斯的观点，他说：“他可是马斯克，如果想博得关注，根本不用谈及人工智能，直接说移民火星就好了。”

　　除了谷歌， Facebook也在发展人工智能。去年，在马斯克宣布成立OpenAI仅三周， 扎克伯格 就发布了新年度挑战任务，其中包括打造一个全能的人工智能助手。

扎克伯格曾表示：“人工智能能为我们所用，并协助我们工作。有些人认为人工智能是个巨大的威胁，但我认为，它的危险程度远不及疾病和暴力。”去年4月，扎克伯格在Facebook开发者大会上还称：“相对于恐惧，我更愿意选择希望。”

在去年的圣诞节前，扎克伯格推出了人工智能助手“Jarvis”，还请来了好莱坞影星摩根·弗里曼(Morgan Freeman)为它配音。贾维斯虽然较为初级，但切个歌，开关个灯或烤个吐司，却完全不在话下。但马斯克却认为：“这种能自动完成家务的机器根本算不上人工智能，开关灯、调节温度，这些都不是人工智能。”

对于马斯克的评价，扎克伯格不屑一顾。当被问及马斯克的“世界末日论”是“痴人说梦”还是“有理有据”，马斯克选择了前者。

　　 四、人工智能或造成历史断裂

马斯克和其他一些发表过人工智能威胁论的人有时被视为“小题大作”的人，但2016年1月，马斯克赢得了“卢德奖”(Luddite Award，反技术进步)，颁发这个奖项的是华盛顿一家科技政策智囊。不过，马斯克不是一个人在战斗。

英国著名物理学家霍金曾向BBC表示：“我认为，人工智能的发展可能预示着人类的灭亡。”微软联合创始人比尔·盖茨(Bill Gates)也表示，人工智能可能比核战争还要恐怖。牛津大学哲学教授尼克·博斯托姆(Nick Bostrom)2014年曾在《超级智能》(Superintelligence)一书中写道：“一旦不友好的超级智能诞生，它就会阻止我们去替换它，或改变其喜好。如果这样，我们的命运将被终结。”去年，美国前国务卿亨利·基辛格(Henry Kissinger)也表示，智能机器人可能造成历史断裂，甚至瓦解整个人类文明。

2015年1月，马斯克、博斯托姆和其他一些业内专家齐聚波多黎各，参加一次行业会议。这次会议达成了一个共识：我们需要“火灾保险”。 当我们遭遇火灾并深受其害时，人类发明了灭火器。当车祸带走人类生命时，我们发明了安全带和气囊。但在核武器和人工智能问题上，我们没有吸取教训的机会，因此一次错误都不能犯，我们需要未雨绸缪。

　　波多黎各会议过去半年后，马斯克、霍金和哈萨比斯等1000多位业内人士又签署了一封联名信，呼吁禁止进攻性 自动化 武器。加州大学伯克利分校计算机科学教授斯图亚特·鲁塞尔(Stuart Russell)称：“在过去的50年间，最近18个月对人工智能的未来发展至关重要。因为人工智能界终于苏醒，并开始认真思考怎样做才会有一个更美好的未来。”

去年9月，美国五大科技巨头谷歌、Facebook、亚马逊、IBM和微软罕见的携起手来，成立了人工智能合作组织。此外，欧盟也开始探讨机器人和人工智能方面的道德问题。

去年1月，麻省理工学院物理学家麦克斯·泰格马克(Max Tegmark)主持了一次人工智能安全会议。佩奇也参加了这次会议，马斯克称，他们之间的谈话不再剑拔弩张了。马斯克在会后称，我们还有很长的路要走，但他同时表示：“硅谷的顶级科学家们真的开始认真对待人工智能了，他们都意识到了这项技术的风险。”

风险投资人蒂尔对马斯克的“十字军东征”有着不同的看法。他认为，马斯克声势浩大的抵制行为反而会推动人工智能的研究，因为他的“世界末日论”提高了人们对人工智能的兴趣。

他说：“关于人工智能，当前有一些非常棘手的问题。即使真的要确保人工智能安全，我们目前也没有任何线索。我们甚至不知道人工智能是什么，更不用说如何来控制它们。”

蒂尔还称：“人工智能问题包括了人们对电脑时代的全部希望和恐惧，由于上述种种限制，人类的直觉可能会失灵，因为我们从未处理过比人类还聪明的实体”。

　　 五、与超级智能合二为一

人们在人工智能领域的分歧，究竟孰是孰非？ 未来学家、《奇点迫近》(The Singularity Is Near) 一书的作者雷·库兹韦尔(Ray Kurzweil)称：“当前计算机对人类思考的贡献颇大。就在几年前，人工智能连猫和狗之间的差别都分不清。”

库兹韦尔还支持人与超级智能合二为一的想法。在描述这个想法时，他甚至使用了“我们”一词，而拥有同样想法的马斯克则谨慎的选择了“它们”。

库兹韦尔已经意识到了人工智能的威胁。他说：“危险和希望相互交织。就像火一样，它能取暖烧饭，但也可能烧掉你的房子。当前，也有相应的策略来控制这种危险。”

库兹韦尔还称：“要想比计算机做得更好，我们要变得越来越聪明，而我们创造这些工具就是为了增强人类的能力。”

　　库兹韦尔预计，到本世纪30年代，人类将进化成半机械人，通过神经系统直接就能进入虚拟现实(VR)和 增强现实 (AR)世界。他说：“届时人人都将变成幽默大师，音乐造诣高超， 智慧 过人。”最终，会有许多贝多芬和爱因斯坦诞生。此外，血管中的纳米机器人还能治疗疾病，从身体内部治愈我们的身体。

库兹韦尔认为，马斯克的设想可能会成真。人工智能可能很友好，但也可能不够友好。一旦反叛，人类必须要与之一战，而唯一的战胜方式可能就是再开发一个更聪明、听从人类指挥的人工智能机器。

　　对于机器人替代人类的说法，加州大学伯克利分校计算机科学教授鲁塞尔并不认同。他说，如果机器人替代了人类，这世界上就没有意识存在了，无论它们创造出多少令人震惊的事情，这可能是最大的悲剧。博斯托姆也认为，这样的世界相当于是“没有孩子的 迪士尼 乐园”。

鲁塞尔说：“有人认为，如果机器人在智力上超越人类，它们就会占领地球，并赶走人类。但也有人认为，我们可以把自己的思维上传到机器体内，这样就能进化成有意识的机器人。但我认为，这种想法完全不可信。”

鲁塞尔也不认同Facebook人工智能研究院院长、“卷积神经网络之父严·乐村(Yann LeCun)的观点。乐村认为，电影《机械姬》(Ex Machina)或《终结者》(Terminator)中的场景都不会出现，因为机器人没有人类的基本欲求，包括饥饿、权力、生育和自我保护。

对于“无需担心人工智能威胁”的观点，支持者通常有两大理由：其一，这根本不会发生；其二；我们可以再开发一些机器人同盟军，来对抗背叛的机器人。鲁塞尔对这两个理由给予了反驳，称第一个理由就好比在说，我们正驾车驶向悬崖，但在到达之前，汽车油量一定会耗尽，这不是管理日常事物的良好方式。至于第二个理由，鲁塞尔说：“如果你的机器人不同意你的计划，如何与它们结成一个团队？”

去年，微软关停了自家人工智能聊天机器人Tay。本来，微软对Tay寄予厚望，但上线后不到一天就开始发表不当言论。马斯克随后表示：“看吧，让聊天机器人变成希特勒，微软只花了一天时间。”

　　 六、人类将走向 何方 ？

37岁的尤德科夫斯基是加州大学伯克利分校机器智能研究所(MIRI)的联合创始人，他试图弄清在现实中(而不是理论上)人类究竟能否根据意愿指挥人工智能。

在接受采访时，他率先抛出了一连串的问题，“假如你想为人工智能安装一个紧急关闭按钮，它会允许你安装吗？它会试图弄掉这个按钮吗？它愿意让你按下按钮吗？出问题时它会自己按下按钮吗？如果它能自行更改设置，它还愿意保留这个关闭按钮吗？我们正在研究这些问题，这些都不是简单的问题。”

尤德科夫斯基认为：“人工智能想夺权根本不需要控制整个互联网，也不需要无人机。人工智能的危险不在于它们手上有枪，它们之所以危险，是因为比人类更聪明。假设它们能根据DNA信息来预测蛋白质结构，只需发几封邮件给实验室，就能合成特定的蛋白质。这样，它们很快就会拥有自己的分子机器，还能建造更高端的分子机器。 ”

尤德科夫斯基说：“预测人工智能的威胁，不要想象科幻电影中红着眼睛的人形金属机器人，它真正的威胁来自那些看不到的、由金刚石构成的合成细菌，它们会载着微型电脑进入人类血液。之后，只要它们释放一微克的肉毒杆菌毒素，人类就会倒下。当然，人工智能究竟会不会这样做，目前还很难预测，因为届时它们的智力已经超越人类。因此，当你制造一个比你还聪明的事物时，第一次尝试就不能出任何差错。”

再回到之前对马斯克和奥特曼的采访，他们也认为，不要被单纯的“杀戮机器人”所分心。马斯克说：“人工智能的的恐怖之处不在于它要化身为机器人，相反它会成为网络上的算法，最终机器人就会变成终端效应器，无限的散播是最难阻挡之处。”

马斯克还举例说：“假如你开发一个可以自我升级的人工智能来摘草莓，这个人工智能可以干得越来越好，摘得越来越多。但是，它想做的事情就是摘草莓，所以可能把全世界都变成草莓园，而且永远都是草莓园。这样，人类就没有生存空间了。”

奥特曼也表示：“一个能控制整个互联网的人工智能算法，要比控制机器人的人工智能算法更强大，因为我们的生活早已与互联网密不可分。”

当被问及人类能否开发出用来终结人工智能机器人的”紧急按钮“时，马斯克说：“我是不想成为那个手持紧急按钮的人，因为人工智能会第一个来杀掉我。”

奥特曼则开玩笑地说：“活着真好。未来几十年，人类要么走向自我毁灭，要么殖民宇宙。”

　　马斯克补充说：“是的，如果你相信宇宙‘热寂理论’，那么我们已经都 在路上 了。”“热寂理论”是猜想宇宙终极命运的一种假说。在这样的宇宙中，再也没有任何可以维持运动或是生命的能量存在。