【书评】人工智能毁灭人类：21世纪末日论的新变种

注：本文系《超级智能：路线图、危险性与应对策略》一书的书评。

2015年12月，一家位于华盛顿的智库机构「信息技术及创新基金会」(IFIT)公布了年度卢德奖提名，电动汽车公司特斯拉CEO 伊隆・马斯克榜上有名。卢德奖顾名思义，源自于19世纪那个破坏机器的英国工人卢德，因此，该奖项致力于评选当年抗拒新技术实施的名人。马斯克的身旁并不孤单，微软创始人比尔・盖茨、著名科学家斯蒂芬·霍金都成为马斯克的重要「盟友」。

早在差不多两年前，伊隆·马斯克就在社交媒体上推荐了一本书，并表达了他对于人工智能的态度：「我们需要超级关注人工智能。它的潜在危险性超过核武器。」

这本书就是尼克·波斯特洛姆的《超级智能：方法、危险和策略》，2014年，该书一举成为《时代周刊》年度畅销书，而在2015年，该书译成中文。

尼克·波斯特洛姆何许人也

尼克·波斯特洛姆是谁？为何能成为硅谷众多科技大佬的座上宾？不妨来看看他的「个人简历」。波斯特洛姆出生于瑞典，在瑞典完成大学教育，随后来到英国，并在伦敦经济学院取得博士学位。期间，他热衷于未来主义和超人类主义的研究，并创办了世界超人类主义协会。

2015年，尼克·波斯特洛姆在英国牛津大学建立了一个名叫人类未来研究院的机构，探索人类未来与技术发展的关系，以此为主要阵地，借助于其在物理、计算机科学、数理逻辑，以及哲学方面的知识背景，波斯特洛姆开始在重大技术问题上发出自己的声音。

波斯特洛姆曾这样描述人类未来研究院的主要工作：

我们着眼的不光是短期和暂时的东西，而是真正长期有效果的行动。很多时候，我们的任务就落在研究最危险的「存在性风险」（Existential Risks）上：比如地球上的智慧生物灭绝的可能性；比如人被锁进激进而极端的状态中，永远走不出来……

正是在这样的研究背景下，波斯特洛姆的这本新书《超级智能》的观点就不足为奇：当机器具备与人类同等的智能时，这种机器的超级智能将给人类带来毁灭。

何谓超级智能？

波斯特洛姆这本书以一个寓言故事开始，故事讲述了一群麻雀思考如何让猫头鹰接管自己生活的念想：某天，一群弱小的麻雀在一起，讨论「寻找一只猫头鹰协助打理生活」的可能性。大部分麻雀都陶醉于美妙的想像中：这只强大的猫头鹰可以帮它们筑巢、照顾家人、提防天敌——猫……这时，一只叫斯克罗恩科芬克尔的麻雀提出了质疑：「这样做，将是我们的末日。在有这种想法之前，我们为何不先想想驯化猫头鹰的方法呢？」但绝大部分麻雀都听不进去，纷纷出发去寻找猫头鹰蛋了。

尼克·波斯特洛姆

很显然，这个故事放在当下的语境下就是人类与机器之间关系的写照：人类几代人前仆后继地探索可以「帮助人类更好生活的机器」，却在不经意间忘记了这些智能机器或许就是人类的末日，也没人去关注我们是否或者应该如何驯服机器。这个故事也成为本书立论的起点，波斯特洛姆并未提及故事的结尾，他只是一笔带过：「本书能为斯克罗恩科芬克尔和它的麻雀伙伴们提供帮助」。

尽管超级智能一词在本书中出现的频率非常高，甚至也是本书的书名一部分，但很遗憾，就连波斯特洛姆也承认，要为超级智能下一个准确的定义非常困难，这也成为本书最大的一个硬伤，作为读者的我们，只能从如下一些只言片语中「感受」这个定义：「在几乎所有领域远远超过人类的认知能力……」 「正如前文所说的那样，我们用超级智能来找代在许多普通的认知领域中，表现远远超越最聪明的人类大脑的智能。」

波斯特洛姆也承认，「这个定义十分模糊，按照这个定义，许多系统具有迥然不同的性能特质，都可以被归入超级智能。」因此，波氏换了一种思路，试图从目前一系列智能表现形式中再次归纳出一个「超级智能」的模样。比如他总结了当下五种通往超级智能的路径：

• 人工智能：通过编写完全模拟人类思维的程序，并兼具学习进化能力；
• 全脑仿真：通过精细扫描人类大脑，将原始数据输入计算机，然后构建起一个完全模仿人类大脑的智能程序；
• 生物认知：通过人工育种实现优生来求得智能上的突破；
• 人脑与计算机交互：将一块纳米级的芯片植入到人类大脑，实现新型的人机交互；
• 人类大脑之间互联：这种方式不仅会产生新的人机交互，而且还会产生诸如集体智能等新的智能形式.

波斯特洛姆认为，上述五大路径图中，「最有可能出现的超级智能是人工智能和全脑仿真，尤其是前者。」至此，本书的论题也从所谓的超级智能「平稳过渡」到人工智能，换言之，波斯特洛姆要警告人类，所谓超级智能将给人类带来的危险，也就是人工智能带给人类的危险。

那么，人工智能真的能有如此大的威力吗？

关于人工智能真相

近几年来，人工智能逐渐成为一门显学，以至于很多人误以为这是一个随着互联网发展尤其是智能手机发展后出现的「新词」，殊不知，人工智能这个词的历史到2016年已超过半个世纪。1956年，包括克劳德·香农（信息论创立者）在内的数十位数学家、计算机学家在达特茅斯召开了两个月的学术会议，会议的主题是：用机器来模仿人类学习以及其他方面的智能。这个会议虽然没有达成普遍的共识，但是却为会议讨论的内容起了一个名字：人工智能（Artificial Intelligence）。

彼时，一股科学乐观主义让越来越多的科学家认识到，人类离征服自己的大脑越来越近。事实上，经历过二战的科学家们认为，机器在某些方面已经超越了人脑。电影《模仿游戏》中，为了破解德军的密码，科学家阿兰·图灵力排众议，坚持用机器来实现人脑根本无法实现的目标。这样的乐观主义情绪也在达特茅斯峰会上得以体现：「那是一个尝试，找寻一种方法让机器能够使用语言、形成抽象……和概念、解决现在只有人类才能解决的问题，而且还会自我完善我们认为只要精挑细选一些科学家一起工作一个夏天，至少在一个或是更多的问题上就能有显着的进展。」

但现实的残酷性令人工智能这个词几乎在半个世纪内远离主流话语权。50、60年代的乐观和雄心在70年代渐趋衰退，并迎来一场寒冬，而80年代末期短暂的复苏不久再次陷入困境。这段历史很长一段时间不被大众知晓，而我们真正意识到的所谓人工智能，应该是1997年的深蓝计算机挑战卡斯帕罗夫。比赛的结果令人震惊，站在世纪之交的历史节点，「机器人在可预见的未来会达到人类智能水平」的预言既是对人工智能上个世纪的总结，也开启了21世纪人工智能发展的新纪元。

进入新世纪之后，人工智能在诸多领域取得重大进步，这得力于计算机硬件的长足发展、算法（软件）的改进以及巨额资金投入，在硅谷，不管是谷歌还是微软抑或是ＩＢＭ，都投巨资发展人工智能，并有了一些阶段性的成果，既１９９７年打败国际象棋冠军之后，ＩＢＭ又研发了新一代人工智能——沃森，并成功在一档智力竞赛节目《危险边缘》中打败所有人类选手；谷歌将人工智能技术部署在其多个产品线中，从人形机器人到在线相册的自动归类再到邮件的自动智能回复等等。

但倘若以此来推断人工智能即将让人类步入某个奇点未免牵强。首先，我们现在看到的绝大多数人工智能更像是增强智能（Advanced Intelligent），比如苹果手机上的Siri或者微软Windows 10中的Cortana，都是以人为中心，以延伸人类的智能为目标，波斯特洛姆以此为依据的推理实在不妥。其次，即便是严格意义上的人工智能，在现有的硬件，尤其是计算机发展进入瓶颈的语境下，短期内还很难看到突破的可能性。

正如《纽约客》对这本书的评价：这本书有一种「优雅」的悖论：一面展示了逻辑清晰的分析和论述，另一面又不时流露出像弥赛亚一样拯救世人的迫切。这种迫切感让本书里充满了「没有节制的猜测」，比如波斯特洛姆提出了这个问题：假设人工智能的 IQ 达到了 6455，会发生什么事？再比如他又强调：第一台超智能机器将是人类创造的最后一台机器，当然前提条件是这台机器足够听话并告诉我们要怎样才能控制它。 

事实上，即便是口口声声反对人工智能，伊隆·马斯克的特斯拉电动汽车已经开始推行自动驾驶，你当然可以不把他看作人工智能或超级智能，因为它还非常弱智，还不足以取代人类司机。而相比于伊隆·马斯克、比尔·盖茨这样的企业家，波氏理论盛行的「危害」可能更大，他对公众判断的误导以及左右政策的影响力也更大。

「信息技术及创新基金会」(IFIT)这样评价这群抗拒人工智能的人：「当前的人工智能能否发展成为完全自主的系统仍是一个备受争议的问题，但无可争议的一点是，这种可能的未来距离我们还相当遥远(更有可能是1个世纪，而不是10年)，因此担心人工智能形成自我意识只是杞人忧天。讨论这种富于科幻色彩的世界末日只会导致公众、决策者和科学家不愿投资支持人工智能的研究。」　

或许，警惕「警惕人工智能毁灭人类」将成为未来技术发展的又一个新战场。

【微信公众号：机器之心】