海牛电台：机器人与人类之间自我意识的差异

音频整理：Miracle
配图：网络

发动机已启动，随时可以出发！——布里茨

本期海牛电台，就来讲述蒸汽机器人和他身上的故事。

内容整理于海牛电台第34期

主讲人：Riot Xie、Riot Guan、荔枝电台沉默姑娘

今天我们来聊聊布里茨。祖安的英雄已经差不多快被我们聊完了，而几乎每个英雄的背景里都多多少少地会涉及到布里茨。上一期已经提到过，这一期我们将会就着布里茨的背景故事聊聊 人工智能 。

说到人工智能相关的经典科幻片非常多，比如《黑客帝国》、《机械公敌》，其中威尔·史密斯的坐骑RSQ2035在当年看来是如此科幻，如今固特异轮胎却已经宣布他们发明出了和电影中一样的球形轮胎。为了庆祝英雄联盟mac客户端上线的皮肤 苹果 机器人，英文原名是iBlitzcrank，一方面玩了iPhone的梗，另一方面正是致敬了电影《I, Robot（机械公敌）》。当然，如果只是就皮肤外形来说，苹果机器人的造型与《机器人瓦力》中的Eva也有异曲同工之妙。

阿西莫夫的《两百年人》

布里茨的旧版故事原型几乎照搬了阿西莫夫的小说《两百年人》。除开第二版中去掉英雄联盟的概念之外，第一版和第二版背景故事的情节相差无几：布里茨最初是为了清除祖安肥料而被维克托创造出来，维克托的老师斯坦威克教授动了贪念，企图窃取学生的研究成果。双方争夺之下，布里茨趁人不备逃了出来，然而，获得自由的布里茨并不知道何去何从，为了寻找自身存在的意义而在瓦罗兰大路上四处游历——似乎不管是不是人类，自我意识必定伴随着“人生三大问”的困扰：我是谁？我从哪里来？我要去哪里？

原来的背景故事其实是在讲述布里茨不满足于成为“物件”，为自己争取自主权的过程，原型正是阿西莫夫的小说《两百年人》。讲到这里，主讲Riot Xie就必须向读者朋友吐血推荐一波阿西莫夫的小说了，阿西莫夫的《基地三部曲》被誉为“人类想象力的 极 限”，几乎所有后来的科幻小说都超越不了阿西莫夫的作品所达到的边界。

《两百年人》讲述的是一个机器人在两百年间努力争取成为“人”的权利的故事。布尽管布里茨的故事梗概与这部小说相去无几，但原著却透露出各种耐人寻味的细节。表面上描写的是机器人成为人的故事，背后却反映出阿西莫夫对“人为什么为人”的深入思考。

故事的主角是一位名叫安德鲁·马丁的机器管家。有一天，他所服务的家族的小女儿发现安德鲁很擅长做木雕，于是将他的作品拿去给父亲，也就是安德鲁的主人。主人看到之后非常欣赏，于是将安德鲁的作品拿去市场售卖。拿到收入之后，他为安德鲁在银行开了一个账户，并将售卖的一半收入存入了这个账户中。后来，安德鲁向主人表露出希望获得自由的意愿。主人回答他，自己非常担心，如果安德鲁公开了他的非人身份，那么安德鲁银行的存款很可能被银行认定为非法而遭到没收。尽管如此，安德鲁的主人还是同意给他自由，过了不久他就病死了。——从这一段情节我们便可以看出，在让机器人成为“人”的过程中，阿西莫夫认为最为重要的并不是生理或技术上的限制，最为重要的就是经济独立！这也是阿西莫夫区别于同时代其他科幻小说作家的关键点之一，相比其他人第一时间想到的，机器人该吃什么喝什么，他的思考显然更加有厚度。

后来，安德鲁为了扩充自己的词汇量打算去图书馆补习。在那个还没有发明互联网的时代，安德鲁不慎迷路了。人类见状捉弄迷茫的安德鲁，威胁着要拆掉他。虽然事后被原主人的孙子救了下来，但从此以后，致力于为机器人争取不受人类伤害的权利。安德鲁原主人的孙子是一名律师，在他的帮助下，保护机器人的法律最终获得了通过——这是阿西莫夫小说体现出的第二点，机器人要成为“人”，在获得经济独立的基础上，需要得到法律与制度的保护。

最后是生理上的改造：安德鲁安装了消化系统、排泄系统，他的外貌和皮肤经过改造也与常人无异。尽管按照人的标准改造并不见得十分客观，这也是科幻小说三巨头阿西莫夫 海因莱因、阿瑟克拉克的共同点：他们笔下的未来世界有着田园牧歌式的美好氛围，和蒸汽朋克、赛博朋克中反映出的残酷、高压的未来社会截然不同。但是，人们仍然不接受他——人们对于他“不朽”的特性感到十分恐慌。只有会死亡的，才能算作人类。所以在故事的最后，安德鲁要求人类修改他的大脑，让他可以自然衰退。在他两百岁的生日上，国家与政府正式承认了他作为“人类”的身份，不久，安德鲁便满足地与世长辞了。

关于进食、生殖等动物也具备的基本能力，阿西莫夫并没有重点关注，从他的作品中，我们可以看出，经济独立，法律保护，和与其他人类同处一室的社会属性，才是人之所以为人的必要条件。其中，死亡是人类必不可少的社会属性，并非只是单纯的自然过程。在32期讲述维克托的专题中，我们讨论过存在主义反对永生的观点，如果没有死亡，那么每人人生经历的可能性都是均等的，那么讨论人的本质也就失去了意义。尽管人人都向往永生，但宏观上讲，整个社会与、道德体系是畏惧永生的。

不是机器人的蒸汽机器人

虽然大陆服务器译为“蒸汽机器人”，其实布里茨的英文称号中并没有robot这个单词，他的称号the great steam golem台服译为“蒸汽巨神兵”。Golem在《圣经》中出现过一次，包含两层含义：1.无定型的物质；2.胚胎。所以golem被创造的时候就蕴含了“原始状态下的人类”这一层涵义，这也就不难理解为什么原版的故事总是在围绕“变人”这一主题展开了。然而，随着奥利安娜和扎克故事的更新，“变人”的主题一再出现。比起布里茨，扎克更是“无定型”的“胚胎”，他是“人性”的具象化。在扎克的故事中探讨了并非只有人才有人性，人性可以靠后天的模仿获得，而在奥利安娜的故事中，奥利安娜由人变为机械，再以机械之身寻找自我的过程中，探寻对“人”的本质的思考——对“人类”而言，自我意识的重要性是高于外形和出身的（或许这正好解释了拳头后来出了一大堆不是英雄都不是人形的原因吧）。奥利安娜和扎克为了寻找自我，各自出发在瓦罗兰大陆上流浪。但皮城和祖安背后千丝万缕的明争暗斗是世界观的重要背景，一个没有找到自我、立场不稳定的英雄很难融入纷争的大背景。就比如《复仇者联盟》中的绿巨人浩克，因为自我认知痛苦不堪的他总是在大规模冲突中的不稳定因素。与他相反，钢铁侠之所以是整个联盟的核心，正是因为他的人格非常完善、几乎从不会动摇自己的立场。因此，在新版的故事中，为了与两派对立的大背景相容，布里茨的故事已经不再围绕“变人”的主题而展开了。

不过怎样才能判断机器人具有了自我的意识呢？

扫地机器人在家庭中已经越来越普及了。如果扫地机器人只是将户主家中各个角落走一遍吸走所有灰尘，似乎还不能算是“机器人”，充其量算作“机器”。但扫地机器人可以在自己没电的时候找到家中的插头自己充电，看起来有了那么一丝“人性”的感觉，貌似变得可爱了一点。另外，高配的扫地机器人在初次启动的时候会首先在家里“探探路”，在“脑子”里构建出户型平面图，今后做卫生的时候就不会撞墙，也会避开障碍物了——那么，如果对一个不知道其中原理的人，高级的扫地机器人和家政阿姨有什么区别呢？这个例子与约翰·希尔勒在1980年提出的“中文房间（Chinese room）”思想实验其实语出同源。作为反驳强人工智能（人类具有自我意识，机器人没有）的论据，他提出这个实验以验证“什么才是意识”：假如将一个完全不懂汉语的人关进一个封闭的房间，房间里有所有关于中文的语法和词汇资料。外面的人向房间里递进中文问题，房间里的人尽管对中文一窍不通，他能根据资料完善地回答外面的人的问题。那么房间外的人永远也不知道里面的人会不会中文。那么在外界眼里，就会认为房间内的人懂中文——一旦将房间替换为大脑，那么问题就来了：人工智能到底算不算具有意识？

假如你家的扫地机器人有一天作出你理解之外的举动，它用并不知道的原理做到了人作出的判断，是否可以认为机器人就具有了“意识”呢？当面对行为越来越复杂的个体时，而人无法理解其中原理，人总是倾向于认为，这个个体具有意识。著名的图灵测试就是这样：将人工智能和人类分别放在两个房间中，假如外面的人问了许多问题都无法分辨方便中的究竟是人工智能还是人类，就说明这个机器通过了图灵测试。不过令人恐惧的是，如果人工智能真的发展出人类所谓的“智商”，那么理论上存在故意不通过图灵测试的人工智能。这个假说引来了新的猜测：会不会人工智能早就出现了，只是我们真的没有办法分辨？在Alpha Go初亮相时就有一种说法，其实Alpha Go故意输掉最后一局，以免让人类认它为威胁。

回到布里茨的话题，布里茨最初被创造出来时，给他的任务是清除化学肥料，救助受害者。布里茨救助受害者的方式是改变供水与食物供给系统。所有机器人小说中最精彩的部分，就在于人对自己的反思。按照布里茨的逻辑，他认为最好的帮助人类的方法就是先让自己成为“人”。艾克的背景故事中有这样一句话，形容祖安是一座“充满活力的城市，时刻都洋溢着力量和潜能。”这也许就意味着，祖安正期待着一场革命。尽管布里茨对祖安的问题心知肚明，与艾克一样的热血小青年不同，与其用一己之力改变祖安，他希望通过改良主义的手段改变家乡。结合前面布里茨获得意识的情节，我们也许可以作出推测，布里茨希望改善人们的生活条件、避免人们受到伤害，让更多人在力所能及的范围内过上更好的生活。政治课本上说，阶级矛盾根本上是生产力的矛盾，在生产力蓬勃发展的社会中，是不存在阶级矛盾的——这就是布里茨的思路，他希望平衡生产力与生产关系，避免暴力革命的发生，又能改善家乡的面貌与人民的生活。尽管布里茨的想法非常理想化，甚至有些天真，但是比起执行命令的简单机械，布里茨明显表现出了“思考”的过程，他想从源头上解决问题。

尽管新版故事中，布里茨使用了维克托的工具箱，打开了自己的机体，解除自己行为上的限制。虽然人们不知道他是如何改造自己的，也不知道布里茨究竟在什么时候具有了意识。但这是否正说明了，当个体的行为复杂程度超出理解的时候，就能认为这个个体具备了意识呢？就像没有人能说出自己是怎样从婴儿具有意识的，布里茨似乎也是慢慢进化出智能的。

人工智能的未来是什么

现在流行的人工智能理论将人工智能分为弱人工智能（如GPS导航、扫地机器人）、强人工智能（自主性模拟，深度学习，自我改造，神经网络学习，如Alpha Go的发展方向）和超人工智能（超过人类）。假如真的有超人工智能，那无疑是“神”一般的存在。这也许正是人类畏惧的。然而，搜索引擎、GPS导航都是人类研究和发展的方向，搜索引擎已经越来越往“中文房间”的方向靠拢，那么人类究竟害怕的是什么呢？

我们孜孜以求发展人工智能，最根本的原因还是为了探寻人类自身。阿西莫夫提出了著名的机器人三定律。但看似滴水不漏的定律中事实上有很多空子可钻，也许当人工智能发展到一定高度的时候，人工智能完全可以在不违背三定律的情况下，作出违背一般常理的行动。即便在阿西莫夫自己的小说中也对自己提出的定律进行了思考：机器人三定律事实上是人类的行为准则：保护自己、在必要的情况下听从他人的意见、不能伤害彼此。上一期提到的《屠杀器官》中，曾经探讨过，人类的“良心”，其实是后天形成的。但它是在人类进化过程中被保留下来的，维持人类社会所必须的“本能”——人类是依靠集群生存下去的，尽管群体中会出现背叛者，但维系人类社会不能靠互相背叛，而是靠互相信任。因此在进化过程中，是道德被保留了下来，而非背叛。

尽管情感作为更高级的意识形式，在我们讨论的人工智能尚未涉及到。但随着人工智能的发展，人工智能具有了情感，当人类与人工智能之间产生更亲密的关系之时，也许就会有人为了人工智能的权利挺身而出，从而引发更为深刻的革命。这一情节已经出现在了阿西莫夫的《基地三部曲》中。

说到人对物件的移情，在这里主讲Riot Xie向大家推荐帕拉尼克（《搏击俱乐部》原著作者）的短篇小说《出埃及记》和《肠子》。尽管《肠子》在国内更为著名，但主讲墙裂推荐的是他的《出埃及记》——完美地写出了对“物件”的人一般感情。和历史上的出埃及记类似，小说描述了被人损害的玩偶成群结队，想要离开迫害他们的地方。帕拉尼克的功底厚积薄发，不动声色地表达出幽默又感人的情节。

尽管有人畏惧，但人工智能的发展是不可阻挡的。然而，人工智能究竟会向何处发展？我们对人工智能的理解是否正确？人工智能的尽头在哪里？短短一二十年中，固定端的互联网已经完全变成了移动互联网，4G信号已经完全普及。那么人工智能的未来究竟会如何，没有人知道。

从奥利安娜、艾克、扎克、金克斯到布里茨。每个英雄或在追求自身存在的意义，或像布里茨一样，通过不断地帮助他人完善自己的人性。我们可以发现，拳头的背景架构设计师在描绘祖安英雄的过程中所传达出的——无论长相与出身，最重要的是你的心与意志，是否强大到足以超越平凡。