【HI+AI：人机协同 赋能未来系列】机器会产生自我意识吗？

　　

编者按：

计算机领域的热点总是在不断更替，从大数据到云计算再到人工智能，这些热点的背后离不开专家学者们在这些领域一点一滴聚沙成塔的技术突破。关于人工智能，我们见证了近年来它从默默无闻到炙手可热的过程。继去年《 我们需要什么样的机器人 》之后，微软全球资深副总裁、微软亚太研发集团主席兼微软亚洲研究院院长洪小文再一次亲手撰写文章，与我们进一步分享了他对人工智能的见解与洞察，归纳起来就是《 HI+AI：人机协同 赋能未来 》系列。在这一系列三篇文章里，洪小文博士将与读者交流AlphaGo战胜李世石这一标志性事件背后的意义，深入浅出地与我们探讨了人类智能与人工智能的区分与联系，以及我们应当如何看待人类与人工智能的关系。

《机器会产生自我意识吗？》是《HI+AI：人机协同 赋能未来》三篇系列文章的下篇。 在本文中，洪小文博士以“中文房间”为例子告诉我们，现阶段的人工智能还很弱，离实现强人工智能还很远，而在眼下，HI+AI、人类创意无限的右脑+机器的最强左脑才是赋能未来的最佳路径，最终实现人类与机器的Co-Evolution。

机器会产生自我意识吗？

洪小文

大脑（ Brain ）、心灵（ Mind ）、意识（ Consciousness ），这是一回事吗？

我认为不是。

在我看来，大脑是一种物理存在，心灵和意识则看不见、摸不着，只能自我感知。

“我”这个词来自于心灵对自身的一种定位和认同，心灵决定了“我”是怎样一个人、为什么和别人会有不一样的反应，意识则像时刻都在流动的运算程序，具有工具性质，它们都寄存在大脑和神经等物理存在里。

关键是，即使今天我们已经有本事上天下海、还能教机器学会很多事情，我们对人类自身的心灵和意识的了解却依然有限，未解之谜还有很多。比如，当医生把一个人的大脑和身体分开，这个人的心灵和意识会有什么变化吗？如果把这个人的大脑移植给另一个人呢？――在后者的“新”大脑里储存的那个“我”，究竟是谁？

又比如，当我们处在睡梦中，意识却可能继续剧烈活动，梦中的“我”甚至登上了火星，这时候，我们的意识是留存在大脑里，还是真的光速般去了火星？……

　　

纽约州立大学心理学家小戈登·盖洛普（Gordon Gallup Jr.）主持的“镜子测试”表明，猩猩、大象和海豚似乎能认出镜中映像是自己，这说明这些动物已聪明到具有自我意识，那它们也有心灵吗，也有坚定不移的“我”的定义吗？有没有虔诚的信念和顽固的怀疑？相比之下更加常见的猫和狗平素也有相当不俗的智力表现，却常常搞不清镜中映像究竟是不是外来动物而把自己吓一跳，如果不能确定它们是否也有明确的自我意识，它们又是怎样界定自身和主人的相对关系呢？

最近我在工作之余拜读了耶鲁大学计算机科学教授大卫·格兰特（David Gelernter）的新书《心灵潮汐：揭示意识光谱》（The Tides of Mind: Uncovering the Spectrum of Consciousness），感悟颇深。在书中，格兰特教授援引了马塞尔·普鲁斯特、弗兰兹·卡夫卡、弗拉基米尔·纳博科夫、欧内斯特·海明威等许多作家的故事为例证，解析了创造力的潮汐状周期性特征：当人们处在光谱的上端，也就是意识的高潮期，就会聚焦于外部世界、侧重逻辑推理和经验记忆，而当人们落在光谱的下端，即意识的低潮期，就会偏向于内视心灵、在交叉混乱的叙事脉络与梦境漫游般的狂欢中捕捉创意的火花。

创造力确实并不仅仅在专注和冷静的状态下爆发。杜甫在《饮中八仙歌》里说：“……李白斗酒诗百篇，长安市上酒家眠……张旭三杯草圣传，脱帽露顶王公前，挥毫落纸如云烟。”若照常理判断，喝酒会影响诗人与书法家的创作状态，但在现实中，诗仙和草圣却因为饮酒而进入到光谱下端，实现了创意的超常发挥。

这样的案例还有很多：在完全失聪的情况下，贝多芬创作出不朽的经典《第九交响曲》；深陷精神失常的痛苦深渊，梵高创作出《向日葵》、《星月夜》等传世名作。1864年冬，潜心研究苯结构而没有进展的德国化学家凯库勒在对着炉火打盹时，梦见咬着自己尾巴的蛇在他眼前转动。醒来后，他写出了苯的结构式，恰恰就是首尾相连一个环……可见，在受到某些特定因素影响时，大脑――特别是右脑――活动很不寻常，这当然不一定都有助于创意的发挥（更多时候应该只是胡思乱想），却也有可能迸发出一些在正常情况下藏得很深、从未闪现的灵感。

　　

我们当然可以好像很科学地说，当某些看似完全无关、并不搭界的思维被人的脑桥意外接在一起，创造力也由此而来。但这“科学”程度也只是好像而已，人类的精神世界到目前为止仍是一片远在我们掌握之外而因此继续值得我们保持敬畏的领域。

无所不在的创造力使人们无论在意识的高潮期或是意识的低潮期常常都能有所发现而收之桑榆，人类教师在传道授业解惑之际也会注意因才施教，遇到某位学生不太能理解自己讲授的知识就会考虑换一种教法，设法让学生达至豁然开朗之境界。若是换成机器来教课，恐怕只能依循预设的程序来“灌输”信息，至于随机应变、触类旁通、举一反三的能力，那是没有的。

继续推论――首先，今天的人工智能仍旧很弱。“中文房间”（ The Chinese room argument ）是上世纪八十年代由美国哲学家约翰·塞尔（ John Searle ）提出的一项思维实验。假设在一个密闭的房间里有一个人，只会中文的你仅能通过小纸条和房间里的人交流。当你发现传回来的纸条上，你的每个问题都得到了语意确切的中文回复，这时你还会怀疑房间里的人是否懂中文吗？事实却是，房间里的人根本不懂中文，他拥有的不过是一套假设涵盖了所有中文问答的工具，包括中文字条（数据库）和如何使用这些字条的手册（程序），通过这套工具就能正确找到你要的回答而“回应”你的问题，却同时对谈话内容一无所知。

“中文房间”实验很好地说明了计算机的工具性本质：计算机虽能完成一些特定的任务，但并不代表计算机就能理解这些任务――今天的 AI 几乎都属于这一类。

　　 中文房间视频

更直白地说，无论是 Skype Translator 实时语音翻译，还是 Watson ，归根结底都属于弱人工智能（ Weak AI ）范畴，不是基于对信号和数据意义的理解而生――它们就像“中文房间”中拥有工具的人，只是信息的处理者，却无法真正理解接收到的信息，更谈不上拥有发展出意识的潜能。

对弱人工智能有两种定义，一是聚焦单一任务本身――所以它又称为狭义的人工智能（ Narrow AI ），二是只有结果没有理解。不过，弱人工智能其实并不弱，它也是很有价值、有益于用户的。若能与传感器网络、大数据等、云计算等技术结合，弱人工智能还是可以具备超越人类的某些能力，因为它本身就是一个专家系统，实际上在经济、科技、民生等各领域都大有可为。

其二，目前看来，强人工智能仍旧遥不可及。我在卡内基梅隆大学的导师罗杰·瑞迪 （ Dabbala Rajagopal “Raj” Reddy ）曾任卡内基梅隆机器人研究所创始主任和美国人工智能协会主席，主攻人工智能和机器交互研究 ，开发出全球第一台具有连续语音识别能力的系统，因在大规模人工智能系统之设计与构建的先驱性贡献而于 1994年获得图灵奖。

瑞迪教授的老师是约翰·麦卡锡（ John Mc Carthy ）―― 1956 年，在美国新罕布夏州的达特茅斯学院举办的一场学术会议上，约翰·麦卡锡首次提出了人工智能（ Artificial Intelligence ）的概念，因而被后辈学者尊称为“人工智能之父”。

我的两位老师都认为，今天业界所做的“人工智能”研究与当年他们的创新思路是有分歧的。若按当前的主流路线，弱人工智能只能在专用的、受限制的轨道上越走越远，若要人工智能由弱变强，还得回到认知论的经典道路上。

　　

与弱人工智能相比，强人工智能（ Strong AI ）是真的能够理解信号与数据的意义，并由此具备人类所有或大多数的能力。但是这种通用的智能其实也可能很弱，就像人类很难同时对所有的事情都精通，也不可能一直保持着意识的高潮，通用人工智能可能具备很多能力，但每一样都很弱。但另一方面，正是因为这些不完美而让人类的存在如此微妙，并在不完美中迸发出各种奇思妙想。

有人问过约翰·麦卡锡，强人工智能何时才能成真，他的回答很耐人寻味：也许 5 年，也许 500 年――我的看法是，在理论基础尚不完备、对人的意识和创造力尚未充分了解的前提下，在架构与平台暂无标准、应用探索刚刚开始的前提下，恐怕真需要等上 500 年，强人工智能的萌芽才会钻出土壤。

毕竟，人的大脑、心灵、意识是如此的玄妙，以至于人类自己或许永远也搞不清楚，更何况是无机体的机器呢？

对此，大卫 · 格兰特的观点是 ，计算机可以模拟理性思考，但很难具备真正的意识，意识不属于计算机，只属于有机体。我认同这个观点。心灵、意识和创造力有极大的关系，很多人的创新来自激情而不是理性。这就意味着我们几乎不可能造出拟人的、有意识的机器。从算法、意识到创意，人工智能若要向更高的智力与智慧阶梯跃进，就要踏踏实实一步步跨越这些障碍。

其三，人工智能并不可怕。计算机是有史以来人类最伟大的发明创造之一，它可以被赋予人类发明的不同算法，进而不断掌握新的能力――很强大不是吗？但更强大的人类创造物也还有一些，比如核武器和航天飞机。所有这些机器都可以被人类利用做各种不同的事，至于究竟是好事还是坏事，只由其使用者的心灵和意识决定――科幻小说作家阿西莫夫提出的“机器人三定律”，从表面上看像是用来约束未来的人工智能机器人，但究其实质，每一条何尝不是对人类创造者的警示？

我们应该担心的，不是人工智能将会强大到颠覆人类统治的地步，而是即便人工智能被越来越多业界领袖企业寄予厚望、不吝资源而加速研发，但迄今为止相关领域的技术进步仍不足以孵化出真正拥有创造力、能够通过自我学习解决未知问题、提出新思维的机器。不过，令人欣慰的是，人工智能正在与机器学习和大数据构成一个足以改变未来的技术“铁三角”；随着我们的探索趋向纵深，在不久的将来，这个“铁三角”将有可能像 PC+ 互联网那样彻底改变人类的生活格局和商业版图。

总而言之，人类创意无限的右脑 + 机器的最强左脑，这才是赋能未来的最佳路径。唯有潜力无穷尽的人脑才能催生出更先进的算法和能力进化更快的“聪明机器”，人类也因为有了聪明机器的帮助而不断进化，加深着对自身的了解、对计算机技术的理解，以及对更多未知领域的探索，从而实现人类与机器的共进化（ Co-Evolution ）。

你也许还想看：

• 【HI+AI：人机协同 赋能未来系列】计算机是最好的左脑

• 【HI+AI：人机协同 赋能未来系列】机器棋手背后的人脑实力

• 对话|俞栋：在人工智能的很多应用场景，语音识别是一个入口

　　 感谢你关注“微软研究院AI头条”，我们期待你的留言和投稿，共建交流平台。来稿请寄：msraai@microsoft.com。

　　 微软小冰 进驻微软研究院微信啦！快去主页和她聊聊天吧。