霍金再次警告，人工智能可能终结人类文明，我们无法抗争竟因为这个

物理学家斯蒂芬·威廉·霍金

4月27日—29日，由长城会主办的全球移动互联网大会在北京国家会议中心举行，物理学家斯蒂芬·威廉·霍金在移动领袖峰会上发表了题为《让人工智能造福人类极其赖以生存的家园》。霍金指出人工智能的成功必然会载入人类文明发展的史册中，但是它也有可能会对人类文明发展造成伤害。

人工智能具有消除贫穷和疾病的潜力，但在研究中应该警惕如何规避超级智能会带来的风险。

过去十几年里，在语音识别、机器翻译、图像识别、问答系统等领域取得了重大发展。霍金认为在短期内人工智能领域令人担心的一个方面是无人驾驶，另一个则是可能带来的大量人类工作将被AI取代。

人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。

未来，人工智能可以发展出自我意志，一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度，但其他人认为，人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力，但我并不确定。

简而言之，人工智能的成功有可能是人类文明史上最大的事件，但是也有可能是人类文明史的终结，除非我们学会如何避免危险。

在演讲的最后，霍金回答了来自傅盛、 李开复 等企业家的问题，部分对话如下 ：

Q ： 创新工场 的CEO李开复：互联网巨头拥有巨量的数据，而这些数据会给他们各种以用户隐私和利益换取暴利的机会。在巨大的利益诱惑下，他们是无法自律的。而且，这种行为也会导致小公司和创业者更难创新。您常谈到如何约束人工智能，但更难的是如何约束人本身。您认为我们应该如何约束这些巨头？

A ：据我了解,许多公司仅将这些数据用于统计分析,但任何涉及到私人信息的使用都应该被禁止。会有助于隐私保护的是，如果互联网上所有的信息，均通过基于量子技术加密，这样互联网公司在一定时间内便无法破解。但安全服务会反对这个做法。

Q ：猎豹移动CEO傅盛：“灵魂会不会是量子的一种存在形态？或者是高维空间里的另一个表现？”

A ：我认为近来人工智能的发展，比如电脑在国际象棋和围棋的比赛中战胜人脑，都显示出人脑和电脑并没有本质差别。这点上我和我的同事罗杰·彭罗斯正好相反。会有人认为电脑有灵魂吗？对我而言，灵魂这个说法是一个基督教的概念，它和来世联系在一起。我认为这是一个童话故事。

Q ：百度总裁 张亚勤 ：“人类观察和抽象世界的方式不断演进，从早期的观察和估算，到牛顿定律和爱因斯坦方程式， 到今天数据驱动的计算和人工智能，下一个是什么？”

A ：我们需要一个新的量子理论，将重力和其他自然界的其它力量整合在一起。许多人声称这是弦理论，但我对此表示怀疑，目前唯一的推测是，时空有十个维度。

Q ：斯坦福大学物理学教授张首晟：“如果让你告诉外星人我们人类取得的最高成就，写在一张明信片的背面，您会写什么？”

A ：告诉外星人关于美，或者任何可能代表最高艺术成就的艺术形式都是无益的，因为这是人类特有的。我会告诉他们哥德尔不完备定理和费马大定理。这才是外星人能够理解的事情。