中国工程院院士郑南宁：发展有助于人类的人工智能

不久前，围棋软件“阿尔法围棋”战胜围棋世界冠军李世石，让人们惊叹人工智能发展取得的成就。这是否意味着机器即将获得类人智能呢？现在得出这样的结论还为时过早，但确实需要思考人工智能的发展方向问题。

　　当前， 人工智能 在发展中面临三大挑战。第一大挑战是让机器在没有人类教师的帮助下学习。人类的很多学习是隐性学习，即根据以前学到的知识进行逻辑推理，以掌握新的知识。然而，目前的计算机并没有这种能力。迄今为止，最成功的机器学习方式被称为“监督式学习”。与老师教幼儿园孩子识字一样，机器在每次学习一项新技能时，基本上都要从头开始，需要人类在很大程度上参与机器的学习过程。要达到人类水平的智能，机器需要具备在没有人类过多监督和指令的情况下进行学习的能力，或在少量样本的基础上完成学习。也就是说，机器无须在每次输入新数据或者测试算法时都从头开始学习。

第二个挑战是让机器像人类一样感知和理解世界。触觉、视觉和听觉是动物物种生存所必需的能力，感知能力是智能的重要组成部分。在对自然界的感知和理解方面，人类无疑是所有生物中的佼佼者。如果能让机器像人类一样感知和理解世界，就能解决人工智能研究长期面临的规划和推理方面的问题。虽然我们已经拥有非常出色的数据收集和算法研发能力，利用机器对收集的数据进行推理已不是开发先进人工智能的障碍，但这种推理能力建立在数据的基础上，也就是说机器与感知真实世界仍有相当大的差距。如果能让机器进一步感知真实世界，它们的表现也许会更出色。要达到人类水平的智能，机器需要具备对自然界的丰富表征和理解能力，这是一个大问题。尽管围棋很复杂，让计算机在棋盘上识别最有利的落子位置也很难，但与精确地表征自然界相比，描述围棋对弈的状态显然要简单得多，两者之间的差距还要几十年甚至更长时间才能弥合。

第三个挑战是让机器具有自我意识、情感以及反思自身处境与行为的能力。这是实现类人智能最艰难的挑战。具有自我意识以及反思自身处境与行为的能力，是人类区别于其他生物最重要、最根本的一点。另外，人类的大脑皮层能力是有限的，如果将智能机器设备与人类大脑相连接，不仅会增强人类的能力，而且会使机器产生灵感。让机器具有自我意识、情感和反思能力，无论对科学和哲学来说，都是一个引人入胜的探索领域。

人工智能的发展能不断帮助人类，但它同时也是一把“双刃剑”。我们要警惕人工智能给人类带来的负面影响，关注人工智能的发展将带来的深刻伦理道德问题。我们需要的是帮助人类而不是代替人类的人工智能。发展人工智能的目的不是把机器变成人，也不是把人变成机器，而是要扩展人类的智能，解决人类社会发展面临的重大问题。这是科学界、各国政府和人类社会在人工智能发展上应认真对待的问题。需要确立伦理道德的约束监督机制，使人类免受人工智能不当发展带来的负面影响。

（作者：郑南宁，中国工程院院士、西安交通大学人工智能与机器人研究所教授）

《 人民日报 》（ 2016年06月21日 07 版）

责任编辑：陈近梅