人工智能，天使还是魔鬼

在“2018·全国检察机关科技装备展”上，科沃斯检务机器人亮相。 记者 沈 慧摄

人工智能的概念早在60多年前就被提出，但又一度沉寂。随着谷歌人工智能程序AlphaGo（阿尔法狗）战胜围棋世界冠军李世石，再次为世人瞩目。然而，与无限风光一起相伴而来的，还有关于人工智能的种种争议。

“在我的一生中，见证了社会深刻的变化。其中最深刻的，同时也是对人类影响与日俱增的变化，是人工智能的崛起。简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。”著名物理学家霍金生前反复告诫。

在互联网和大数据风起云涌的今天，人工智能究竟会成为造福人类的天使，还是控制人类的魔鬼？面对类似疑虑，请听中国科学院院士、中国人工智能学会副理事长谭铁牛怎么说。

　　 崛起

经过60多年的不断发展，人工智能迎来发展的春天，成为推动新一轮科技和产业革命的重要驱动力

1956年，在达特茅斯学院暑期研讨班上，一位名叫约翰·麦卡锡的年轻人首次提出了人工智能的概念，那时研讨的主题是怎样用机器模拟人的智能。事实上，与人工智能相关的研究，在此之前早已开展。

“人工智能的主要目标是模拟、延伸和扩展人类智能，探寻智能本质，研发具有类人智能的智能机器。比如，让机器或者计算机会听、会看、会说、会想、会决策，与人类一样。”谭铁牛解释。

时光荏苒，白云苍狗。60多年风风雨雨，随着大数据、云计算、互联网、物联网等信息技术的发展，以深度神经网络为代表的人工智能技术成功跨越科学与应用之间的“技术鸿沟”，如愿迎来发展的春天：图像分类、语音识别、知识问答、人机对弈、无人驾驶……一系列具有广阔应用前景的人工智能技术相继突破从“不能用、不好用”到“可以用”的技术拐点，成为推动新一轮科技和产业革命的重要驱动力。

医学行业便是其中之一。2017年，斯坦福大学在国际权威期刊《自然》上发表论文宣布，他们通过深度学习的方法，采用近13万张痣、皮疹和其他皮肤病变的图像训练机器识别其中的皮肤癌症状，在与21位皮肤科医生的诊断结果进行对比后发现，这个深度神经网络的诊断准确率达到91%，与医生不相上下。

这样的惊喜比比皆是。通过深度神经网络的应用创新，国际计算机视觉竞赛ImageNet图像分类的Top5误差率从2012年的16%降到2017年的3%左右（已经低于人的错误率）；我国的Face＋＋（旷视科技）人脸识别技术的准确率在LFW国际公开测试中达到全球最高的99.5%（超过了人类肉眼识别的准确率97.52%），与此相关的刷脸支付被《麻省理工科技评论》评为2017年十大全球突破性技术。

“人工智能的近期进展主要集中在专用智能领域，例如，微软语音识别系统5.1%的错误率比肩专业速记员。”谭铁牛说，从可应用性来看，人工智能大体可以分为专用人工智能和通用人工智能。面向特定领域的人工智能技术（即专用人工智能）由于任务单一、应用背景需求明确、领域知识积累深厚、建模计算简单可行，更容易实现单点突破，在局部智能水平的单项测试中可以超越人类智能。

“专用人工智能取得突破性进展，主要源于深度学习、强化学习、对抗学习等统计机器学习理论的进步。深度学习，简单说，就是借鉴人的大脑在处理信息过程当中的层次化处理。”谭铁牛解释说。

　 挑战

琴棋书画样样精通的人工智能似乎已所向披靡，然而，专家表示，人工智能总体发展水平仍然处于起步阶段

“艺术创作将是人类对抗人工智能的‘最后一座堡垒’！”曾几何时，一些专家对此深信不疑。然而，现实很快给予他们一击：2016年，谷歌开发的人工智能画家——“初创主义”在旧金山拍卖会上大放异彩，在它创作的29幅作品中，有的被卖出8000美元的高价。

无独有偶。在法国巴黎，索尼计算机科学实验室“深沉巴赫”创作的合唱曲目，甚至被专业音乐家误认为是“真巴赫”的作品。而人工智能创作的小说《一台电脑写一篇小说的一天》，则通过了日本“星新一文学奖”初审第一轮。

琴棋书画样样精通的人工智能似乎已所向披靡，无所不能。当人工智能崛起，人类会不会被取而代之？

“有智能没智慧、有智商没情商、会计算不会‘算计’、有专才无通才。”谭铁牛历数人工智能诸多局限并一一阐释：智慧是高级智能，目前的人工智能无意识和悟性，缺乏综合决策能力；机器对于人的情感理解与交流还处于起步阶段；人工智能系统可谓有智无心，更无谋；会下围棋的“阿尔法狗”不会下象棋。换句话说，现在，人工智能总体发展水平仍然处于起步阶段。

谭铁牛举例说，机器翻译如今已经做得相当不错，但这简单的3句话“他吃食堂”“他吃面条”“他吃大腕”，机器翻译不出；“那辆白车是黑车”“能穿多少穿多少”，这也无法翻译。再比如，看到校园里“欢迎新老师生前来就餐”的横幅，很多人一目了然，但人工智能却无法理解，这些不能之处正是当前人工智能遇到的瓶颈。

“人工智能系统的能力维度可分为信息感知、机器学习、概念抽象和规划决策几方面。从知识规则到统计学习，第二波人工智能技术在信息感知和机器学习方面进展显著，但是在概念抽象和规划决策方面刚刚起步。”美国DARPA（国防高级研究计划署）如是判断。

人工智能已经达到5岁小孩的水平、人工智能系统的智能水平即将超越人类水平、30年内机器人将统治世界……面对一些错误认识和炒作，谭铁牛有些无奈。“现有人工智能还有很大的局限性，有很多人认为通用人工智能很快就能实现，只要给机器人发指令就可以做任何事，这是对人工智能预期过高。”谭铁牛提醒说。

　　 趋势

对比人类大脑，真正意义上完备的人工智能系统应该是一个通用的智能系统，而对它的研究与应用任重道远

未来，人工智能应何去何从？谭铁牛认为，人类大脑是一个通用的智能系统，能举一反三、融会贯通，可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题，可谓“一脑万用”。因此，真正意义上完备的人工智能系统应该是一个通用的智能系统，而通用人工智能研究与应用刚刚起步，依然任重道远。

他坦陈，当前人工智能处于从“不能用”到“可以用”的技术拐点，但是距离“很好用”，还有数据、能耗、泛化、可解释性、可靠性、安全性等诸多瓶颈，理论创新和产业应用发展空间巨大。

总体而言，人工智能的发展趋势是理论更完备、技术更先进、产业更繁荣、应用更广泛、法规更健全。通用智能被认为是人工智能皇冠上的明珠，是全世界科技巨头竞争的焦点。如何实现从专用智能到通用智能的跨越式发展，既是下一代人工智能发展的必然趋势，也是研究与应用领域的挑战。

在谭铁牛看来，人工智能和人类智能各有所长，因此需要取长补短，融合多种智能模式的智能技术将在未来具有广阔应用前景。“人+机器”的组合将是人工智能研究的主流方向，“人机共存”将是人类社会的新常态，而学科交叉将成为人工智能创新的源泉。

至于它究竟会成为造福人类的天使，还是控制人类的魔鬼，这取决于人类自身。“高科技本身没有天使和魔鬼之分，人工智能亦是如此。对于人工智能这把双刃剑的使用取决于人类自身。我们应未雨绸缪，形成合力，确保人工智能的正面效应，确保人工智能造福于人类。”谭铁牛说。

　　【 相关链接 】

　　 人工智能：天使还是魔鬼？（53页报告全文）

中科院院士谭铁牛在第十九次中科院院士大会上发表了《人工智能：天使还是魔鬼》的主题报告，深度解读了60多年来人工智能发展历史，人工智能的七大现状，发展趋势、展望和现有人工智能的局限性等。面对各界对人工智能的期待和愿景，谭院士认为：“人工智能的春天刚刚到来”。

 

责任编辑：陈近梅