张钹院士：人工智能的魅力就是它永远在路上

雷锋网 AI 科技评论按：2019年9月21日，2019第五届中国人工智能大会（CCAI 2019）在山东省青岛市举行。大会为期两天，包括中国人工智能学会理事长、中国工程院院士李德毅，清华大学人工智能研究院院长、中国科学院院士张钹，卡内基梅隆大学计算机学院副院长、苏格兰皇家学院院士贾斯汀·卡塞尔，加拿大滑铁卢大学教授、国际计算学习理论学会前主席赛·本·大卫，腾讯人工智能实验室主任张正友，中国人工智能学会秘书长王卫宁等多位重磅学术嘉宾出席，还有一百多位国际人工智能领域顶尖人才，一千多位国内外人工智能领域专家教授、头部企业高管参会。这也是青岛市「建设现代化国际大都市，打造对外开放新高地」战略下的重要活动，青岛期待打造人工智能的国际合作新平台，整合全球的要素资源，加快推进人工智能的发展。

山东省委常委、青岛市委书记王清宪在开幕致辞中说道，本届大会的主题是「智变融合」，人工智能最大的价值在于赋能，与场景的应用结合起来，与产业融合起来，从而带来点石成金的变化。人工智能为百业赋能的过程，将会形成巨大的产业；「人工智能科技服务产业」，就是利用人工智能的发展成果，推动更广泛的产业应用，实现人工智能为百业赋能的价值。

清华大学人工智能研究院院长、中国科学院院士张钹上午进行演讲，题目是「迈向第三代人工智能的新征程」。雷锋网 AI 科技评论根据现场速记把演讲内容整理如下。

张钹：各位领导、各位专家、各位来宾，我今天讲的题目是「迈向第三代人工智能的新征程」。这个题目是我经过认真考虑的，特别加了「新征程」。我一直向大家传达一个信息，人工智能遇到新的机遇，如果我们有可能突破现在面临的问题，人工智能就会长足往前发展。

人工智能有个特点，我今天在报告里面主要传达这么个特点：大家不能指望人工智能一出来就「毕其功于一役」。它永远在路上，这就是人工智能的魅力所在。

我们看一下人工智能究竟做了什么事儿？第一件事就是第一代人工智能提出的符号模型，以知识经验为基础的推理模型，这是人工智能的第一个重大突破。这个突破后来产生了一个结果，就是这个理论提出时有个非常乐观的估计，1956年由西蒙提出，基于这种模型，十年之后机器可以打败所有棋手，二十年以后机器取代人类所有的工作。实际并不是这样，六十年以后机器才打败棋手，机器究竟代替人类的所有工作是什么时间，可能还很遥远，这也是人工智能的另外一个特点，往往被高估。

人工智能的第一代模型，有优点，但是也有很大局限性。这个优点是显然的，因为它是模仿人类的，它可解释，鲁棒性很强，但是它的局限性也非常大。因为最大的问题是人类的知识经验，很难准确表达，这就是产生的后来人工智能冬天的根本原因。当时的应用很有限，几乎没有推广，但是，有了大数据以后，这个问题得到了很大改善，特别是机器的能力提高以后，可以把大量的数据作为知识放在机器里，这就是最典型的沃森系统。

沃森系统可以做癌症的免疫治疗，这里面用多少知识呢？100万个医学杂志中抽取的2500个摘要，400万病人的数据，再加上1861年以前所有药物的专利，它有医学知识，并联的数据再加上药物知识，就可以做癌症的免疫治疗。当然了，很多慢性病的治疗和管理，这个系统也做得很好，中国的国内也有大量这方面的工作在探索和研究。

第二代人工智能，一个最重要的成果就是深度学习。也就是说，第一代人工智能提出来，如果能够很好地利用人类的知识，就可以建立很好的人工智能系统，如果我们有充分数据，也有可能建立起有用的人工智能的系统。

深度学习为什么这么受重视？一个很重要的原因，它有两个重大变化。当网络层次增加以后，有两个重大变化：第一个变化，输入只要原始数据，不需要预处理。第二个是性能提高很多，这就造成了深度学习的重大突破。也就是说，它从一定意义上有通用工具，对领域的知识要求不高，同时能够处理大数据。

这就带来很大的变化，大家也看到了，语音识别，2001年时它的识别率停留在80%，也就是20%的误识别率；2016年误识率就降到了5.9%，达到专业速记员的水平，到了2017年，所有产品包括谷歌、微软，包括中国的讯飞、百度，用的全是深度学习。

变化更大的是图像识别。有一个标准的图像识别数据集 ImageNet，大家知道，2011年，它的误识率是50%，有一半认错了。但是四年以后，2015年就超过了人类水平，原因也是利用了深度学习。

最后一个，给大家印象最深就是AlphaGo，大家都知道了。因此就有很多估计，十年之内代替40%以上人类的工作，三五年里面，智能驾驶车就可以量产，等等，刚刚李院士说到了这个问题，他分析得很深刻。实际三五年里面不可能量产。

技术已经完全成熟，我们现在的研究已不成熟，主要是应用问题。为什么在人工智能上往往产生乐观估计？主要原因有两个：一个是对发展人工智能的困难性估计不足，对取得的成果估计过高。一个估计不足，一个估计过高，就产生了问题。另外一个很重要的原因，受历史事件的影响。过去我们发现，有了蒸汽机以后就产生了工业革命，有了电动机发动机以后就产生了电气革命，有了计算机以后产生了信息革命，大家很希望有一个东西出来以后引起人工智能的革命。

现在的问题是，有没有？至今为止，还没有发现人工智能里面的蒸汽机和计算机。曾经最开始寄希望于符号模型，结果发现符号模型也没有那么管用。第二次发现的是大数据+深度学习，以为大数据+深度学习就是人工智能的蒸汽机和计算机，为什么这样？

这不能不考虑到人工智能的特点，我们说深度学习根本不是AI的通用机。现在大家在寻找通用的人工智能，到底有没有，还有争论，不去管它，但至少深度学习不是人工智能。这个非常明显，第一代人工智能也好，第二代人工智能也好，它的应用场景必须满足以下五个条件。

从正面来讲，所有的应用场景，如果满足以下五个条件，计算机绝对能够战胜人类，不管这个问题多么复杂： 具有丰富的数据或知识，完全信息，确定性信息，静态，单领域和单任务 。

最明显的例子是围棋，围棋多么复杂，但是围棋满足这五个条件，所以计算机战胜在围棋上战胜人类是早晚的事情。所以从正面来讲，如果你满足这五个条件，不管多复杂，计算机绝对战胜人类。长远来看，如果你的应用场景不完全满足这五个条件，其中有些条件不满足，你这个工作就变成困难。自动驾驶为什么如此困难？根本的原因在这里。为什么我们难以做出来廉价、可靠的自动驾驶呢？背后的原因就在这里，因为自动驾驶很多条件都不满足，它不是完全信息，它不是确定性信息，它不是静态的环境，或者是按照确定性规律演化的，它的很多东西是不可预测的，它也不是单领域的，里面有人驾驶的车、行人、其它车辆。所以刚刚李院士提出来专用道，就是把这些东西弄干净，变成单领域。所以我们一直说，如果有些条件是不符合这五条，你就需要下功夫。

现在人工智能能够在这些领域里面得到应用，换句话说，这些领域里面有很多应用产品符合刚才讲的五个条件。如果这些领域里面的应用场景符合五个条件，大家大胆去做，绝对会超过人。根据现在计算机强大的力量，是可以做到这一点的。但是，这些应用里面，也有大量不符合那五个条件的，大家必须下功夫，不能指望靠现在的第一代、第二代人工智能去解决它。

举个简单的例子，复合场景下的决策，完全信息条件下的决策或者完全信息下的博弈，计算机战胜人类是绝对的。下面一个问题，不完全信息的博弈及打牌，大家都知道，今年5月份对扑克牌这个问题也解决了。换句话说，6人无限注的德州扑克，计算机能战胜人类，这就意味着概率意义下的不确定性，机器也可以战胜人类。但是人类的决策环境都不符合前面两个条件。所以在复合环境下的博弈或者复杂环境下的决策，机器跟人类还差得比较远。从这里来讲，应用场景是极为重要的。

第二个，我们必须要重视的，用数据驱动的方法做出来的系统，有大量毛病，或者说这些毛病是根本性的，是极为危险的。这里面列出来的，简单举个例子，一个图像识别系统，都可以说它的识别率超过人类，但是这个图象识别系统跟人类的感知完全不同。

就是这样的系统，你给它噪声，它可以识别为知更鸟。你给它一个噪声，它可以识别为猎豹。换句话说，模式识别系统并没有达到人类认知的水平，只达到低等动物的水平，所以感知这个词翻译得非常好，感觉+知觉，低等动物只有感觉，没有认知。所以机器现在达到的水平是低等动物的水平，它可以分辨不同的物体，但是它本质上不认识这个物体。另外是它非常脆弱，非常容易受攻击。

这是阿尔卑斯山图片，人起来是，机器看起来也是，只要给它加上噪声，右边这个图和左边那个图，唯一的区别是噪声多一点，人看起来还是阿尔卑斯山，机器看起来是一条购，而且它的置信度是99.99%，它99.99%认为这是一条狗，非常容易受欺骗，这就说明机器跟人的认知差异非常大。

语音也是同样的道理，前面的英文说的是一句话，我们加上一点点噪声，人听起来还是一样的，机器听起来就是另外的内容，这就非常危险。

搞军事的人说，过去你语音传过去，它进行干扰，你听不见而已。现在语音传过去，它说进攻，可以让你听成退却，加一点噪声就行了，这就是AI的安全性。

另外，缺少自我知识，这是非常重要的。你说我用这个话，让它翻译，「说你行的人行」，这句话计算机怎么翻呢？「说你专业的人行道」，瞎翻，为什么瞎翻？它不知道自己不知道，没有任何自知之明。这是很危险的。为什么翻译成人行道呢？「人行」，它以为是人行道。为什么翻译成「你的专业」呢？「你行」。这是非常危险的。大家想想，我带了一个翻译，翻译水平挺高的，大多数翻译是很准确的，但是他会瞎说，你敢用吗？人类不会，因为他知道这句话如果没有听明白会再问是什么意思，计算机没有自知之明，人贵有自知之明，这是人类智慧的一个部分。怎么让机器有自知之明？这是很困难的事。

下一步，我们现在有个新的历史机遇，就是迈向第三代人工智能。第三代人工智能就要纠正前面说的两个局限性，建立可解释、鲁棒的人工智能理论，发展安全、可信、可用的人工智能技术，促进人工智能的创新应用。

我们成立人工智能研究院就是想担负这个责任，用什么办法解决这个问题？就通过一个核心和两个融合：一个核心是加强基础研究，必须从理论上去突破。我们刚才讲了，深度学习，所以有这么多毛病，这个原因是它的原理开始的，它的原理就不对，不是用人类一样的原理。所以我们必须更好地去解决它，才有可能往前迈进。用的方法主要是两条：一个是多学科交叉，必须多学科交叉，跟心理学、神经科学。大家知道，第一个模型是心理学家提出来的，第二个模型是神经科学家和数学家提出来的，都不是计算机的人提出来的，必须要加强学科交叉，应用结合。

我们一共成立了十个研究中心，包括全校的18个系和学院，利用各种学科，不光是计算机的，不光是信息领域的，也有心理学的、法律的、文学的，都参与进来。

除了技术上的研究以外，目前人工智能的技术与治理也是重大的问题，现在清华大学也参与了这个工作，必须在国际上要有我们的话语权，要在这个问题上发出中国的声音。做的办法有两条：一条是新原理和新模型，就是跟其它学科交叉，我们都在做。还有脑科学启发的，还有神经科学的。把数据驱动和知识驱动结合起来，也是重点做的内容，我们已经有不少成果。大家看展览，我们用的珠算平台开了一个公司，就是应用新的算法，比谷歌算法又进了一步，带了第三代算法的特色。第一轮投资，对我们平台的估值是7亿人民币。这个平台跟国际已有的其它平台相比，还是有很多优势的。我们也在知识表示、知识推理上做了很多工作，还有小样本、因果推理。常识，刚才李院士也提到常识推理。

最后做一下总结，人工智能的确是本世纪最重要的发展领域之一，它的发展将会对人类产生重大影响。但是我们一直强调，人工智能不像以前遇过的科学，以为某一个定理解决了，所有问题就迎刃而解。人工智能太复杂了，我们要不断往前推进，才能使人工智能进一步发展。

（完）

更多 CCAI 2019 内容请期待后续报道。雷锋网 (公众号：雷锋网) AI 科技评论现场报道。

。