专访吴甘沙：无人驾驶提高容错率，要先打开深度学习的“黑盒子”？

谷歌无人驾驶独立公司Waymo的技术负责人曾提出了无人驾驶效果的两个标准，一是驾驶能力，另一个是鲁棒性（Robust音译，代表健壮、强壮的意思，它是在异常和危险情况下系统生存的关键）。

关于驾驶能力，加州DMV（交通管理局）公布的年度无人驾驶测试报告对包括谷歌、特斯拉、宝马、通用等11家公司的路测现状做出了披露。谷歌以220万英里的测试数据位居第一，而通用集团斥资10亿美元收购自动驾驶软件公司Cruise之后，后来居上，达到上万英里的测试里程。

如下图表可以看出，各家厂商在驾驶能力上已经齐头并进，另一标准——鲁棒性则成为无人驾驶技术后期走向大规划商用的主要衡量指标。

钛媒体统计自加州DMV

鲁棒是无人驾驶系统在异常和危险情况下生存的关键，实际上它的内涵是容错能力，即在操作错误、超出常规频率的发出指令、网络过载等情况下，自动驾驶系统是否依然能够保持正常运作。

钛媒体前不久探访了驭势科技位于房山的测试基地，对驭势科技创始人兼CEO、前英特尔研究院院长吴甘沙进行了采访。吴甘沙介绍，鲁棒性已经成为人工智能和无人驾驶行业都在谈的共性话题，鲁棒性的好坏关系到的算法、硬件以及基础设施等多个层面的问题。

打开深度学习的“黑盒子”

自动驾驶系统，要包括感知、计算和决策三个部分，当下炙手可热的人工智能即主要应用在感知和计算部分。激光雷达技术成本居高不下的情况下，大多自动驾驶系统采用摄像头作为主要的视觉传感器，这就对于人工智能的深度学习能力有着直接要求。

吴甘沙把人工智能的应用分成了2 X 2四个象限，即物理世界、数字世界和高风险、低风险。他告诉钛媒体记者，“物理世界的低风险案例有扫地机器人，数字世界的低风险案例是推荐系统，而数字世界的高风险则是金融，无人驾驶就是物理世界的高风险。”

在物理世界的关键任务上一旦出错，问题会很大，因此当AI应用在汽车上，可靠性和鲁棒性就非常重要。

驭势科技CEO吴甘沙

正因为如此，吴甘沙认为人工智能面临的最大问题是——深度学习的“黑盒子”还没有打开。

“我们也很多期待学界的合作，把黑盒子打破，适应自动驾驶的高风险。”他说。

据钛媒体了解，深度学习是受启发于脑神经元对输入信息进行响应从而学习的过程。许多层的模拟神经元和突触都被标记上了数据，这些神经元和突触的行为在学习的工程中不断被调整，直到它们学会如何进行识别。比如说，直到他们学会如何识别一种图片中的猫。

但是问题出在“这个识别过程并不能被解释”。

当一个深度学习网络可以识别一只猫的时候，我们并不知道这个学习系统到底是聚焦在这个图片中的猫须，猫咪的耳朵，还是猫咪的毯子上的。

“Deep Learning作为单一技术，没办法独立承担自动驾驶使命，尤其是‘黑盒子’，数据进去，结果（分类、检测、分割、预测、控制等）出来，多数情况下不可名状地好，但也有些情况莫名其妙地糟糕，里面的逻辑不可解释。”吴甘沙向钛媒体表示。

《机器学习》作者、南京大学计算机科学博士周志华曾形象地描述过深度学习的“黑盒子”问题，

“人昏招的时候从九段变成八段，而深度学习一下子从九段变成初段。”

在吴甘沙看来所谓现在端到端（视频进去、控制出来）的方式是不能被接受的。现在美国NHTSA的自动驾驶性能中有一条跟伦理相关的要求，就是当面临事故的发生时，智能应该给出明确的逻辑该如何判断和选择，而黑盒子是给不出的。

“‘黑盒子’的问题没有解决，是因为针对开放环境，它的适应能力不够，因为今天的机器学习都是基于训练数据集来去做归纳法，如果这个场景从来没有出现，他处理不了，他不像人类具备强认知功能，具备举一反三、触类旁通、逻辑推理、背景知识、常识等等这些东西。”吴甘沙说，“ 所以肯定未来会在人工智能算法上提升它的鲁棒性，把深度学习跟刚才说的背景知识、常识、迁移学习、举一反三和贝叶斯逻辑推理结合起来，提升鲁棒性。”

“路测100亿英里”是最低线

如前文所述，鲁棒性的内涵是系统的容错率。在吴甘沙看来，单个部件出错是必然的，如果有足够的冗余性，它的容错率就会提升，而这是整个系统层面的工作。例如，在传感器、计算器件、电源等方面，都要有足够的冗余。

此外，对无人驾驶汽车的大量测试，也是从系统层面提升鲁棒性的方法。

奔驰S级的代码量是波音787的梦想客机代码量的16倍，对于现在具备人工智能的车，它的随机性和机器学习方面都需要大量测试。

目前包括谷歌、特斯拉等在内的业界领先的企业都有一个共识，那就是，路测里程达到100亿英里之后，才意味着无人驾驶技术的成熟。

谷歌的无人驾驶汽车已经积累了不少训练里程，包括 220 万英里的道路测试数据；10 亿英里的模拟训练数据（截至2016年）。而特斯拉也在通过全球出货量部署智能驾驶模块，以获得大量的现实道路数据。

驭势科技目前也正在通过园区测试、与OEM合作部署无人驾驶技术模块以及借助仿真环境等途径来提升测试数据。

当然，无人驾驶从来都不是汽车本身的事情，从整个基础层面围绕无人驾驶去重新规划，比如增加V2X（车联网）的应用等基础设施，才能提高无人驾驶技术的鲁棒性。

“整个鲁棒性的提升是从算法到系统，整个全面的工程。”吴甘沙说。（本文首发钛媒体，记者/李勤）

更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App