云天励飞 CEO 陈宁：我们如何用 AI 芯片赋能“城市大脑”？

10月27日，由雷锋网 & AI掘金志主办的「全球AI芯片·城市智能峰会」，在深圳大中华喜来登酒店盛大召开。

延续雷锋网大会一贯的高水准、高人气，「全球AI芯片·城市智能峰会」以“城市视觉计算再进化”为主题，全面聚焦城市视觉与城市算力领域，是业内首个围绕“算法+算力”展开的大型智能城市论坛。

峰会邀请到了极具代表性的14位业内知名专家，世界顶尖人工智能科学家、芯片创业大牛、产业巨头首席技术高管、明星投资人齐聚，为行业资深从业者们分享前瞻的技术研究与商业模式方法论。

其中，云天励飞 CEO 陈宁博士作为下午场的第二位演讲嘉宾登台，围绕《用“芯”探索智能边界》这一主题发表了精彩演讲。

陈宁表示，人类生活的数字化基本上可以分为三个阶段：互联网阶段、移动互联网阶段、5AIoT阶段。这三个阶段背后，其实是通信技术的发展。5G和人工智能带来了端、边、云的创新机会：更加多元化的终端可以进行AIoT的各类信息采集，催生了多模态计算的需求，同时云、边结合的架构对计算效率和相应速度提出了更高要求。在此背景下， GPU和CPU已经难以满足快速爆发的AI计算需求，需要更加高效的面向垂直场景的神经网络处理器。

云天励飞芯片平台-Moss于2018年推出了第二代自主知识产权的人工智能芯片DeepEye1000。DeepEye1000是一款异构多核视觉分析SoC芯片，内嵌一颗自定义指令集神经网络处理器。与通用GPU相比，DeepEye1000单位性能提升20倍，单位能效提升100倍，系统时延降低200倍，具有低功耗、高能效、智升级、可编程等特点，可广泛用于摄像机、机器人、无人机，以及数字城市、新零售等场景，实现视觉AI城市大脑终端摄像机的安全、独立、自主、可控。

以下是陈宁博士的全部演讲内容，雷锋网 (公众号：雷锋网) 做了不改变原意的整理与编辑：

大家好，我是云天励飞的陈宁。很高兴今天有机会结合大会的两个主题——AI芯片和城市智能，来和大家探讨一下AI芯片在城市的综合治理和智能化过程中的产业化落地问题。

人类的发展史与城市化进程是同步展开的。人类经历了几百万年从森林走向农田，最后来到了现代化的城市，为的是寻求更多的机遇。

与之相对应的是信息化技术的发展，从互联网时代到移动互联网时代，接下来还将进入5G、IoT和AI共同催生的万物智联时代，我们也可以称之为5AIoT时代。

随着万物智联时代的到来，背后的AI技术将驱动我们的经济总量快速增长。经预测，到2030年，AI将为全球经济贡献人民币近100万亿，比中国和印度目前经济产值的总和还多。而中国会是最大的受益国，它的GDP增长中将有约四分之一来自于AI的驱动。

AI带来经济总量快速增长进而影响我们衣食住行的同时，也对我们的道德伦理和法制法规产生了巨大的冲击。它就像一个潘多拉魔盒，打开这个魔盒的过程中，我们必须关注和思考如何去构建一个有温度的AI体系。

进入AI时代的显著标志是智联网终端设备的数量激增。互联网时代是人与人之间的连接；移动互联网时代是人与人、人与智能终端之间的连接；而到万物智联时代，还将增加智能终端与智能终端之间的连接。据预测，到2025年，全世界将有超过1500亿台联网设备，每人每18秒就会有1次数字化互动 。随之而来的是，城市级海量数据的激增。

作为智能终端网络的支撑，5G可以把这些数据传输到一个城市大脑，但数据的处理和分析却必须借助AI的力量，因为它的体量已经远远超过了人类大脑的处理能力之所及。

在这样一个5AIoT时代，我们面临着多重技术应用到各类纷繁复杂场景的挑战，低时延、高效率、低功耗的本地化实时处理能力的挑战，以及云端处理海量数据的挑战。

在这样的背景下，传统CPU、GPU架构已经难以满足未来智慧城市综合治理的需求。我们认为，未来城市大脑将会从云端集中式处理的形态逐步转向云、边结合的形态，通过在边缘端部署一定的本地化处理能力来满足实时性的要求。然后通过5G网络将这些被结构化的信息传输到城市大脑，进行大数据整合，辅助人类进行城市治理的综合决策。

因此，我们需要一系列面向应用场景的高效神经网络处理器，在边缘端为每一个传感器加上一颗或多颗大脑。这样一来，我们在传感器端就可以对海量的数据进行数字化和结构化，将有用的信息提取出来，传输到城市大脑进行分析。

那么，云天励飞是如何探索基于人工智能的芯片，来赋能城市大脑和智联网的呢？我们先是从算法入手，通过算法的创新来颠覆某一个传统行业或应用场景的工作效率，将其提升至少两个数量级。然后，我们再基于对算法和细分场景的理解，去提炼和定义它的处理器架构。在提炼边缘端处理器芯片架构的过程中，我们也会考虑它的场景可扩展性和通用性。也就是说我们打造了一个从算法到场景，由场景驱动的AI芯片架构设计体系。

举例来说，2015年我们在深圳打造了一个城市级的“天眼”系统，将科幻片中的场景带进了现实。“天眼”系统的实现，依托的就是将我们的动态人脸识别、人体结构化、车辆结构化等一系列综合视频结构化算法，部署到深圳的数万路摄像机里，去进行前端的结构化处理和云端的分析与决策。

“天眼”系统上线后，2016到2018年间，深圳部分上线比较早的地区，路面接触性警情每年下降了超过50%。

因为它产生的颠覆性效果，以及背后拥有支撑各个警种200多种技战法的大数据处理能力，这套系统已经先后被复制到了东莞、北京、上海、青岛、成都等全国近100个城市以及东南亚的一些国家。复制的过程中，它也深入到了机场、地铁、火车站、校园、园区、社区、医院等等纷繁复杂的各类细分场景。

基于对这些场景需求的理解，云天励飞推出了Moss芯片平台，来抽象和提炼这些场景里需要什么样的芯片架构，以满足对高效率、低时延的要求。2018年，云天励飞芯片平台-Moss推出了第二代自主知识产权的人工智能芯片DeepEye1000。

DeepEye1000是一款异构多核视觉分析SoC芯片，内嵌一颗自定义指令集神经网络处理器。与通用GPU相比，DeepEye1000单位性能提升20倍，单位能效提升100倍，系统时延降低200倍，具有低功耗、高能效、智升级、可编程等特点，可广泛用于摄像机、机器人、无人机，以及数字城市、新零售等场景，实现视觉AI城市大脑终端摄像机的安全、独立、自主、可控。

过程中，我们也在不断探索新型的计算架构以提升效率，比如通过动态任务调度来降低时延。目前，这颗DeepEye1000芯片已经进行了三次投片生产，并应用在了各种社会治理的场景中。

在从算法到场景，再到芯片体系架构设计的进化过程中，我们逐渐认识到，人工智能时代最重要的不光是算力。

我们提出了一个有效算力的概念。所谓有效算力，是指在具体场景中，我们通过与算法甚至和算法部署相关的工具链结合，真正能够从芯片中挖掘出来的算力。我认为这才是一颗芯片真正有效的价值。所以，有效算力是由芯片本身的性能、工具链的效率和算法耦合共同决定的。

为了提升芯片的有效算力，我们基于TVM开源平台做了一个一键部署的框架，提供开放式的工具链。

同时，为了解决诸多中小企业希望训练自己的人工智能算法但又苦于没有算法专家的困境，云天励飞在今年4月25日联合国家超算中心发布了一套人工智能时代的操作系统——AIOS。它通过一个囊括数据采集、数据标注、算法训练和服务部署的完整闭环，实现了一键式的数据处理和算法训练，并与DeepEye1000芯片进行了耦合。

通过工具链、操作系统、面向场景的算法，以及AI芯片的耦合，我们在三大产业方向进行了落地：

公共安全方向，我们率先在东莞、深圳上线了目前全世界唯二的城市“天眼”系统，可以做到全程监控和秒级人像检索。我们还联合宝贝回家等机构推动了公益项目“天下无拐”，用AI助力未成年人保护工作。

城市治理方向，我们利用公共安全领域的核心技术，在数据脱敏和保障个人隐私的前提下，与深圳、上海等城市合作，打造面向智慧社区、智慧园区、平安校园、智慧医院、智慧机场、智慧地铁等社会治理版块的样板，减员增效，大幅提升社会治理的效率。

新商业方向，我们把公共安全和社会治理的相关核心技术，在进一步保障个人隐私的前提下推广到线下商业。利用大数据构建千人千面、一人一档的商业大脑，推动传统的线下购物中心和品牌连锁店，甚至机场、地铁这样的泛商业场景，进化成全新的社交与体验平台。

推动AI技术产业化落地的过程，离不开生态合作伙伴，因此我们正在联合国内外的头部企业和创业公司，逐步构建基于自主可控核心技术的5AIoT的生态，以及1+1+N的AI城市综合治理体系。

最后总结一下。未来，物联网的每一个传感器终端都会装载一颗或多颗AI边缘计算芯片，构建成一张无处不在的城市级智联网。这张智联网产生的信息可以通过5G网络传输到城市的超算中心，城市超算中心之上我们又可以用AIOS人工智能操作系统构建一个城市大脑。

基于智联网和城市大脑，我们可以打造平安城市、智慧园区、智慧社区、平安校园、智慧医院、智慧机场、智慧地铁、智慧商业等N个基于AI的智慧治理的综合场景。

我们的目标就是通过人工智能的算法、芯片、大数据三大核心技术，逐步构建5AIoT生态，助力城市综合治理，实现真正意义上的智慧城市，让人类的生活更加安全、健康、便利和愉悦。

。