中国芯的新机会：AI芯片如何实现弯道超车？｜CCF-GAIR 2018

雷锋网 (公众号：雷锋网) 按：2018全球人工智能与机器人峰会（CCF-GAIR）在深圳召开，峰会由中国计算机学会（CCF）主办，雷锋网、香港中文大学（深圳）承办，得到了宝安区政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会，旨在打造国内人工智能领域最具实力的跨界交流合作平台。

7月1日下午的AI芯片专场大咖云集，清华大学微电子所所长魏少军、英特尔首席研究员&中国研究院认知计算实验室主任陈玉荣、地平线智能解决方案与芯片事业部总经理张永谦、深脑链基金会创始人&义语智能科技CEO何永、OURS创始人兼CEO谭章熹等重磅嘉宾纷纷发表精彩演讲。

嘉宾演讲后是备受期待的圆桌讨论环节，四位来自AI芯片领域的重磅嘉宾：

• 深圳鯤云信息科技有限公司创始人兼CEO牛昕宇

• 天数智芯创始人兼CEO李云鹏

• NovuMind中国区总裁周斌

• AVSdsp CEO沈联杰

在华登国际投资总监苏东的主持下，就“中国芯的新机会：AI芯片如何实现弯道超车”这一话题展开交流。

以下为圆桌讨论实录，雷锋网做了不改变原意的整理与编辑：

主持人苏东：现在大众看到的AI热潮，是从2016年的AlphaGo开始的，我首先想问一下牛总和周总，你们作为行业众人，是什么时间节点、什么事件让你觉得一定要做AI这个事情？

牛昕宇 ：我们其实一直在做大家所谓的AI芯片，我们公司的核心创始人之一是我的博士生导师，英国皇家工程院的院士，1991年就在做机器学习定制化芯片。对于我们来说，其实并不是突然灵光一闪要做这个事情，只是2013年、2014年开始感受到有越来越多的企业找到我们合作，大家在深度学习应用方面的需求非常一致，而且非常归一化。

我们的芯片抛弃了原来基于指令集的技术，是没有任何指令集数据流的全新定制化架构，可以实现低延时、、低功耗高性能。我们的技术研究和整个物联网前端的趋势特别吻合，这是我们当时决定加入这一波技术浪潮的原因。

周斌 ：我加入的第一家公司是英伟达，在2008年利用CUDA做通用计算时，我们就开始用一些不同的处理器架构来解决新的问题。我个人亲历了深度学习的风口过程，在2011年、2012年参加一些比赛的时候，GPU还是唯一的选择。

那时我发现，新的深度学习架构对于新的数据模式、新的数据结构，以及数据量对处理器的体系结构产生了非常大的挑战，计算机由原来的研究架构变成应用驱动的目标，所以我们便开始针对于这样的问题来做研究。

NovuMind从深度学习最开始，做围棋、做象棋几十年我们在一线经历了整个深度学习从沉寂到爆发，再到2014年、2015年被所有人认知的过程，应该是在这个行业里意识到这个问题非常早的公司。

主持人苏东：也就是说，从投资的角度看，往往风口来的时候最终赢的不是追风口的人，而是在风口来之前有技术积累的团队才能跑出来。

接下来请问李总和沈总，能不能用简单通俗的语言介绍一下AI芯片难在什么地方？你做这个事情的时候碰到比较困难的点有哪些？

李云鹏 ：我对AI芯片的理解是一定要有积累，如果因为AI火我们就做AI，这样的创业公司基本没戏。所以在AI芯片本身，我们对它的定位是通用标准高性能，我们要做的是GPGPU。

第一个难点是人才，哪里有人才？人才聚集的地方在美国硅谷，在中国IC设计圣地张江。我们的百人团队有30%在美国，70%在张江，其中有许多人是78年~81年进大学的，在这个行业深耕30年的芯片设计专家。

第二个难点，是今年5月8日倪光南院士在接受中国人民网采访的时候提到的三个问题：你的客户在哪里，谁是你第一个客户，你是否拥有自己的生态？这是非常具有挑战性的问题，实际上我们在三年前只是一家基础软件公司，第二年开始往上打应用，往下打芯片。如何自建生态？如何从小而精做大做强，最关键的是生态。

第三个难点是态度。做芯片这种基础的东西，讲究的是如何做下去、钻进去，好好做事情。这不是两年就能完成的任务，而是二十年甚至更长时间这才能把东西做出来，这个过程中要反复的聚焦、借力，借市场的力做迭代。在包括管理者、芯片设计管理、设计工程师和服务工程在内的整个产业人才链条上，只有做到不断放大成功、发挥长处，才有可能通过长时间的努力做出一款自主可控和国际一流的高端计算芯片产品。

主持人苏东：沈总，我昨天和你简单交流过，你做芯片30多年，其中20多年在深圳，你现在AI芯片马上就要流片生产了，这个过程中碰到哪些难点？你认同李总的看法吗？

沈联杰 ：我觉得李总回答了相当多，这些都是大家想要做AI芯片一定会碰到问题，不管是在过去、现在还是未来。但从另外一个角度看，这些又都完全不是问题，为什么呢？AI或者AI芯片，其实跟BAT这些公司一样，都是时势造就英雄、英雄推动时势，天时地利人和缺一不可。

RISC-V我没有真正用过，但听起来肯定比ARM和X86要有效率的多。虽然我们做了几十年图片和算法的芯片，有各种应用的算法，但这里面还是少不了一个CPU。外面买的CPU很难用，ARM不是只为了做图像设计而生，所以必须要修改很多东西。可是到后来发现怎么改也不好用，那就干脆自己做CPU。从买到改再到做，这些积累在今天做图像的深度学习时完全发挥了作用。

难与不难这件事情考验的是一家公司的积累。在刚开始没有任何经验时，还是应该照着专家给你的经验做，累积多了之后，我相信你会同意刚刚李总讲的事情，也就是必须要专注，必须要把一些底层的东西做好。

主持人苏东：接下来我的问题是，今天的很多嘉宾演讲中，谈到AI芯片里很重要的架构就是可编程化。在算法还没有完全成熟的时候做芯片，怎么保证算法不断迭代的同时，芯片也能够跟着算法往前走？在架构里面，我们选择FPGA、DSP还是ASIC？

牛昕宇 ：今天下午几位主讲嘉宾意见很一致，真正的芯片核心技术是芯片本身的架构和依托于架构的编译器。芯片底层架构可以解决算力和功耗这种底层的物理性能问题，而编译器解决的是通用化和定制化问题。

我们鯤云为什么选择了数据流架构呢？我们积累了30多年，除了不基于指令集的高性能架构之外，还有一款不基于指令集的数据流架构编译器，全球第一款C到底层硬件芯片的handle-C的编译器也是我们团队研发的。只有架构和编译器两者合在一处，一家AI芯片公司才能真正掌握通用性和定制化这两柄利刃。

如果一颗芯片针对每个领域都做定制化，我们认为这不能称之为芯片，只能说是做了定制化的devise出来，不是通用化的东西。但是在满足底层的通用化和高性能之后，怎么让各个领域的开发者去开发应用呢？这就需要编译器，你不能期待每个开发应用的人都非常了解你的芯片，编译器解决的事情是把底层架构的门槛降下来，让大家能非常容易的使用。

除了芯片之外，我们还有对外开放的AI开发平台，让各个领域的用户上传图片，通过最简单的图片画框或者打标签的方式，在这个平台上生成推进算法，然后把算法从头到尾N2N全自动下载到我们的芯片上，这是我们做得非常有意义的事情，这样才能释真正把芯片的算力释放出来。

至于主持人说的具体用DSP还是ASIC，我觉得这是商业化的决策。当芯片的出货量到十万或者百万颗级别的时候，我觉得非常有必要做ASIC出来，在这之前基于FPGA完全没有问题。作为一家芯片公司，我从来不觉得FPGA和ASIC有什么区别，你卖的是电路，这块电路是基于指令集的电路还是自己写的电路都无所谓，区别就在于ASIC前期投入大，随着出货量增大可以逐渐降低成本。芯片公司选择FPGA还是ASIC，是根据自己的出货量、根据市场来决定的。

李云鹏 ：AI计算的软件迭代周期很快，而芯片研发周期长，如何让周期长的芯片能够预知未来，把未来的事情都搞定，这是问题。AI计算本身是什么，计算本身是什么？是一些基础的算子通过科学算法的逻辑化编排来实现一些人类的目的，常用的一种方法是给算法做加速，另一种方法是把算法做得更快一点。

举个例子，如果我想知道深圳市今天用电信卡打电话的平均分钟数，我们要到电信数据库执行这条命令。负责任的说，如果这个数据库的加法实现的速度比另外一个数据库加法实现速度快20%，叠加起来的效果是好一千到两千倍的样子。而通过算子的方式来实现，可能对上层算法的依赖度会减轻一些，针对算法加速的效果，不论是手工做还是什么东西做，一定会比general purpose的方式好很多，毋庸置疑。

最后，我非常同意牛总说的，FPGA和ASIC的选择要看出货量。

周斌 ：这是一个蛮有意思的问题，我们大家在谈AI芯片时谈的是芯片本身。AI芯片是处理AI任务的，而AI任务在不断的变化，其变化本质、数学模型是什么，哪些是变的、哪些是不变的，这是任何做AI芯片公司的人和团队必须首先认可领悟和理解的。

现在市场上大家对于AI应用的需求点在哪里？我们通过团队中的大量算法科学家、算法工程师、应用工程师和客户深入对接，以及我们在行业深入的积累，可以确定芯片中哪些可以固定下来。卷积层是否存在？深度网络的主流是什么，是卷积神经网络还是RNN？下一代Sparking能否用起来？这是针对深度学习应用的，我们只需要把现阶段深度学习做好就可以，只关注深度学习最核心、最本质的地方，剩下的我们都不管。

主持人苏东：地平线的旭日方案已经落地了，是针对人脸场景做的方案。在座各位所做的芯片方案，下游典型客户是谁？其痛点是什么？当你定义这款芯片时，你考虑的是算力、成本还是功耗？

牛昕宇 ：我们已有的下游客户主要是专业级客户，不管是智慧城市还是工业，主要针对图像领域做的深度识别。城市内的分析识别、安防的图片前置状态分析、工业基础设施状态巡检，这些都是我们的典型应用。

我们公司选取应用的三大标准是：首先市场规模要够大；其次这个领域要够深，那种只靠一款通用应用就能解决所有需求的领域，很容易陷入红海竞争或者巨头竞争，对初创公司来说并不是特别好的选择；第三要离商业化够近，我们我们分析了很多市场环境，发现整个领域离商业化落地还有两三年时间，可以做一些布局，但不会尝试投入。

作为初创公司，从产品定位来看主要在于两点：要么够便宜，要么你的产品能满足别人不能满足的需求。做便宜的芯片不是我们擅长的事情，我们定位的是高端、高度定制化的高性能芯片，目标客户是那些现有CPU和GPU不能满足需求、肯为额外功能和性能买单的用户，主要集中在专业级和工业级。

现在很多安防领域对人脸识别有标准化需求，很多客户除了人脸识别外，还需要分析着装、人脸特征，进一步分析定制化特征需求。我们的芯片架构可以提供这些能力，我们的开发平台可以让客户在上面开发定制化应用。

李云鹏 ：关于下游客户问题，我不直接回答。我们下游客户（高端制造业）的Workload需求是什么？真正AI需求对传统企业级大客户来说基本可以忽略不计，他们有需求增长点，而且非常高，现在看到80%以上是较为传统的数据需求，包括Relational、大数据、回归类、SuperConputing、DataDreamer、AI-Base、PHM、How’s management，这是一个现状。

未来的发展会如何？上个月发布了AI Dreamer Marker Focus，他们的Focus非常有意思，现在AI Workload 2025年占20%，混合AI市场占42%，剩下的其他市场依旧是通用型数据处理市场。这个市场对芯片处理云端需求，大概是1000亿美金。从这个诉求角度来说，我们下游客户是企业云客户，云计算的发展让数据有了存储空间，大数据和物联网的发展让他们有数据的来源。

我们认为算法本身结合得非常深。举个例子，叶根螺栓是不是会裂，我不做风机真的不知道。我们唯一可以关注的是算力，如何在有限功耗的前提下算力，这是价值点。

周斌 ：这是所有创业公司必须面对的第一个问题，你的客户在哪里。我的合作导师告诉我，如果没有客户就不要启动公司。对于市场的了解，需要对市场有清晰的认识。在我们理解中，企业级市场和消费级市场，不同客户对AI的体验和需求非常不一样。多样化的需求能否通过一颗芯片架构来满足，我无法回答这个问题，我的理解是很难的。

我们不说峰值计算能力，这是虚的，我做了十几年算法优化，知道架构能用到10%就很好了。真正的关注度点应该客户愿意花多大的成本和代价买多大的成果，这依赖于核心架构能提供多少性能指标。我们对于行业用户、消费级客户定义不同的产品线，每个产品线拥有的产品特征和关注性能指标不一样。在云计算市场，功耗是非常核心的问题，我们会提供极低功耗上的性能。云计算市场中一个服务器功耗是200瓦级别，我们在20瓦功耗下便可以提供上百瓦的服务。这些市场构成我们典型的头部客户，哪里有需求，哪里就有我们，我们跟着市场需求走。

在应用落地场景中，云端和终端是我们两大产品线和两大应用场景。我们公司的界限非常清楚，我们自己不做终端产品，而是为做终端产品的合作伙伴提供服务。我们的产品可以用于机器人、自动驾驶、云计算、嵌入式小场景，包括手机、智能音箱，我们有不同的产品形态，可以提供从核心IP、硬件IP、软件IP，到芯片、低功耗芯片、高性能低功耗芯片，以及完整解决方案等完整服务，在同样价格和功耗下提供最好的性能指标，让做人工智能应用的合作伙伴可以获得最优秀的解决方案。

沈联杰 ：我在深圳工作了26年，20多年前推出全亚洲第一款芯片，但没有真正卖进安防。10年前我们才真正开始做安防，这10年来很辛苦，人脸识别用得最多的是安防，无论是银行、酒店还是公安。要卖芯片，尤其是卖到安防领域，跟你的东西好不好没关系，首先要考虑到海康、大华等公司的地位。我们不是我们没能力做好，像地平线那样的芯片我们绝对有能力做，但做了卖给谁？所以我们要弯道超车就要绕过他们。

主持人苏东：我们在谈芯片时，绕不过中兴事件和中美贸易事件，从做芯片创业公司角度来看，贸易战本身以及将来对设备、人才的限制，对我们会造成一定的影响吗？

周斌 ：中国和美国在芯片领域进行角逐，这是一个针对性的问题。美国在这个领域有非常强的垄断地位，我们也在硅谷有非常大的研发队伍。中国发展到现阶段，无论弯道超车的理论对不对，我们都需要超越，需要往上走。我们不一定要对抗，而是充分利用已有的优秀人才、资源和技术来解决我们的问题。

NovuMind在硅谷建了核心的研发团队，是为了把真正的好芯片做出来。在这个大环境下，我们更容易理解其中的竞争合作关系。大环境下的一些小冲突，可以带来更多的彼此合作和相互促进。在这个过程中，中国核心芯片产业一定可以支撑下去，并且一定能站在最高的顶端。在此态势下，我们的解决方案很简单，充分利用双边最优质的资源，使我们的水平得到提升。

牛昕宇 ：我觉得这个问题分为两方面：人才和技术。可能大家都认为，如果中美之间有冲突，对人才流动有比较大的影响。作为一家初创公司，如果你掌握源头性的技术，对于人才的需求只需要几个核心团队的人，他经历过这个技术从零到一的过程就可以了。

我经常说，知道这个东西怎么做是工程化的问题，不是技术。真正的技术是这个东西从零到一之间，什么东西不能做。现在深圳的人才非常好，我们很多同事从华为、中兴和大疆加入，他们的工程能力很强，但他们不知道大方向。我们有CTO和首席科学家说来确定方向，你只要做就可以了。

鯤云并不特别担心人才问题，我们在伦敦设立有鯤云奖学金，每年会招收做人工智能芯片和编译器的优秀博士生。我们的合作关系很明确，我来制定博士生研究课题，你的研发成果归我所有，你来发论文，这样大家都得到了想要的东西，在保证每个人利益的情况下，不需要发生冲突，这是三赢的关系。

在技术方面，不管是贸易战还是和平贸易时期，美国对我们比较大的影响是巨头企业，包括英特尔、英伟达等企业。国内AI芯片企业要解决的问题是你对它是否有价值，如果没有价值，合作无从谈起。如果你有价值，就是天生的合作关系。今天现场有一个英特尔展台，展示的AI芯片应用就是我们做的。作为跨国大企业，它为什么愿意跟我们合作？是因为我们可以提供它无法提供的价值，这是最基础的，不论是贸易战还是和平时期，这都是初创公司应该关注的。

主持人苏东：对芯片公司来说资本嫁接是必要的，各位是创业公司，在持续不断的融资。今年上半年和下半年，你们感受到的气氛是怎样的？

李云鹏 ：我经常被问现在做AI和芯片，这个市场会不会有投资可能性？我的回答比较快，任何一个伟大的公司都经历过风波，任何一个伟大公司的做成都经历过周期。如何在这期间鉴定资本力量，在低潮期稳定团队，专注把事情做好，这正是公司关注的。我们公司具备一定的造血能力，在中国资本市场上比较看重造血能力，我们的融资还挺好。

主持人苏东：听说二级市场的影响，一级市场断崖式的下降很有影响？

李云鹏 ：朋友圈说一级市场搞不到钱，最近我知道一家北京的基金，40分钟拿到1亿美金，GP好还是可以搞定。好项目本身不缺资金，过程中大GP会对小GP趁火打劫。

周斌 ：整个市场层面，一级市场和二级市场的变化，对于头部项目来说反而是一个好的状态，大家更愿意集中在真正能突出的项目上，我们的感受反而更好，我认为这是蛮好的状态。不管市场是成长期还是洗牌期，都会真正的大浪淘沙，把真正有价值、有核心技术、有成长性、有未来的公司选出来，大家会向我们这样的公司聚集。

现在随便弄几个人说句AI、喊个口号就能拿到投资的事不存在了，在团队、市场层面上，有扎实内容、能赚钱的公司反而成为市场的香饽饽，这个洗牌期会逼着洗牌人看清楚这家公司是否有价值。现在投资人们开始认认真真的看技术了，他们关注我们的内核，给我们做IP竞调、专利竞调，这个情况我非常高兴，因为终于找专家跟我们谈正经事了，投资开始回归到价值投资的本质，通过资本市场的力量促成技术到市场的转化，从而共享收益。

主持人苏东：最后，能不能用一两句话提出现在没有实现，但两三年内甚至更远一定会出现的AI场景？

牛昕宇 ：刚才我说的三个市场要求，最后一个是离市场化够近，像自动驾驶、人工智能在金融领域的应用，我们逐渐看到实际落地的趋势。这几个领域本身的行业尚未成熟，最简单的例子是自动驾驶汽车没有上路，系统就不可能大规模卖出去。相信未来3~8年内，这些领域会出现大规模落地的情况。

李云鹏 ：在智能制造行业，大家都在谈微笑曲线，一头是设计，一头是服务，中间是制造。现在中国的制造行业是两端低，中间拉得无穷长，只能打价格战。AI在这方面的落地，可以在两三内为行业做什么。我要知道设备本身是好还是坏，什么时候坏，为什么会坏，过程一定会传输到所谓的设计和项目设计端，为产品的设计带来一定的价值提升。以AI的方式提微笑曲线，这是我们对中国制造2025年的理解。

周斌 ：大概3~5年后，在有限场景、受限场景的自动驾驶会成为比较现实的事情。第二是机器人，尤其是工业制造落地的机器人，相信更灵活、更具有自主决策、环境适应性更强的机器人可以在3~5年内看到。第三是医疗，医疗是我们比较看好的领域，3~5年内人工智能检测、疾病检测、分析系统会非常多的渗透到我们的医院中，这是我们公司有深入布局的点。

沈联杰 ：我个人认为，除非8~16个月就要卖几百万颗，否则不要做。过去这些年我在深圳卖过上百款图像算法的芯片，人脸识别、车牌识别等待，5块到10块的芯片基本都卖不了量，5毛到1块的才是爆款。

今天AI芯片不见得是完美的，它是一个趋势，让大家快速落地。现在很多看护宝宝和老人的产品说是监控又不是监控，说是玩具也不是玩具，小宝宝笑了它拍一下，这需要多强大的深度学习吗？先从老人、小孩或者家庭不那么敏感的领域切入，带着诸如人脸识别等的功能，可以把它定位为消费型的监控，能用、方便又便宜，就可以走在海康的前面。

主持人苏东：今天感谢各位嘉宾的精彩分享，今天下午AI专场到此结束，谢谢各位留到最后。

附：圆桌嘉宾介绍

深圳鯤云信息科技有限公司创始人兼CEO：牛昕宇

牛昕宇，1987年8月出生，博士，深圳鲲云信息科技有限公司创始人兼CEO，中国航天-帝国理工中英人工智能联合实验室常务副主任、帝国理工人工智能定制计算研究组负责人、欧盟FP7和英国EPSRC等专项负责人，中国人工智能产业创新联盟成员。曾获欧盟科研影响力奖、帝国理工杰出成就奖、桑坦德银行奖，并获得FCCM、ASAP最佳论文提名2项，欧盟HiPEAC委员会最佳论文两项，国际核心期刊和会议论文发表30余篇，发明专利7项，国际专利1项。带领鲲云研发的人工智能芯片“星空”、“雨人”已成功应用到航天、航空、电力、智慧城市等多个领域，并推出了以自主研发芯片架构为底层，以开放应用平台为依托，为人工智能的顶层应用开发提供计算资源的人工智能平台，为如毛细血管般的物联网应用终端装上“智能大脑”。

天数智芯创始人兼CEO：李云鹏

李云鹏，天数智芯创始人兼CEO。2002年毕业于南京大学计算机系，2005年获美国威斯康辛州大学麦迪逊校区（University of Wisconsin-Madison） 硕士学位，曾任美国甲骨文公司数据库部门研发总监。他曾带领一支横跨五个时区的跨国团队，为甲骨文数据库拳头产品Oracle Database 11g、12c和Exadata的研发做出卓著的贡献，专长于研发体系的组织和管理以及智能系统架构设计。2015年归国创立天数智芯。

NovuMind中国区总裁：周斌

周斌，NovuMind中国区总裁。现任山东大学教授，兼任北京航天航空大学人工智能专业特聘教授，曾任中国科学技术大学客座研究员。目前带领NovuMind融合大数据、深度学习、高性能计算和异构计算能力，让智能应用从云端延展至终端，为智能物联网（Intelligent Internet of Things）赋能。周斌毕业于清华大学，并取得本科、硕士及博士学位，美国GMU大学获得计算机硕士学位。

周斌以高速信号和图像处理为主要研究方向，涵盖包括传感器（视觉、红外、雷达、激光等）信号采集，异构系统（包括GPU,FPGA,CPU等）高性能深度学习处理系统架构，以及基于深度学习的目标检测、分类、识别和跟踪等研究。累计发表论文20余篇，拥有国际专利2项，国内专利7项，软著3篇，承担项目10余项，其中包括国家海洋局海洋公益性行业科研专项，为我国首创的结合高分辨率高光谱系统和激光雷达系统的对海探测项目；基于GPU的高效能复杂环境仿真方法研究，获得总装备部装备预研基金重点项目支持。

作为异构计算和深度学习方面的专家，研发了大量核心算法和处理系统，包括基于深度学习设计的VIP识别系统、人脸检测识别系统和视频处理系统，获得工业界投资和应用; 成为全球第12位，中国唯一的NVIDIA CUDA Fellow以及NVIDIA DLI认证讲师、IVA/CV导师。

AVSdsp CEO：沈联杰

沈联杰，1956生，川裔/台北市人，交通大学毕业主要从事计算机系统及芯片设计，就业的工作/飞利浦IC设计部经理/华隆微电子芯片策画经理/台湾三星电子芯片企画经理/翔英科技总经理（创业）/倚强科技总经理（合併创业~股票上市）/AVSdsp Co. Ltd.（重新创业十年至今），近二十四年前设立公司于深圳南山科技园增至四十位工程师，成为华南市佔份额第一（70%）的图像芯片厂，2003回台上市公司增至二百人也成为台湾芯片获利王前三强，不幸因2008金融风暴也引爆公司内部分裂，遂辞任总经理带著副总与一线主管二十多人离开，重新创立AVSdsp以高端图像识别处理芯片与安防产业为主，推出多款人脸与智能识别及星光宽动态芯片，也推出很多平价同轴高清摄像机主控芯片能年销数百万套，近两年再聚焦车载影像及深度学习AI芯片，目前将发表全球最低价至$1美元的AI芯片。

。