英特尔物联网副总裁Jonathan Ballon:未来20年AI将有一半在边缘上
11月14日至15日,英特尔人工智能大会(AIDC)在北京举行。大会上,英特尔公司物联网事业部副总裁Jonathan Ballon发表了以“数据时代,人工智能产品创新与实践”为题的演讲。
他指出,在英特尔以数据为中心的转型中,边缘是分布式计算的一环,是真正采取行动的地方,而计算机视觉是AI落地的重要机会。
J onathan表示,大量的数据在边缘产生、在网络上产生、在基础架构上以及在本地产生。这些数据需要大量的计算资源进行处理,同时也对数据处理速度有着很大需求,很多情况下要求接近于实时的数据分析,并最终成为一种自动化系统。与此同时,这些数据还是多种类型的。这意味着,异构的计算架构是部署AI的关键。
“过去几年大家意识到,所有最好的AI能力是在GPU上,这是一种错误的认为,事实上今天如果去看一下边缘部署,它实际上是在本地发生,有些时候可能是比较困难的环境,所以你需要一个异构的计算架构才能够在这些部署当中取得成功。”
一组预测数据显示,2017-2025年的AI软件收入中,几乎有一半是基于计算机视觉。也就是说,边缘上的AI,最大的机会来自于计算机视觉,比如说机器视觉、视频监控、医疗影像、预测性维护、质量保障、制造场所等。
前段时间,在英特尔中国物联网峰会上,英特尔重新定义了英特尔物联网的战略,重点关注在三个层面,物联网芯片、边缘计算和计算机视觉。
在物联网芯片方面,从凌动(ATOM)到至强(XEON),整个系列处理器支持包括英特尔最近在布局的新零售领域的数字标牌、交互式白板、安防领域的智能摄像头等应用。除此之外,英特尔在专用芯片和软件工具上着力,提供包括Movidius芯片、FPGA硬件加速、无线连接芯片、OpenVINO开发工具包。
在计算机视觉方面,英特尔收购了机器视觉公司Movidius,并且推出了针对机器视觉领域高端市场的Movidius Myriad VPU,基于自己的硬件设备推出优化的人脸检测、人脸属性识别等计算机视觉技术。
在边缘计算方面,英特尔已经与合作伙伴一起在边缘侧部署了一系列边缘服务器(Edge Servers)、AI数据中心等,也希望未来能够在边缘进行AI训练。
会后,雷锋网与少数几家媒体对Jonathan Ballon进行了采访。
雷锋网:英特尔目前整体的战略是什么?物联网在其中是什么样的地位?
Jonathan Ballon: 您提了很好的问题,谢谢。英特尔的战略是从一个过去以PC为主导的企业向以数据为核心的公司进行转型。我们认为数据将会驱动下一代计算架构的发展,并且在此过程之中,AI(人工智能)有关的应用会加速这个发展的过程。在过去15年的时间里,我们看到云和数据中心的业务呈现出非常强劲和显著的增长,但是现在我们发现大趋势是在向分布式计算进行演进,这也意味着终端或设备要和云进行互动,这样的发展趋势将会产生大量的机会以及可能性,这主要是关于数据的处理、存储和分析。
我们认为,在未来20年的时间里,人工智能所产生的这些机遇或者说机会,将有一半体现在网络的边缘之上。这也意味着对于英特尔公司来说,物联网实际上是会发挥一个非常重要的作用。我们要做的工作就是将我们在云端具备的能力进一步扩展延伸到网络。换言之,在将周遭的世界进行数字化的过程当中,我们将更有效、更高效的挖掘物理世界能带给我们的价值。当然这样的过程就和过去或者现在我们来挖掘并充分利用互联网的过程是一样的。
电子 产品世界:我们知道物联网本身是一种万物互联的状态,在这样的状态中,系统级的方案以及物联网的服务可能是物联网往更高层次提升的必备条件。从英特尔的角度来讲,你们提供的物联网解决方案以及硬件,如何能够更好的让AI应用最终细化成终端用户的一种全新物联网体验?
Jonathan Ballon: 很好的问题。我们认为物联网是有三种不同的状态或者是阶段。在第一种状态之下是未被连接的设备间的互联,换言之这是读取数据的过程,基本上这个环节我们是已经都做到了。我们看到其实在过去十来年的时间里,包括我们在数据中心当中处理或者存储的这些数据,现在都已经不能够完全满足物理世界对于数据的需求。
物联网发展的第二种状态,高度的互联和复杂的互联,就是你刚才提到叫做智慧的系统。在这个层级上我们不仅仅是考虑单个的一些终端和设备,不再是单一的涡轮机或者单一制造的生产线,而是由很多很多的终端设备组建起来,如同舰队一般。我们现在在这个阶段里需要考虑的是如何实现系统层级的变化。
物联网发展的第三种状态,我们称之为由软件定义的高度自动化的系统。在这个阶段里我们将看到高度自我学习的能力,或者说某种程度上,这个系统本身可以脱离人类的控制,实现某种程度自动化的运营或者运作。
前面提到三个不同的状态和阶段,在每一个阶段或者状态当中,当我们把人工智能应用进去的时候,我们会发现价值实现了增速。比如当我们在进行连接并从中往外读取数据的时候,如果能够辅以大数据或者分析能力,便会增加价值。说到这一点,如果想要在系统一级获得明显的额外收益,我们需要深度学习,需要人工智能在边缘或者数据中心上进行一些推理和培训。
电子产品世界:您其实在刚才的报告中也谈到边缘计算对物联网的重要性,现在很多的AI应用尤其是大规模的AI应用,很多都是需要很强大的计算能力,在边缘这种计算能力受限的地方要实现部分AI应用的时候,它怎么能够去更好的控制任务分配的状况,同时能够保证这些边缘设备不会增加太多的成本和计算能力的消耗?
Jonathan Ballon: 过往我们在企业和数据中心所遵循和执行所有的原则,最终也同样会在边缘上实现和遵循。我们认为会出现一个应用的虚拟化。首先在Hypervisor这样的层上,我们会针对数据中心里面的应用搭建一些容器。一方面我们先把这些应用集合起来,放在通用的计算平台之上;另一方面,我们也会根据不同的条件来对应用进行具体的优化,比如具体的使用场景是什么,或者会面临的一些限制是什么,这些限制有很多种:带宽的限制、延时的限制和安全上的限制,比如你来回来去导数据会产生安全方面的限制,我们会把所有的这些因素都综合起来考虑。所以总的来说,我们会根据成本、速度或者具体的使用场景和目的等等,来加以考虑。现在云服务供应商们正在把这些能力在慢慢地向边缘进行扩展,所以将来我们会看到在边缘出现很多的数据中心。
至顶网:前段时间英特尔中国物联网峰会重新定义了英特尔物联网的战略,重点关注在三个层面,一个是物联网芯片,一个是边缘计算,一个是计算机视觉。我想了解一下这三个方面的情况。
Jonathan Ballon: 过去15年的时间里,我们的战略都是非常清晰,我们要把在硅片上原来既有的优势慢慢向IOT(物联网)市场进行转移,过去15年我们都是这样做的。比如我们面向数据中心的至强,比如我们面向PC、面向平板、面向移动终端的酷睿和凌动芯片,现在都会慢慢往IOT的市场里进行扩展。过去15年我们已经这样做,把既有的能力进行扩展,除此之外我们还要做得更多。我们发现整个IOT市场的精密度和复杂度在上升,现在确实有必要为了特定的使用场景和范例来培养一些独特的能力。在这里可以给你举一些例子,比如时间统筹的计算能力。具体而言,在一条生产线上有整个一个舰队的机器人在工作,你需要在时间上进行协调,让所有生产线上的机器人能够同步加以运作,而且这中间的时间差可能就是10纳秒,非常小,这是IOT非常明显的特点。
第二个例子,所谓功能性安全。比如我们有一个铁律,机器人不能伤害到人类,我们需要运用到计算机视觉,通过计算机视觉看到说有一个人或者有一个物体可能正好挡到了机器人的路上或者怎样,这种情况下就会发出指令,让这个机器人立刻关机,不能再动,否则就会伤害到人类。我只是想通过这些例子来说明我们现在有必要专门针对IOT一些独特的使用目标来开发出一些能力,这就是为什么我们要专门有所谓IOT芯片。此外还有一些其他例子,比如我们芯片可能要适应极端的温度,要在特别炎热的高温下正常运作,或者这个芯片可能要寿命特别长,至少要用15年或者15年以上。这些都是IOT市场当中非常独特的一些要求,也正因为如此,我们现在有你刚才提到的专门的IOT芯片组。至于边缘计算,刚才前面几个话题一直都在讲边缘计算,就不再做过多的阐述。
计算机视觉,我们认为整个IOT传感器到了最后,实际上还是一个视觉的效果,最终我们是需要有视觉能力再配备上深度学习,使IOT能够获取高于人类的很高的精度或者准确度。
雷锋网 (公众号:雷锋网) :物联网这些年也经历过起起落落,今年看到物联网方面很多大公司把物联网提到战略的层面,英特尔今年物联网有什么突破?
Jonathan Ballon: 我觉得原因在于我们到了所谓的引爆点。在过去几年时间里,确实有很多公司在技术层面上进行试验和测试,现在我们认为技术已经相对来说比较成熟,毕竟这些公司在过去几年的时间里对技术进行了大量的尝试。现在我们会发现人工智能、物联网和真正的生产有机地结合起来,并且在现实当中得以部署,还不断地在扩大规模。所以说到这里,这个大背景之下产生两个非常重要的因素:首先人工智能的确是在加速物联网,因为物联网部署能够带来的经济效益和价值是真实和可见的,这是第一个要素。
第二个要素主要关于竞争,是竞争的压力和竞争的要求。各个大公司都在积极部署相应的系统,因为他们感受到来自业界同行的压力。换言之,如果现在不能够通过IOT来有效地获取这些数据,不能够有效地利用这些数据的话,就会被竞争对手甩在身后。
雷锋网:我这边了解到英特尔物联网部署多个产业的领域,比如安防、零售、自动驾驶、智能家居等等,现在英特尔看好哪一个领域,觉得它发展会比较快,能够有真正的回报?
Jonathan Ballon: 目前来说,如果看机会和机遇的话,最为成熟的一个市场细分还是和工业有关的,尤其在中国更是如此。整个国家的智能制造战略,包括从工业3.0向工业4.0的升级,都会在工业这个领域具体的应用中带来很大的机会。比如像阿里巴巴在这方面也有很多的工具或者解决方案,将基于中国这些制造业的能力进行升级,走向下一代更高的水平。在下一代之中,将会有更多由机器来驱动的价值,而不是像过往那样靠人来驱动或者产生价值。
如果放眼更加长远的话,我认为最大的机会还是在智慧城市方面。但是目前来说和智慧城市相关的可能也仅仅是在安全、安防和交通管控上,因为毕竟在这个环节里还不是那么的成熟。
电子产品世界:现在尤其是在边缘计算或者跟物联网终端这边比较相关的一些产品中,他们基本上都选用NPU,去作为整个系统处理器的一部分,专门做人工智能方面相关的应用。而英特尔并没有在自己的架构当中做这样的调整,可能还会用以前的普通CPU的架构去处理。这对于在边缘计算中的开销以及计算效率是否会产生一些影响?英特尔没有这么做的原因是什么?你们做人工智能神经计算棒的产品,里面这些处理器能够作为一个独立的物联网节点出现吗?还是只是为了让开发者们去学习或者使用了解人工智能的一些简单应用而制造的一个过渡性产品?
Jonathan Ballon: 不管是谷歌的TensorFlow也好,还是NPU神经处理单元,还是视觉处理单元等等,它们究其本质还是推理的能力。目前英特尔主要把关注点放在视觉处理的环节上,因为在我们看来,在众多的数据类型当中,计算机视觉的推理其实是复杂度、难度和重要性更高一些。
目前为止除了英特尔公司之外,没有任何一家企业能够规模化地推出加速器的芯片组,只有英特尔可以。当然其他有些公司会做一些专属目的的人工智能芯片,基本上都殊途同归,本质上是一样的。对于未来的方向,会有一些不同的流派,比如谷歌有自己的处理集团,它认为把这个和谷歌云配对起来是对的;微软认为用FPGA配合他们的云是正确的架构。所以目前在这个工作领域里面,整个行业还处在一个相对早期的阶段,大家的重头戏还是放在推理上,至于推理的工作可能会有各种不同的配置。
说到计算棒,这是我们专门用来支持创新的开发工具,不只是指着它来挣钱,没想卖好几百万个挣大钱,不是这样。这只是一个工具,让开发者能够有更好的能力来真正获取AI方面的能力,而且京东也在卖。
雷锋网:请您讲一下英特尔物联网三大战略,互联网高性能芯片、边缘计算和计算机视觉,这三块对应的产品具体是怎样的?它们是怎样配合起来提供给其他的合作伙伴?
Jonathan Ballon: 我尝试着在我认为可以的范围内做如下的回答。就战略来说我们有多年演进的路线图,比如在芯片组方面,在视觉计算单元方面,从凌动到酷睿到至强,我们都有未来五年的发展路线图,这里面也会涉及到专门面向IOT市场的特定功能和性能。边缘计算是我们一整套的战略,这个战略意在将边缘终端所产生的价值更好地挖掘出来。在过去一年的时间里,针对不同的行业我们已经推出了150个边缘计算的解决方案。在计算机视觉方面,里面意味着大量硬件方面的组合,包括视觉的处理单元、加速器、卡,还有OpenVINO这样的工具,以及配合上一整套的算法。现在英特尔能够为我们整个生态链的合作伙伴提供软件、服务、云、系统的集成能力。
相关文章:
英特尔AIDC大会:向AI开发者敞开怀抱,更加注重生态搭建
英特尔重申IoT三大战略,边缘侧布局初见成效
。