英特尔的边缘大计:搭建软件体系、发布生态智库,物联网生态步入第四阶段
2016年,在Gartner数据中心年度会议上,谷歌风投大佬Peter Levine曾认为,边缘计算将是云计算的“终结者”。
现在看来,这一激进的论断并未得到印证,倒是云、边、端协同的业态格局逐渐成形。
边缘计算作为云、端之间的“中间件”,成为两大势力角逐的灰色地带。这一地带既有微软、亚马逊、阿里、腾讯等云厂商的业态下沉,也有英特尔、高通、Arm等芯片厂商的业态拓展。
这其中,英特尔尤其强调在边缘计算领域的战略布局。
当然,英特尔最开始也并非直接锁定边缘计算这块绿洲,“一开始,我们以为AI技术会直接部署到云,所有技术在云端处理。”英特尔公司中国区物联网事业部副总经理Bob Ferrar在10月16日「2019英特尔人工智能与物联网生态合作伙伴峰会上」回忆称。
在具体产业应用过程中,尤其在当下网络环境下,英特尔很快将战略聚焦到了边缘计算,并在2017年11月的中国物联网总裁高峰会议(杭州)上提出了清晰的物联网三大战略方向:高性能芯片、增强边缘计算、计算机视觉。
在本次峰会上,英特尔尽数展示了其在边缘计算领域的部署,包括坚持一年四次的OpenVINO工具套件的版本更新,酷睿、至强系列芯片+Movidius硬件平台体系的迭代,多应用融合技术的配置,边缘人工智能边缘计算生态智库的提出,以及机器视觉在诸如零售、工业、城市、医疗各领域的应用。
OpenVINO版本更新,及多应用融合软件
去年7月27日,英特尔在视觉解决方案及策略发布会,正式推出OpenVINO视觉推理和神经网络优化工具套件。这一工具套件自推出后,以每季度一个新版本的速度迭代更新,显然已经成为英特尔在边缘计算,尤其在视觉领域的重要部署。
此次峰会上,英特尔正式对外发布了OpenVINO R3版本。
据官方资料显示,此次版本更新主要针对此前OpenVINO版本占用资源空间过大,部分模型需要在不同推理运算之间改变图像尺寸导致准确性降低,难以追溯每次变化为模型带来的性能、准确性影响等问题进行了优化。
具体而言,更新后的OpenVINO R3版本对网络模型加载进行了优化,加入了3种视觉预训练算法模型,新增命令行界面(CLI)部署管理器,并支持第10代英特尔酷睿处理器(Ice Lake)。
大会上,英特尔视频业务市场拓展总监Thomas Neubert特别强调,OpenVINO已经基于Apache 2.0 licence开源,截止2019年9月13日,这一深度学习网络架构已经被369个深度学习模型支持。
关于OpenVINO的产品迭代,Thomas Neubert给出一组数据:
基于第一代至强处理器,OpenVINO 2018年的R1版本可以使得计算性能提升1倍,2019年的R1版本可以使得西能提升2.1倍。如果基于OpenVINO 2019年的R1版本,采用第二代至强处理器,计算性能将会提升28.4倍。
行业中厂商会提供原始性能数据,实际上,在我们的用例当中,原始性能数据并不是最重要的,我们要考察的是其在端到端解决方案中能够带来总体性能水平的提升。
目前,OpenVINO已经持续迭代了六个版本,在现有硬件平台的基础能力上,计算性能已经从250帧/s提升到2600帧/s,如下图。
此外,OpenVINO作为当下英特尔战略级软件产品,也得到了英特尔全线CPU产品的支持,包括英特尔的灵动、酷睿、至强系列处理器,Movidious VPU、FPGA加速芯片,以及未来的加速芯片。
这些都是英特尔针对机器视觉,针对OpenVINO的版本迭代和体系化建设,也是英特尔在AIoT时代找到的切入点。
为什么英特尔会重视边缘计算,尤其重视机器视觉呢?
雷锋网 (公众号:雷锋网) 从英特尔中国区物联网事业部首席技术官张宇给出的两组数据中找到答案。
据相关预测,2025年全球人类产生的数据中有约55%的数据来自于物联网,其中50%的数据需要在边缘进行处理,另外一半数据在云端进行处理,所以边缘协同将是未来整个物联网大趋势。
在众多物联网应用中,我们看到很大一部分应用与视频有关,而且视频数据增长迅速。据行业咨询公司预测,视频数据增长速度每年达到11%,预计到2021年,网络数据中约有82%的数据与视频相关。
这其中,有一个重要概念「软件即服务」。据雷锋网了解,「软件即服务」更多是当下诸多云服务厂商在提的概念,同时也是英特尔进一步拓展OpenVINO此类开发工具的一个基础思路。其中,软件即服务的关键技术在于多应用融合。
平台化软件能够实现对硬件资源的统一调配,同时也能够提供标准化的中间层,以打破上层应用与底层硬件资源之间的关系,从而提高系统利用效率,我们看到这两方面的发展非常迅猛。包括诸如软件定义网络(SDN)、网络功能虚拟化(NFV)、软件定义存储(SDS)等通过虚拟化技术将若干应用整合在统一平台上的软件定义系统应用案例不断丰富。
正因如此,英特尔正在开发多应用融合软件。据张宇介绍称,这一软件包含两方面,一方面是集中在边缘侧,另一方面集中在云端。
边缘侧,英特尔提供对自家现有软件工具扩展(例如OpenVINO扩展),使得这些工具更好支持多应用环境,同时在边缘侧还提供一些检测工具帮助开发者检测每一个应用当前工作状态,以及应用占用系统资源的情况。
云端,英特尔通过提供软件管理平台的参考实践,用户可以在web上输入融合系统的系统参数,当这些参数设置完以后,会在云端管理平台自动生成安装脚本,开发者可以把脚本下载到本地运行,以此快速构建所需多应用运行环境。
物联网生态构建第四阶段:人工智能边缘计算生态智库发布
互联网时代延续至今的一个思维是生态构建思维,各大厂商针对物联网进行行业部署时都极度重视生态。
雷锋网注意到,在本次峰会上,英特尔对外发布了人工智能边缘计算生态智库(AI AT THE EDGE生态智库),这一智库也是英特尔聚焦AIoT的物联网生态第四阶段具体部署。
英特尔中国区物联网事业部渠道生态总监于冰在峰会上针对这一部署进行了详细讲解:
边缘人工智能生态智库包括三大版块:高性能硬件及行业软件配方、预先捆绑好的开发者产品和工具、特定使用案例套件及可部署方案。
第一,高性能硬件及行业软件配方,英特尔针对边缘计算和机器视觉有高性能CPU、GPU、VPU,Movidius、FPGA视觉加速器,以及OpenVINO开发工具包;
第二,预先捆绑好的开发者产品和工具,JWIPC、UZEI开发工具,英特尔神经计算棒,以及边缘到云的整合产品方案;
第三特定使用安力套件和可部署方案,包括神州数码仓促业务自动化与管理流程可视化解决方案、深圳信步动态人脸识别闸机布控解决方案、杰和数字标牌管理系统、上海锐势工业机器视觉开发套件等。
前文提到,英特尔整个物联网生态构建已经发展到第四阶段,主要聚焦边缘人工智能、AIoT(AI+IoT)。针对四个阶段的发展历路,于冰也在会上进行了梳理:
1.0阶段,英特尔生态系统构建主要包括ODM、OEM厂商,以及独立软件开发商、云服务厂商等端到端解决方案厂商,这也是英特尔基于自身原有基因进行最基础的生态系统扩展;
2.0阶段,2017年,英特尔正式提出行业整体解决方案和开发套件,加速拓展生态系统,进一步覆盖物联网解决方案聚合商,通过诸如神州数码、JWIPC等将解决方案及开发套件推向市场;
3.0阶段,2018年开始,英特尔开始着重进行行业解决方案部署,据大会公布数据显示,目前,截止目前,英特尔已有超过217个解决方案和90个开发套件在全球推广部署;到今年为止,10个月里,全球有3400个项目已经进行了部署应用;
4.0阶段,2019年开始,英特尔通过开发者工具和生态系统方案,重点在于快速规模部署AIoT。
生态构建作为当下巨头角逐物联网的主战场,英特尔整合自家原有产业链资源,经过近三年的行业下沉,将自己在物联网赛道上的生态进一步拓宽,通过边缘计算、机器视觉的软硬件体系,精准定位了自家在物联网,乃至智联网时代的核心体系。
据英特尔市场营销集团副总裁兼中国区总经理王锐在大会上给出的数据显示,英特尔推出的全新生态链支持计划,在2019年也进一步拓展了“200+ODM、OEM新客户、150+物联网系统集成商及终端用户、20+基于OpenVINO的产品发布,并实现了超过2900例实际部署。"
边缘计算布局深入九大行业
两年前,英特尔在2017年11月中国物联网总裁高峰会议(杭州)上提出了物联网三大战略方向:高性能芯片、增强边缘计算、计算机视觉。其中,边缘计算作为贯穿英特尔三大战略的新方向,替代了此前「工作负载整合」的说法,开始被渗透到各个行业。
在次日(10月17日)的英特尔物联网峰会上,英特尔公司高级副总裁兼物联网事业部总经理Thomas Lantzsch进一步强调了英特尔在物联网领域的具体战略:“以高性能计算、赋能边缘、视觉(视频)推理为支柱,将通用、无缝的软件和开发者体验贯穿其中,不断拓展生态合作,提供行业整体解决方案,并以此推动物联网创新实践。”
这样的物联网战略,具体落实到行业中,Thomas Lantzsch也表示,已经布局九大细分领域:零售、工业、智慧城市/视频、交通运输、公共事业、教育、医疗、汽车、金融服务。其中,安防、零售、医疗、工业是计算机视觉和AI推理的重量级应用领域。
针对计算机视觉、边缘计算开发工具的进一步开发规划,Thomas Lantzsch也透露,目前已经与合作伙伴开发了用于提升网络能力的OpenNESS,2020年将会针对功能安全、实时控制继续推出相应工具。
此外,提及边缘计算的驱动力,Thomas Lantzsch认为涵盖以下四个方面:
第一,低时延,很多场景要求应用必须是非常低时延的,例如机器人、控制系统,在工厂里就有这样的要求;
第二,大带宽,对于计算机视觉而言,带宽目前仍有一定局限,未来数据量将会是巨大的,从经济成本上来讲,我们不能将海量数据都传到云端计算;
第三,连接性,这也是很多客户面临的挑战;
第四,安全性。
英特尔的边缘大计:以数据为中心的战略转型催动的应用落地
近两年,英特尔开始强调边缘计算,强调以数据为中心进行的战略转型,这样的战略部署在时隔两年后的今天终于不再浮于纸面,开始在产业中引起化学反应。正如英特尔公司高级副总裁兼物联网事业部总经理Thomas Lantzsch次日在英特尔物联网峰会上所提到:
两年前,我们只能为大家看PPT的演示来告诉大家我们做了哪些事情;去年,我们已经看到了很多行业解决方案的演示、概念验证和解决方案的原型;今天,在场外展示的方案都是已经上线的解决方案,在中国、在世界都有很多实际的部署。
具体在行业应用落地方面,王锐从市场方面给出了更多的介绍:
在工业领域,我们明确了「运动+视觉」这一工作负载整合的战略方向及产品思路,各个合作伙伴也推出了一系列新产品和新方案;
在智慧零售领域,我们经过和客户合作,推出了基于透明计算和IDV的商业终端,在教育端提出了端到端的解决方案,同时提出了智能会议室的方案,以满足金融界、教育界及其他行业需求,并且进一步向新的应用市场中拓展;
在智能交通领域,我们明确了高铁、地铁、港口和高速公路四个战略方向,加深了与这四个方向的客户的合作,并开始逐步在四个行业中推出基于英特尔产品技术的解决方案;
在医疗健康领域,除了继续利用人工智能赋能传统医疗测试仪器外,英特尔还加大了在智慧医院上的客户合作,针对智能病房、智能医疗室、智能手术室等应用场景推出了一系列解决方案和产品。
相关文章:
英特尔重申IoT三大战略,边缘侧布局初见成效
英特尔推出OpenVINO工具包,聚焦边缘计算的视觉处理方案有哪些新意?
。