信服云边缘智能计算平台：助力ISV快速实现边缘数智化应用的落地

11月10日，2021宝德数字产业生态大会在深圳举办，深信服创新研究院AI专家孟宾宾受邀参加了本次大会，并在会上分享了他对AI产业发展趋势、挑战及应对之道的看法，受到了参会观众的广泛关注。

图：深信服创新研究院AI专家孟宾宾

越来越多的AI应用下沉到边缘端

孟宾宾首先对AI产业的发展进行了分析，他认为当下的AI应用正在逐渐下沉到边缘端和设备端，而这个趋势主要有四个驱动因素。

首先，边缘计算场景的兴起会使得AI应用的体验变得更好。在无人驾驶、语音识别这样的实时计算场景里，要求AI应用需要达到毫秒级的实时响应，如果不能达到这个要求，则应用就不能落地。采用云端的方案，延迟可能达到数百毫秒，而下沉到边缘端则可以做到几毫秒延迟。

其次，随着AI场景的数据量不断增加，边缘到云端的数据通信以及对带宽的要求逐渐加大，有一些任务下沉到本地，会使带宽的压力大大减小。

第三，可以解决链接问题，通过边缘将现实生产环境与数字化云环境（私有云）链接打通，通过边缘采集实际生产数据做数据价值挖掘、数据智能模型沉淀，再通过云边管道注入到边缘赋能生产，真正形成数智化落地闭环，帮助组织加速数智化落地速度，解决实际问题。

第四，边缘端的系统部署和维护更简单，同时边缘设备的AI能力可以进行动态扩展。在实际部署环境中，设备部署完之后可以添加不同AI推理的模型和能力，还可以通过云边协同系统，让它能够像安装 手机 APP一样，能够动态地更新和下载。

第五，下沉到边缘端后，AI应用的数据隐私保护能力可以得到提升。在边缘端，AI应用的数据可以本地采集、本地处理，有效的减少了数据暴露在公共网络的机会，因此大大降低了发生数据安全问题的风险。

边缘AI的趋势与挑战

在AI技术的发展和落地方面，孟宾宾也分享了自己的看法。他提出了四个技术发展趋势：

第一，AI框架和AI芯片硬件方案多样性增加，而且国内的服务商在快速崛起；

第二，AI模型复杂度和业务数据量越来越大，对计算优化需求越来越明显；

第三，边缘AI需求呈碎片化，需要场景化来解决用户实际问题，单一通用算法难以实现，这就对算法跨场景迁移，多算法的升级部署，算法本身的持续迭代维护的需求会越来越明显。

第四，场景化的AI+业务能力也是必须要考虑的一个维度，深入+AI的场景都需要对现场业务逻辑很好的理解，支撑甚至融合，所以多元数据分析及业务融合也是一个现实需求。

与此同时，要让边缘AI遍地开花，需要解决四个方面的挑战。

首先，软、硬件异构导致兼容适配难度高。由于底层AI芯片和框架的方案很多，AI应用的开发者在做软硬协同及适配开发时难度会非常高，场景化多算法注入及协同则更困难。

其次，边缘设备资源受限，对性能要求高。相较于中心云服务器，边缘节点的资源配置有限，难以运行大而全的复杂模型。将云端训练好的AI算法模型迁移至资源、算力相对有限的边缘节点，算法开发人员需要做大量模型量化、优化以及算子层面的调整工作，过程繁杂，优化效果高度依赖开发者经验。

第三，边缘环境变化导致边缘AI模型漂移。随着环境变化，数据分布存在差异，这导致在实验室采集样本训练出的模型在边缘场景下识别率降低。

第四，边缘虽然在数据隐私上有较大帮助，但环境不确定因素导致的安全问题及边缘设备本体安全也是一个必须要考虑的问题。

这些问题无法解决，边缘端的AI应用就难以落地。

云边协同的解决之道

孟宾宾在活动现场分享了信服云针对以上挑战的解决之道——信服云边缘智能计算平台。

图：信服云边缘智能计算平台

孟宾宾介绍，目前信服云边缘智能计算平台可以接入、管理各种异构的边缘传感器设备，并通过边缘计算一体机结合AI算法在本地进行智能处理，把初步处理的结果数据上传到云端进行应用层面的管理。在这个过程中，边缘计算应用ISV开发人员可以通过深信服自研的容器云管平台对边缘计算一体机和云端上的任务进行统一编排和调度。

对于边缘计算应用ISV开发人员而言，信服云边缘智能计算平台最为核心的能力是，为智能化场景业务开发工作提供了一个云边协同的智能计算平台。在这个平台上，AI数据、训练、边缘推理计算优化和服务部署工具可以形成一个高效地运作的闭环，AI模型可以被部署到设备上运行，运行过程中又可以指导模型的调优，甚至收集新的增量数据。这样的开发模式可以大幅提升开发者的开发速度，降低开发门槛，保证开发质量，同时能够让开发的业务快速的就绪部署到实际业务环境中，形成一个良性闭环。

“信服云想要打造下一代简单易用、灵活高性能、结果可信的云边协同的算法开发训练交付平台。”孟宾宾在演讲最后透露，信服云边缘智能计算平台已经在一些智慧园区和智慧交通的场景中进行了应用，并帮助不少AI应用开发者减少了开发成本，节省了边缘AI应用落地的开发时间。“未来，信服云云边智能计算平台会面向更多的智慧场景，如：智慧电网、智慧能源、智慧工厂、智慧水利、智慧矿山等场景，面向更广泛的行业的AI生态伙伴以及边缘计算应用ISV开放，我们希望拥抱整个生态，和大家一起在人工智能领域，在边缘计算领域做一些有意义的事情，为更多用户创造一个简单、安全、可闭环、有价值的智能化业务落地体验，帮助用户实现更简单、更安全的数字化转型及智能化升级。”