百度大脑全面开放基于赛灵思FPGA的高性能端侧AI方案
12月3日-4日,为期两天的赛灵思开发者大会2019亚洲站在北京国家会议中心拉开帷幕。百度作为全球领先的人工智能平台型公司,也是赛灵思在人工智能领域重要的合作伙伴,在此次大会上重磅亮相了百度大脑基于赛灵思芯片的FPGA嵌入式AI解决方案——EdgeBoard,向行业与国际展示了百度大脑作为“软硬一体AI大生产平台”所具备的技术优势。
(百度大脑EdgeBoard加速产业智能化升级)
随着人工智能深度学习技术在越来越多的产业中落地深入,各个行业对超高算力的需求也愈发增加。赛灵思所具备的领域专业化优势,使其完全可以满足人工智能等需求趋势。在异构计算逐渐成为“大势所趋”的背景中,百度大脑与赛灵思携手并进,进一步推进高性能、低功耗且天生具有高度灵活可扩展特性的FPGA异构计算在人工智能领域的落地应用。
百度大脑EdgeBoard不仅可凭借高性能的加速引擎提供最高3.6Tops的强大算力,还发布多种硬件产品,开放完整的嵌入式参考设计方式,使硬件集成更轻松便捷。
(百度大脑基于FPGA的嵌入式AI解决方案EdgeBoard亮相2019赛灵思开发者大会)
目前EdgeBoard提供了FPGA软核、计算卡模块两种形态供硬件集成,面向项目部署提供了抓拍机、边缘计算盒等基础硬件产品,还面向PCB方案商、硬件设备商、解决方案商全面开放合作。
在软核方面,Edgeboard同时具备AI加速核心能力与预测框架及服务生成能力;在开发工具上,EdgeBoard拥有加速引擎生成器、模型加密工具、基于飞桨PaddleSlim的模型量化工具、IO开发库、可视化设备添加与模型管理工具以及多语言API;在硬件产品上,目前EdgeBoard推出了计算卡模块、边缘计算盒、抓拍机三种硬件产品,并提供多种规格供灵活选择。
由于EdgeBoard基于深度学习平台飞桨打造,其模型生产到部署都更加高效。据介绍,飞桨以百度多年深度学习技术研究和业务应用作为基础,集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体,于2016年正式开源,也是目前中国唯一全面开源开放、技术领先、功能完备的产业级深度学习平台。
(EdgeBoard基于深度学习平台飞桨,模型生产到部署更高效)
EdgeBoard可适配百度大脑丰富的开放能力,及基于飞桨深度学习平台(包含EasyDL、EasyEdge等服务平台)定制开发的模型能力,极大降低了开发验证、产品集成、科研教学、项目部署门槛,适用于安防监控、工业质检、医疗诊断、农作物生长监控、无人驾驶、无人零售等场景。
(百度大脑EdgeBoard应用案例示例)
大会现场,EdgeBoard的优势也再次被聚焦。得益于以模型驱动硬件的架构,EdgeBoard根据实际模型需求可定制化设计和产生,达到硬件利用率最高、性能最优的加速效果;同时,基于FPGA可重构特性,EdgeBoard的软核支持可擦写升级,能够支持更丰富的模型以及最新的神经网络结构,同时计算性能也能定制调优;在实际项目应用中,由于EdgeBoard依托深度学习平台飞桨,因此EdgeBoard硬件产品不仅可预置百度大脑丰富模型能力,也可基于飞桨深度学习平台(包含EasyDL、EasyEdge等服务平台)便捷定制自有模型并快速部署至EdgeBoard硬件中,还在部署时提供硬件加密,保护模型防窃取。最后,其硬件以开放的参考设计面向合作伙伴开放,硬件形态与接口也可灵活定制。
(百度大脑EdgeBoard优势)
据了解,作为 FPGA 的发明者,赛灵思公司于 2017 年成功举办首届 XDF ( 赛灵思开发者大会) ,2019年,XDF 从美国圣何塞拉开序幕,并在北京和荷兰海牙两处进行巡回活动。