安防创新百人会丨深耕高性能计算,比特大陆如何制定ASIC芯片终极方案
当前, 安防 市场的热度有增无减,随着人、车、物识别水平的不断提高,安防市场场景落地的广度、深度以及精确度越发成熟和完善。而AI 芯片 作为安防产业链的上游端,相较于中游的产品生产商和软硬件提供商,智能化的更迭速度更快应用性更强,除了传统安防类公司,也引起越来越多的新兴科技公司进行逐鹿。
北京比特大陆科技有限公司,是一家高性能计算芯片公司,专注于研发高性能、低功耗的 ASIC 芯片,目前主要应用于区块链与 人工智能 两个领域。 当英特尔致力于CPU的研究、英伟达开发GPU时,比特大陆与谷歌公司一脉相承,深耕到TPU。然而本质上看,不同于谷歌“训练+推理”的应用模式,比特大陆是基于硬件产品来研发销售服务器,从而打造AI芯片系统化,且侧重在云上的推理。下面我们将细致解析何为ASIC芯片,以及该芯片的应用意义有哪些?
软件定义芯片,聚焦视频图像结构化
AI芯片的制作流程,是从原理设计开始,然后经过物理设计、台积电厂商完成工艺设计、制成小的芯片后,再由封装厂封装,经由测试筛选出优质芯片,最后进行出产。出产之后,比特大陆会做一套小的核心系统,系统外围会有内存、电源等模块,还有一些其他小型器件,诸如时钟发生器等器件。核心系统组成之后再增加一些控制单元,就组建成一款服务器。
2017年11月,比特大陆推出了其第一代AI芯片——BM1680,并基于这款芯片打造出了深度学习加速卡板卡SC1/SC1+、智能视频分析服务器SS1。 BM1680,作为比特大陆的第一款张量加速计算专用芯片,采用改进型脉动阵列技术,适用于CNN/RNN/DNN的训练和推理。BM1680芯片能够提供2TFlops单精度加速计算能力,芯片由64 NPU构成,特殊设计的NPU调度引擎可以提供强大的数据吞吐能力,并将数据输入到神经元核心,性价比高。
而在今年3月,比特大陆推出了其第二代AI芯片——BM1682,该芯片是以应用场景为驱动,用软件来定义芯片系统,致力于云上的推理计算,从而落地安防产业。 比特大陆的产品战略总监汤炜伟告诉亿欧,在定义第二代AI芯片的过程中,我们发现,对于安防AI芯片,AI是其中重要的一部分,但不是全部。即不止于深度学习加速,而是对视频AI全流程优化软件定义芯片,进而实现完整的视频图像结构化。
汤炜伟提到,比特大陆之所以要做云上的 推理计算 ,主要有以下原因:
芯片对视频或图像的处理,会经过25-30帧的解码、视频图像的抽帧、然后是四维变换、视频结构处理。汤炜伟告诉亿欧,比如视频中出现非正面或模糊的人脸图像,就需要对图像做大小变换,调整成正面角度,最后再送至NPU,即神经网络处理单元。需要做图像目标检测、目标跟踪、以及特征提取。人脸特征提取之后,是向量组,利用该类向量可以去做比对、或者做分类,人脸识别往往是在做比对过程。
这种比对就是拿人脸向量与比对向量做余弦变换,计算两个向量在空间的距离,距离越小,相似度越大。所以便有了相似度95%、99%的说法,即根据空间距离、位置去测算得出的结果。虽然相似度并不是标准化的定义,但是相似度的对比基本就是数据从采集到预处理、处理、后处理的一系列的过程。
专注推理计算,ASIC专用芯片可达低暗硅高利用
不同于英特尔和谷歌定位于通用的AI生态,AI芯片大范围应用于医疗影像、安防、互联网、教育等方面。汤炜伟告诉亿欧,比特大陆专注于推理,在推理中加入视频解码,落地安防。此外,巨头公司的决策周期较长,可能会达1-2年的时间,巨头公司做一件事情,形似大象跳舞。他们需要倾注许多力量,瞄准一个非常通用且拥有足够容量的市场,以便能将投入的成本收回来。
汤炜伟形象的比喻道:“我们聚焦在具体应用场景,就像一米宽,一公里深的市场,而他们做的是一公里宽,一米深的市场。”
推理市场背后用户群体可承载的庞大容量和巨大的发展前景。本质上,训练是为了训练一些算法,训练的算法只会由算法工程师和科学家去使用。目前属于研发阶段,而适用人群大概为几十万人,但是推理业务及相关行业业务会与个人业务紧密联系,将来每个人的手机和随处安装的摄像头,这类电子设备所蕴含的推理与个人息息相关,所以推理市场的应用前景是巨大的。汤炜伟提到,在市场容量和市场发展上,推理市场会是一个十倍、百倍的训练市场,对于芯片来说,有量才能活下去。
在推理市场上,IC专用芯片才是一种终极方案。因为这类芯片可针对特定场景(安防、互联网)进行应用,专一性强效率更高。 早期的推理市场,一些芯片的BAT厂商会有部分AI需求,但是他们是利用CPU做推理,当芯片在做AI推理和AI训练时,它只用了其中的一小部分,而其他99.9%是“暗硅”,基本都处于闲置。因为CPU是通用处理器,它在做一件事情时,利用率较低。
而现在有些公司是用GPU做推理,因为GPU相对于CPU在性能功耗方面有十倍的提升,但这并不是一种最优方案。因为GPU要兼顾图像、图形等一些科学计算,对深度学习的订制和加强,没有ASIC优越,因此,ASIC专用芯片“暗硅”比例一定是最低,而利用率会是最高。
安防市场日新月异,视频云服务是大势所趋
安防市场经历了模拟到数字、再到高清、AI这几个阶段阶段,AI带给了安防市场巨大的翻新变化与价值提升。基于数字和视频的丰富累积,人肉搜索现象一去不复返,智能化搜索和自动化特征提取已成必然。而提取出的基础结构化数据可以被计算机理解,从而生成完整智能化的信息链。通过数据的碰撞、分析,巧用大数据从而把其中隐藏的信息和观点寻找到,能够更准确更快速地解决问题。
汤炜伟举例轨迹、同行分析,提到在视频里发现某人连续一百天和某人同行,且发生异常行为,可分析他们是否是同伙?在某个视角里,有两个人在定期碰面,他们是不是在做交易?在某个晚上,有一些人连续去了20个KTV,他们是不是在贩毒?这种大数据碰撞出来的分析,所带来的一些应用价值不仅能够解决海量警力带来的问题,还能提高解决问题的效率。
对于当前安防市场的发展趋势,汤炜伟提到现在存在一个很有意思的现象。集成商和运营商的角色在相互交织,海康、大华正在往集成领域迈进,这样得到的结果,就是在未来也许只有集成商排行前30左右的数量留下。而这些集成商可能会向运营商去变化,从硬件市场向软件市场过渡,通过了解用户需求,以服务的方式去解决用户的问题。
而现在诸如电信、中国联通、广电等运营商正在往集成商的角色发展,这种趋势越发明显。而运营商比集成商拥有更大的优势是天然的运维数据中心,在集成领域里能够放入数据中心的部分,运营商会更倾向于放入数据中心。这样的发展结果,就是会与华为、阿里的目标方向一拍即合,大家同时瞄准安防视频云,而这种云可以以服务的方式提供给公安、交通等部门,在未来,对于图像视频的存储、分析、比对这类公司可以完成一条龙服务。
现在大部分的公安客户是在探索算法的先进性、并体验创新性的研究成果,在此基础上想要步入规模化部署的阶段。然而落地规模化部署,成本和功耗就是重中之重的问题,在目前GPU非常昂贵的情况下,更多的商家是在追寻和平衡,自研设备成本价值实现最大化的点。
比特大陆深耕硬件而非算法的落地模式,可无缝的将GPU上的软件语言和代码迁移到自研的AI芯片上。 自动化的编译,便是将高级语言编译成机器代码,从而自动化的在芯片上运行,这一过程中,比特大陆通过自己的工具,让不同的软件代码编译成不同的机器代码,此外,比特大陆的AI芯片所拥有的架构具有高性能、低成本、低功耗的产品优势,可做到视频图像硬解码、为视频AI优化、数据中心易部署、易扩展等特点。
随着安防产业的不断智能化,比特大陆认为,算法和应用会越来越普及,其所扮演的提供AI计算基础设施角色也会越来越重要。在未来2-3年,比特大陆会扎根于人工智能的具体应用领域深耕优化,致力于推出更为完善与先进的专用芯片,值得我们共同期待!
版权声明
凡来源为亿欧网的内容,其版权均属北京亿欧网盟科技有限公司所有。文章内容系作者个人观点,不代表亿欧对观点赞同或支持。