科学企业家丨AiRiA副院长冷聪:首款极低比特量化AI芯片年底流片

亿欧网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  
科学企业家丨AiRiA副院长冷聪:首款极低比特量化AI芯片年底流片

随着物联网的繁荣及 5G 商用的迫近, 边缘计算 越来越成为热门,大有与云计算平分秋色之势,各大计算厂商、云业务服务商也纷纷面向边缘计算布局。边缘端 AI芯片 作为边缘智能最为核心的组成单元,自然也随着边缘计算的兴起而水涨船高。

近日,亿欧记者与中科院自动化所南京AI芯片创新研究院(简称:AiRiA)副院长 冷聪 进行了一番深入的对话,分别就冷聪个人研究方向,边缘智能芯片发展前景以及下一步发展方向等问题进行了深入交流。

此外,在交流过程中,记者还得知由 AiRiA研究院 主导研制的量化神经处理器即将流片,这将会是首款低比特量化AI芯片的发布。

预判:5G助推边缘计算市场崛起

自2018年从阿里巴巴离职后,冷聪便进入中科院自动化所南京AI芯片创新研究院从事科研工作,目前主要从事模型压缩与加速、深度神经网络设计、 人工智能 芯片设计等方面的研究。基于对5G商用建设以及未来边缘计算市场发展前景的乐观,冷聪重点分享了其对于边缘端AI芯片设计方面的研究以及产业思考。

在冷聪看来,所有与互联网信息技术相关的技术其实都在解决两个问题,首先是连接的问题,其次是计算问题。 3G/4G等技术的出现就是把不同的终端或者节点首先用网络连接到一起,然后在算力、算法、数据的支撑之下计算得出结果并且对外输出服务,对于新一代5G通讯而言,其解决问题的方式也将是一致的。

5G技术的出现也避免不了要为了解决连接与计算问题而服务,那么边缘计算作为计算的一种主要形式,5G与边缘计算之间的联系必然也是强相关的。

一方面,5G所具备大带宽的数据传输能力必然将会带来海量的网络数据;而另一方面,伴随着5G对于IoT技术的进一步发展推动,海量设备接入网络所带来的海量数据也将进一步提升网络中的数据量。

未来海量的数据不可能全部上传到云端处理,因为这会造成极大的带宽占用和资源浪费,即使是5G的高带宽能力也无法解决。而且涉及到安全、隐私以及道德等方面的考虑,所以 万物互联 之后最好的方式就是在边缘端也有自己的数据计算以及处理平台,让更多的数据能够在边缘端运行。

基于以上的认知,冷聪认为5G时代,边缘计算的繁荣将会是必然的,而边缘端AI芯片作为未来边缘计算能够得以实现的关键组成单元,未来其市场以及行业发展也将随之取得发展。 而此前IDC对于边缘计算市场空间的预测则进一步印证了这一说法的合理性:

 “到2020年将有超过500亿的终端与设备联网,而有50%的网络将面临网络带宽的限制,40%的数据需要在网络边缘分析、处理与储存。边缘计算市场规模将超万亿,成为与云计算平分秋色的新兴市场。”

行动:打造首款极低比特量化AI芯片

AiRiA研究院作为自动化所在南京的芯片研发和产业转化基地,研制出一款性能良好的AI芯片是其长期追求的目标。 基于5G时代边缘计算的市场空间将进一步取得提升这一发展预判,冷聪重点介绍了AiRiA研究院目前正在研制的一款针对边缘场景而设计的AI芯片。

今年3月份,研究院对外透露出其正在研制一款针对边缘端场景的AI芯片,命名Watt A1,预计将于今年四季度流片。据介绍,Watt A1采用台积电28nm工艺,峰值算力达24Tops,可用于自动驾驶、安防、机器人等行业。据悉,Watt A1采用量化模型压缩技术,通过模型将机器内部浮点数转换为定点数进行计算,在保证精度不变的情况之下输出结果,极大程度简化了计算复杂度,将功耗和成本显著降低。量化技术并非这款芯片独有,但在量化精度上,目前行业普遍水平只能做到8比特。作为主打极低比特量化技术的人工智能芯片,目前AiRiA研究院团队能够让该款AI芯片支持从4到1任意比特数。

此外,该款芯片还可以做到在芯片内处理大规模神经网络,数据计算在片内处理,不必反复访问外部存储器。 机器计算其实主要分为计算和内存读写两个环节,在这一过程中,读写所耗费的时间以及能量往往高于计算过程,而神经网络的聚合在一定程度上减少了芯片访问外围存储设备的过程,这在一定程度上降低了芯片自身的功耗,提高了芯片推理速度。而这些特性都使得该款芯片更加的适合边缘计算低功耗、低时延这一类的计算场景。

发展:国内AI芯片产业未必会落后美国       

伴随着全球科技产业竞争格局的升级,我国半导体 集成电路 等领域的产业发展受到来来自于美国政府的抑制。关于芯片国产化成分如何?哪些领域最容易国产化?未来发展空间更足等这一类型的话题广被讨论,而冷聪也给出了自己的答案—— 未来几年国内AI芯片国产化成分将会最大,发展未必会落后于美国。

一方面,AI芯片技术的提升不是只靠单一的硬件技术就能够实现的,它在流向市场的过程中必然是需要通过与软件层面的算法、应用等持续不断的适配融合,然后再通过迭代升级最终实现性能的进一步提升,通过算法以及应用定义芯片的成分会更高一些。而在算法以及应用方面,我国比国外任何一个国家都有着更加突出的优势。另一方面,AI技术的发展更突出其与垂直领域场景的融合,而单一领域的芯片其实对于性能的要求可能没有那么多,其更强调专用性,而专用芯片在设计以及实现的难度上相比于CPU等通用芯片的实现难度更低,所以也更有利于国内厂商开展布局。

针对于国内那些地区将会在新一代人工智能产业以及集成电路方面的发展前景更为广阔,冷聪表示了对南京产业前景的看好。

一方面,南京在互联网产业发张的阶段没有把握住机会,一度导致本土人才的流失,所以也希望从这一波AI浪潮当中取得更大的发展,在政策层面的支持力度非常大。而在另一方面,素有“芯片之都”称号的南京伴随着台积电、清华紫光、富士康等机构的入驻之后,其相应的产业集群效应也已经初步形成。长远来看在政策以及产业集群的推动之下,南京地区集成电路以及AI等相关产业发展势头向好。此外,南京地区的高校资源也将进一步为该地区的产业发展培养相应的人才。

自从卡脖子问题出现以后,我国对于芯片半导体等核心技术的国产替代意识已经上升到了战略高度。作为科创板五大重点方向之一,未来一段时间内集成电路国产化替代的趋势将会大面积发生,作为南京地区芯片产业化转换的重要一员,期待研究院AI芯片的发布。

版权声明

本文来源亿欧,经亿欧授权发布,版权归原作者所有。转载或内容合作请点击转载说明,违规转载法律必究。

随意打赏

成功的企业家中国的企业家ai是什么医院副院长
提交建议
微信扫一扫,分享给好友吧。