嘉楠董事长张楠赓36氪WISE大会演讲: 展望新十年
12月10日,嘉楠 科技 董事长兼CEO张楠赓在36氪WISE 2020大会上演讲时表示,智能化变革关键在于计算架构。当前设备端计算能力和续航能力不足,弱网或无网条件下的任务处理对芯片设计提出新的挑战。计算架构设计既要考虑给算法模型足够的算力支持,也要兼顾较低的功耗,以提升设备对应用场景的适应性。
张楠赓认为,在这个方向上,嘉楠科技研发的AI芯片勘智K210在商用过程中取得不错效果,在智能门禁、智能抄表、AI STEAM教育硬件和智慧城市等领域均有落地。同时,嘉楠科技提出“勘智大智慧Kendryte AI”,协同上下游伙伴推进勘智系列芯片在边缘AI市场的商用。
智能化变革瓶颈在于计算架构
回顾历史上重要的技术变革浪潮,小型机、PC和 互联网 三次计算平台的变迁都是由集成电路直接推动。其中在PC时代,x86成为统治桌面级系统的架构。到了移动互联网时代,这种垄断的局面才被ARM打破。而在最新一次变革中,随着虚拟化、分布式和机器学习等新计算范式的成熟,率先推动了智能化浪潮。
伴随智能化技术崛起,大数据成为基础生产要素的过程中,产业界面临的技术环境也开始由计算驱动数据向数据驱动计算变迁。其中最典型的例子就是机器学习。区别于传统计算范式,机器学习应用依赖于大量的数据训练。这种变化映射到计算架构上,则是以大量运算单元取代缓存和控制单元。
即便如此,当前处理器的算力仍然无法跟上数据的增长速度。张楠赓认为,数据中心需要减负,不是所有计算任务都需要在大型数据中心进行,而且设备端计算对低时延、低功耗的要求更高。计算跨越数据中心的限制,进入与用户体验、企业服务和生产息息相关的设备端,能更好地满足未来市场对计算资源的需求。
张楠赓表示,AI已经是我们的国家战略,在政府工作报告中提及多次,这其实是很有远见的战略。20年前是互联网,10年前是移动互联网,那么10年后、20年后的机遇则是AI深度参与其中的物联网。
随着AI的商用化进程加快,算法生产也将走向标准化和规模化,基于成熟模型的推理计算将占据更多市场份额。IDC数据就显示,未来将有超过一半的计算发生在边缘侧。到2025年,全球边缘AI芯片组的营收将达到516亿美元,远超云端芯片组。
针对边缘侧的计算架构变革势在必行。
边缘AI芯片与嘉楠科技的实践
张楠赓认为,在其他传统芯片市场中,往往在功耗、性能和成本之间可以进行一些权衡置换,但以 区块链 、AI为代表的新计算类型并非如此,计算密集型场景对功耗、性能、成本都同时有着非常极限的要求。
虽然智能 手机 是目前主流的计算平台,但随着可穿戴设备、传感器等数量的爆发,以及传统设备的智能化升级,都在昭示着计算设备的小型化与多元化趋势。事实上,无论是早期的大型机、小型机,还是现在的PC和移动设备,计算设备的小型化对功耗的要求越来越高。
张楠赓表示,在这个方向上,嘉楠科技一直在创新。公开资料显示,嘉楠科技于全球最早量产基于RISC-V架构的商用边缘智能计算芯片勘智K210。由于采用了轻量级的RISC-V架构,以及片上内存等设计方面的优化,勘智K210的最低功耗可以达到0.3W,即便搭载外部设备的情况下,其功耗也仅为1W左右。
RISC-V指令集具有开源、精简、模块化设计等一系列优势。对于国内市场来说,全新的RISC-V使得我国得以与其他国家站在同一起跑线上,有望在全新生态构建中树立话语权,另外,其开源的特点有利于我国自主可控技术的实现。
在开源架构的基础上,嘉楠自主研发了神经网络加速器和其他一些关键IP。采取自研关键IP的方式,能够加强产品的竞争力,建立竞争壁垒。张楠赓认为,产品落地没有捷径,相反是需要长远规划路径的,有自己的技术才有未来。
今年,嘉楠科技还针对加速器KPU自主开发了戴口罩人脸识别模型、活体检测模型等一些列算法,初步形成了软硬一体化的技术堆栈。对于第二代芯片的规划,嘉楠科技也将在下一代AI加速器采用的是可伸缩架构,可以达到更高算力。同时,通用性也进一步增强,原则上使用TensorFlow的模型不需要重新编译或训练。
除了RISC-V之外,勘智K210也获得了一些主流技术社区的支持。今年4月,AI芯片勘智K210获得了Linux内核,以及系统级语言RUST的支持。值得注意的是,嘉楠科技也与国内最大的算法平台百度飞桨建立合作,研发定制边缘侧AI开发板PaddlePi-K210,为开发者提供一站式的开发体验。凭借低功耗和较强的编程灵活性,勘智K210也成功获得阿里的关注,是TinyML方向的探索性学习平台。
勘智大智慧Kendryte AI:与合作伙伴、开发者共享AI技术成果
有了技术沉淀与 商业 场景后,嘉楠科技也积极寻求与产业上下游的联动。今年,嘉楠科技提出“勘智大智慧”,基于AI芯片建设全链路生态体系,包括芯片设计与流片量产、算法和产品研发,上层服务与解决方案。以More than Moore为核心追求,以领先工艺与设计方法学为依托,追求高质量+低成本+快速响应,最大化终端客户价值,与客户、合作伙伴和开发者共享AI成果。
张楠赓表示,嘉楠科技聚焦的两大领域,无论区块链还是AI,都是计算密集型场景。公司希望通过原创性的芯片设计,来缓解数字基础设施面临的数据压力,并突破智能技术在应用场景中的性能瓶颈。嘉楠科技将继续坚持核心IP自主研发的道路,并与更多同行共创芯片行业的美好未来。