能效比提高10倍且应用迁移仅需1-2周 天数智芯的AI芯片将改变什么？

本周二，成立近四年的天数智芯召开名为数应于“芯“的战略新品发布会，并发布首款AI芯片Iluvatar CoreX I，这款面向边缘AI推理的芯片具备高精度特性，峰值算力的能效比主流竞品提升10倍，应用迁移仅需1-2周（其它芯片需1-3个月），并且是工业级的解决方案。这些技术和性能特色显然具有很大吸引力，但天数智芯将带来的改变，不仅来自于硬件。

天数智芯创始人兼CEO李云鹏在发布会上表示，“硬件芯片是一个传统行业，它的生命周期要求相当的长，我们不仅仅要支持今天火热以AI为代表的数据驱动应用，也要承载过去长期商务智能等大规模需求，还要应用未来可能发生的算法变化，提供通用性的算力支撑，这是天数智芯产品战略，软硬件结合系统产品。”事实上，在技术与产业的融合方面，该方案目前已经得到医疗、安防监控等行业客户的实际应用，实现了技术的商业化落地。

首款AI芯片的5大亮点

与大多数公司一样，天数智芯推出AI芯片为的就是满足数据时代的需求，有所不同的是，天数智芯对于边缘端AI芯片的理解。天数智芯副总裁梁斌在新品发布会上表示：“ 我们发现目前边缘端芯片产品解决方案有四大痛点：第一、 大部分产品聚焦于低精度、低功耗、低算力的应用场景，为了追求性价比，在一定程度上牺牲了对精度的要求； 第二、 大部分AI芯片产品聚焦在消费级产品，不能适应一些工业级的产品要求； 第三、 由于大部分芯片产品采用自研的硬件架构，通过软件编译工具跟主流的框架兼容，造成现有的应用迁移成本很高，耗时耗力； 第四、 由于芯片的自研架构和自研的开发系统，造成用户开发门槛高，有很多的端到端需求无法满足。”

针对这些痛点，天数智芯提出了新的解决方案，Iluvatar CoreX I芯片采用16nm工艺，采用全自研数据流架构，内核可提供32路数据并行处理的能力，有很好的可扩展性，具有五大亮点：

• 第一，提供FP16的高精度，提升准确率；

• 第二，在小于5瓦的功耗下，提供单芯片最高4.8TFlops的算力，和每秒1000帧的图像处理能力；

• 第三：提供原生TensorFlow的兼容，可透明迁移；

• 第四：可以满足高稳定性的工业级需求，也可以满足高性价比的消费级需求；

• 第五：提供一站式、端到端的完整解决方案，对于开发用户，提供软硬件结合的开发环境。

Iluvatar CoreX I在芯片层面体现出了5大亮点，系统层级则有CPU灵活性和算力可扩展两大特性，所谓CPU的灵活性，是CoreX I AI加速芯片可以适配x86 CPU、Arm CPU以及国产自研CPU，比如龙芯CPU。可扩展性指的则是与PCIE 4.0充分融合，通过单卡、双卡、四卡的配置，可以有效线性扩展算力，并保持延时的可控。据悉，在8卡配置，单机可提供超过38TFLOPS的算力。

能效比与应用透明迁移有多重要？

梁斌指出，通过对主流算法的优化，基于数据流的高能效运算，高带宽、高容量的本地内存，Iluvatar CoreX I有效解决了目前主流竞品计算力不足的核心问题。根据梁斌给出的数据，目前市面上15瓦的AI芯片，提供1.5TFLops的算力，能效比大概是0.1， 天数智芯Iluvatar CoreX I在低于4.7瓦的功耗下，就提供4.8TFLOPS的计算力，相比主流竞品，提供超过十倍的能效比。

在主流的边缘端应用的基准测试实测中，物体分类场景天数智芯提供超过两倍的性能提升，能效方面提供超过8倍的提升，在物体识别场景也提供了接近两倍的性能提升和接近7倍的能效提升。

不过，李云鹏在接受雷锋网等媒体采访时表示，客户对算力的需求是能够对过去、现在和未来的负载都有很好的支撑。 “从我的经验来看，用户看的并不是峰值数据，他们更看重实际场景中的性能提升 。 因此，虽然我们的能效比数据让大家眼前一亮，但我们更关注用户的使用。这就包括上面提到的CPU灵活性与可扩展性，当然也还有透明迁移。所谓透明迁移是上层建筑不做任何修改，通过软件的方式能够有一个延续性。”

天数智芯创始人、CEO李云鹏

梁斌介绍，通常AI应用包括几个方面，从底层往上涉及到芯片、软件库、TensorFlow运算符，TensorFlow API函数， 天数智芯通过与成熟的开发生态系统原生兼容，客户可以无需任何代码改动，实现应用的迁移，平均平台的适配周期1-2周。而市面上第三方的AI芯片产品，大部分芯片产品基于底层软件库和自研开发编译器SDK，客户的应用通过耗时耗力的代码转换，适配周期大多耗时1-3个月甚至更长。

为了更好的满足客户需求，天数智芯基于全新AI芯片提供的是边缘计算系统板和PCIe加速卡两大方案。雷锋网 (公众号：雷锋网) 了解到，边缘计算系统板主要面向嵌入式一体解决方案应用在边缘端的应用场景，比如智能垃圾分类、智能零售、智能监控等。PCIe边缘端加速卡可以直接配置在边缘服务器上，单卡配置可以支持一颗芯片，也可以支持两颗、四颗芯片。

还需指出的是，天数智芯也布局了边缘端、边缘云、中心云三个系列的芯片，同样为了更好满足AI和5G的需求。梁斌透露：“我们下一款将发布的芯片是高端云端训练GPGPU芯片，基于7纳米工艺，采用全自研GPGPU芯片架构，提供业界最高档混合精度算力，CUDA原生兼容。第三款将要发布的芯片是中端GPGPU芯片，也将采用先进的工艺制程，提供混合精度算力，CUDA原生兼容，同样也是全自研的GPGPU架构，聚焦在图形图像的边缘云推理场景。”

软硬一体化将带来的变革

天数智芯副总裁梁斌

从软件角度看，天数智芯已经推出了四代SkyDiscovery，这是一款一站式人工智能软件平台，提供一站式服务平台，提供数据集成，智能数据存储，模型评估服务部署的一站式服务。SkyDiscovery的作用是衔接开源生态，这个工具可以让开源生态中各种各样的应用实现无缝迁移，并且让已有开源的整套系统解决方案更加可扩展、高可用、可靠、高性能

但这种生态的衔接是否也会让客户更容易离开？李云鹏表示，我们在衔接开源生态以后，还会根据客户的需求，提供一些专用的支持，这一旦做了，它要挪走是有难度的，这也是所有企业级产品公司的必由之路。

从算力的角度，这个平台要为数据应用程序提供接口枢纽。天数智芯要做的是通用架构处理器，支持所有通用型的并行计算。未来，随着市场逐渐成熟，可以把AI融合进架构之中。 李云鹏透露，天数智芯在芯片架构设计上花了接近一年时间，但具体到一款新品从确定指标到设计和流片只用了不到四个月时间。

显然，软硬件天数智芯突出的是标准通用。李云鹏表示：“我们也很难预测三、五年后会是什么样的算法，以及什么是最有效的提取数据价值的方式。但我们做到了通用性，确保未来也能使用，让一款芯片能够有10年、20甚至30年的生命周期。”

李云鹏还表示，我希望花20年时间，把我们的自主知识产权芯片和软件做到国际一流的入门水平。这也就意味着天数智芯在做一件大事，然而大事就是难事。

就目前而言，天数智芯提供的是软件和硬件进行融合的边缘计算系统板卡和PCIe加速卡。李云鹏表示，中国客户的特征是要解决方案。正是因为在芯片之上，还通过软件的方式累加了新的价值，从商业上来说也价值更高。

据了解，天数智芯软硬件结合的方案已经得到医疗、安防监控等行业客户的实际应用，未来将会在智能制造、智慧新零售、智慧医疗、智慧园区、智能垃圾分类等多个行业及领域应用。发布会现场天数智芯也展示了软硬件产品在药品识别、垃圾分类、人脸识别的应用。

不过，李云鹏希望的是与更多合作伙伴一起在石油、天然气开采、运输行业、风电为代表的新能源行业，以及船舶制造等大型装备制造行业，推广智能化解决方案，最终推动智能制造产业互联网的发展。

李云鹏也透露，天数智芯刚刚开完务虚会，公司希望三年左右时间实现在中国整个工业制造领域构建一个基于天数智芯的工业互联网产业联盟。我们也希望在三年左右时间，能够不仅仅盈亏平衡，而且能够有足够的利润扩充自己的基础投入团队，能够让我们有机地发展20年，把自己的产品做到国际一流的入门水平，我觉得这是一个基础性质的。

雷锋网小结

两次采访李云鹏，每次能够感受到他的情怀以及清晰而明确的目标。从2015年创立之初就把公司的目标设立为谷歌那样的系统公司，以高大上公司不愿意做软件和IT服务开始，获得用户和营收，经历野蛮的生长之后走向芯片的自研。如今AI芯片的发布意味着芯云战略的落地，也是天数智芯展现软硬一体优势新的开始。

这也与发布会地点的选择的初衷相契合。天数智芯总部位于南京，却选择在杭州举办发布会，李云鹏说，1949年新中国成立，五年之后毛主席在西子湖畔国宾馆内撰写了我们国家第一部宪法，代表着新中国迈向了新的起点。天数智芯经历了初创期的懵懂、野蛮生长和碰壁，走过了一条完整的初创型闭环。他表示，之所以选择在杭州西子湖畔开发布会，是希望天数智芯和它的祖国一样，站到一个可期的新起点。

相关文章：

终于，有家AI云端芯片初创公司不对标英伟达却要与Google竞争

天数智芯李云鹏：数据驱动的春天即将来临 | CCF-GAIR 2019

集产品、方案和云服务为一体，天数智芯如何做到“AI时代芯魂合一”

。