声称AI训练性能超GPU1000倍的AI芯片初创公司竟要收购硅谷“老前辈”MIPS
AI芯片的初创企业大多先把产品瞄准终端应用,不过名为Wave Computing美国AI初创公司的产品就专注于数据中心的AI训练,并且拥有独特的架构。不仅如此,雷锋网消息,Wave Computing将宣布收购MIPS,后者是1984年创立于美国硅谷拥有MIPS IP授权和350多项专利的硅谷老前辈。
对于一家只有100名员工的初创企业收购另一家规模相当的硅谷“老前辈”的少见行为,一些行业分析师称Wave的举措非常大胆。Moor Insights&Strategy的高性能计算和深度学习首席分析师Karl Freund表示:“对于小型的初创公司而言,在其第一款产品退出市场之前通过收购去扩大市场的做法是非常大胆的。这是一个非常冒险的行为,但这是它需要的。“
虽然Wave Computing收购MIPS被认为十分大胆,但事实上MIPS的DNA似乎已经嵌入到Wave中,Wave的CEO Derek Meyer曾经是MIPS销售与营销副总裁,运营副总裁Mike Uhler是MIPS的首席技术官,工程副总裁是MIPS前工程主管Darren Jones,总法律顾问Wave Paul Alpern曾在MIPS担任首席商业顾问。因此,与大多数并购需要漫长的调整时间才能制定路线图不同, Wave的七位高管有四位都曾任职MIPS,所以Wave-MIPS团队并不需要太多的整合时间。 Wave计划于本月晚些时候向第一批客户交付其首批AI系统,“在本月底之前,我们还将推出基于MIPS和Wave DPU的通用AI平台的路线图,最有可能是在旧金山的设计自动化会议(DAC)” Meyer说。 当被问及AI-MIPS将何时出现时,他承诺今年年底之前。
Wave 声称加速神经网络训练超GPU 1000倍
Wave Computing是加利福尼亚州坎贝尔一家专注于使用其大规模并行数据流架构开发AI系统的创业公司,成立七年多之后,Wave最新的DPU多核架构早先体验项目终于开放。在去年的高性能芯片峰会Hot Chips上, Wave Computing的CTO以及DPU(Dataflow Processing Unit)首席架构师Dr. Chris Nicol表示他们的产品DPU在加速神经网络训练上能够超越GPU 1000x,并相信早期用户试用后能够证实他们对DPU的这一表态。 考虑到GPU在目前深度学习训练市场的地位,这实在是很大胆的宣言。
据雷锋网了解,Wave的DPU拥有16000个处理元件,超过8000个算术单元,不通过CPU进行协调,所有的核都以6.7GHz运行(平均),使用粗粒度可重构架构。DPU有独特的自定时机制(self-timing mechanism),当没有数据通过时,DPU进入睡眠状态。更通俗一点,DPU可以看做一种混合FPGA和多核处理器,能处理数千个元素的数据流图的静态调度。这个设计与其他深度学习硬件初创公司培育的产品大为不同。
Nicol指出,加速器架构(特别是GPU)有两个问题,一是加载新的内核时有延迟,另一个是为了解决第一个问题使用MCU在运行时将程序移入移出,程序本身决定何时与MCU通信,但芯片上还有一个程序缓存。最终的结果是,没有CPU的架构在一个offload model中能获得更强的性能。软件方面,Nicols说:“深度学习实际上是一个在深度学习软件之上编程的数据流图,在像我们这样的处理器上运行,可以在运行时组装数据流图。例如,在运行(runtime)时从TensorFlow获取数据流图,并在runtime直接将其转换,在没有CPU的情况下执行,并映射到数据流芯片上。”
Wave Computing DPU
由于数据中心的训练目前主要采用GPU,并且这一市场目前由Nvidia主导,因此Wave能否在数据中心的市场取得成功已经影响Nvidia在这一市场的地位外界十分关注。作为硅谷较早进入AI领域的二十多家企业之一,Wave也是较早将产品推向市场的企业,Wave宣称以创新的方式大大超越竞争对手。
被Imagination甩卖的MIPS能帮助Wave吗?
Wave现在将自己定位为人工智能领域更广泛的参与者,其技术和知识产权将进入训练处理市场的边缘。而MIPS已经从高性能CPU转向用于物联网设备和其他低功耗应用的高能效处理器。并且,尽管DNN数据中心训练市场如今很热,但智能物联网设备的未来将取决于DNN的高效边缘训练或推理,因此 Wave收购MIPS可以为这些应用构建平台和许可IP,也就是可以将产品应用从云端拓展到终端。
Wave收购MIPS的逻辑没有问题,不过收购真的能帮助Wave在终端AI芯片上取得成功吗?MIPS创立于1984年,2012年底,CEVA和Imagination Technologies为并购MIPS而抢标时,许多业界观察家们都纳闷Imagination要拿MIPS来做什么,毕竟当时这个年营收约6千万美元的MIPS处于亏损状态。当Imagination最终以1亿美元的压倒性价格收购MIPS后,业界观察家认为这一高价收购显示出MIPS CPU对于Imagination的未来发展很重要。
不过事与愿违,收购MIPS并没给Imagination带来预期的效果,反而还拖累了Imagination的业绩。去年5月,Imagination开始出售MIPS,在不到五年的时间内价值从1亿美元缩水到6500万美元。Tirias Research首席分析师Kevin Krewell认为:“MIPS仍然是具有可扩展性和成熟软件生态系统的经典CPU设计。因此尽管MIPS应用在减少中,但仍然存在市场机会。”还有其他人认为,MIPS CPU架构存在一定的性能和效率优势,例如多线程技术,MIPS也能在一些实时、功率敏感的应用发挥重要作用,例如LTE、人工智能(AI)和物联网(IoT)。更重要的是,据悉MIPS还有一支约200多名工程师的团队在开发CPU技术,其中有些技术甚至比Arm所能提供的更为先进——例如多线程。
但是,由于近来市场上都是Arm和x86架构,MIPS没有太多生态系统,许多分析师也提出现在还有谁想要买MIPS的疑问。不过在去年9月,Imagination宣布将公司卖给中资凯桥(Canyon Bridge),并同意将旗下MIPS CPU业务卖给Tallwood Venure Capital。虽然还不知道Wave收购MIPS的最终价格,但收购带来的人才和专利对增强Wave的实力是毋庸置疑的,只是能否对其在终端的人工智能起到较大的作用仍需观察。
IoT终端智能Arm延续辉煌还是被取代?
目前,Arm几乎垄断了移动设备的CPU IP市场,不过MIPS和RISC-V似乎要在物联网智能终端大展身手。RISC(Reduced Instruction Set Computing),即精简指令集系统,与其对应的是复杂指令集CISC,RISC指令数目和寻址方式更短,执行效率更高,制造工艺简单且成本低廉,最早诞生于80年代的MIPS主机,不过随后Arm采用的也是这一处理器架构。
MIPS架构的诞生要比Arm早几年,起初MIPS和Arm的差距也不大,前者也占据了RISC架构微处理器市场约30%的份额,但移动互联网的兴起时MIPS却因为技术限制开始掉队,而且学院派发展风格也使得MIPS的商业进程远远落后于Arm,当然,MIPS最终被Arm打得溃不成军还有许多复杂的原因。
不过在被Imagination收购之后也并没有打算让MIPS死磕手机市场,更多的是在可穿戴设备市场以及网络设备上攻城略地,并且Imagination管理层认为其疏于管理所以影响了MIPS的发展蓝图。但到了IoT时代,MIPS又有发挥其优势的机会。
OURS创始人兼CEO谭章熹近日也对雷锋网 (公众号:雷锋网) 表示,智联网的需求是高定制化、高模块化、可扩展化以及支持新的技术,Arm架构不允许加入新的东西,也不允许定制化和修改,并且还有专利授权费。相反,技术上看,RISC-V 相比Arm架构处理器功耗低 5-6倍、面积效率提升5倍,可以让开发者有很多的自由度做一些特殊应用的优化,商业上看,RISC-V开源没有专利授权费用,对创业公司非常友好。因此RISC-V也是能和Arm媲美和竞争的架构,即使在IoT领域不替代Arm,RISC-V也将成为非常重要的玩家。
那么,RISC-V和MIPS是否在IoT智能终端替代Arm,或者至少成为重要玩家?
雷锋网参考: forbes , nextplatform , EET
相关文章:
OURS谭章熹:就算不替代Arm,RISC-V架构AI芯片无疑也是IoT时代的重要玩家 | CCF-GAIR 2018
与高通和ARM树敌的公司,它还好吗?
ARM 授权费用太贵,科技巨头欲转向开源架构 RISC-V
。