移动设备上也能运行AI算法:斯坦福大学研究出处理器+内存的混合芯片

IT思维  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

公众号/ScienceAI(ID:Philosophyai)

编译/文龙

如果智能手表或者其他电池供电的电子设备可以运行AI算法,那么它们会变得更加智能。但就目前来说,为移动设备构建具有AI功能的芯片的努力已经碰到了壁垒,也就是所谓的「内存墙」(memory wall)。内存墙是指存在在需要协同工作的数据处理芯片和存储芯片间的屏障,它使得AI所需的庞大且不断增长的计算需求得不到满足。

发表在《自然电子》(Nature Electronics)上的一项新研究的作者、计算机科学家Subhasish Mitra说:「处理器与内存之间的事务处理会消耗进行机器学习和AI所需的95%的能量,这严重地削减了电池的寿命。」

移动设备上也能运行AI算法:斯坦福大学研究出处理器+内存的混合芯片

现在,一个由斯坦福大学计算机科学家Mary Wootters和电气工程师H.-S. Philip Wong组成的团队设计了一个系统,该系统利用八个混合芯片,每个混合芯片都在自己的内存存储旁边构建了单独的数据处理器,使得它可以更快地以更少的能源运行AI任务。

这篇论文基于该团队先前开发的一种称为RRAM的新型存储技术,该技术即使在关闭电源时也可以存储数据,像闪存一样,但是更快、更节能。他们在RRAM中的进步使得斯坦福大学的研究人员能够开发出单独工作的早期混合芯片。他们的最新设计融合了一个新的要素:将八个单独的混合芯片融合到一个节能AI处理引擎中的算法。

「如果我们能够构建一个具有所有处理和内存所需的大型常规芯片,我们本可以这么做,但解决AI问题所需的数据量使其成为一个痴梦,」Mitra说, 「相反,我们诱使混合芯片认为它们是一个芯片,这就是为什么我们将其称为错觉系统(the Illusion System)。」

研究人员开发了Illusion System作为电子复兴计划(ERI)的一部分,该计划是由美国国防高级研究计划局(DARPA)资助的一个15亿美元的项目。DARPA于50年前帮助催生了互联网,现正资助针对摩尔定律的变通方案的研究调查,该定律通过缩小晶体管来推动电子技术的进步。但是晶体管不能永远缩小。

Wootters说:「想要超越常规电子产品的限制,我们需要新的硬件技术和有关如何使用它们的新思路。」

由斯坦福大学领导的团队在法国研究机构CEA-Leti和新加坡南洋理工大学的合作帮助下建造了该芯片的原型并进行了测试。该团队的八芯片系统仅仅只是个开始。在仿真中,研究人员展示了拥有64个混合芯片的系统运行人工智能应用的速度是当前处理器的7倍,但其耗费的能量是目前的七分之一。

这种能力能使Illusion System有一天成为增强现实和虚拟现实(AR/VR)眼镜的核心,这些眼镜将会利用深度神经网络对环境中识别到的人和物体进行学习,并为佩戴者提供相关信息。想象一下,使用AR/VR系统可以帮助鸟类观察员识别未知的标本。
斯坦福大学研究生Robert Radway是论文的第一作者,他说该团队还开发了新算法,可以对那些为当今处理器编写的现有AI程序进行重新编译,以在新的多芯片系统上运行。来自 Facebook 的合作者帮助该团队测试了这个AI 程序,证实了他们的成果。接下来的步骤包括提高单个混合芯片的处理和存储能力,以及说明如何以低廉的价格大规模生产它们。

Wong说:「我们制造的原型机能够按预期工作,这表明我们处在正确的轨道上。」他相信Illusion Systems可以在三到五年内做好投放市场的准备。

https://techxplore.com/news/2021-01-team-hybrid-chips-processors-memory.html

随意打赏

提交建议
微信扫一扫,分享给好友吧。