IBM发布首个深度学习类脑超级计算平台IBM TrueNorth

我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

【新智元导读】 IBM 日前发布了一款用于深度学习的类脑超级计算平台 IBM TrueNorth。新智元芯片专家群的几位专家讨论后认为:TrueNorth 虽然与人脑某些结构和机理较为接近,但智能算法的精度或效果有待进一步提高,离大规模商业应用还有一段距离;但从长远来看,研究类脑计算是通往强人工智能的有效方法。

IBM TrueNorth。图片来源:federallabs.org

IBM 日前发布了一款用于深度学习的类脑超级计算平台 IBM TrueNorth,其处理能力相当于 1600 万个神经元和 40 亿个神经键,消耗的能量只需 2.5 瓦。将低能耗的类脑处理器应用于深度学习无疑是未来大数据处理创新方法。

劳伦斯·利弗莫尔国家实验室(LLNL)数据科学部门的副主任 Jim Brase 表示,类脑计算与未来高性能计算和模拟发展趋势一致,类脑计算的潜力和机器智能将会改变科研方式。

IBM TrueNorth 的架构基于 IBM 此前发布的 TrueNorth 脉冲神经网络芯片。就在上周举行的 2016 年物理设计国际研讨会(ISPD)上,IBM 展示了其研发的 TrueNorth 的发展现状及规划,包括 TrueNorth 芯片架构、评估板数组、参考设计系统和软件生态架构。ISPD 是 ACM 旗下的会议,这次会议对下一代的芯片进行了讨论。

一台 TrueNorth 处理器由 54 亿个连结晶体管组成,构成了包含100万个数字神经元阵列,这些神经元又可通过 2.56 亿个电突触彼此通信。超过 4 亿比特的本地存储单位(100KB每核)存储突触和神经元参数。在 0.8 伏电压下,一台实时运行的 TrueNorth 处理器功耗仅为 70 毫瓦,每秒可执行 46 千兆突触运算。图片来源:research.ibm.com

TrueNorth 设计师 Filipp Akopyan 在演讲中表示,从第一个微处理器到今天的超级计算机芯片,时钟速度和功耗在稳步的上升,我们应该朝着相反的反向走:更低的时钟速度和更低的功耗,最终低到人类大脑的 10 赫兹、20 瓦的指标。

IBM 的类脑架构从上图中的左上角开始,通过研究人类大脑的皮质神经元结构,然后是右边的架构、功能并最终达到物理实现。同样,更复杂的神经形态的灵感,来自于左上角下面的核心理念,从单芯片到多芯片的模块。图片来源:edugeek.net

“今天我们的移动端生产着大量的数据,它们必须通过云端来处理,但是 TrueNorth 可以配置在边缘网络中,数据可以流入并且得到智能的处理,而只需要把重要的项目和总结传送到云端,”Akopyan 在报告中说道:“但是计算资源正在往错误的高功率方向发展,它们最好降低到生物级别的水准。”

TrueNorth 芯片最大的差别是,它既有传统的同步的部分(接口和时序),也有异步的部分(类脑架构),所以流程需要单独但同步的开发。来源:eetimes.com

Akopyan 表示,TrueNorth 芯片的目标是边缘网络(Edge-of-the-Net)和大数据解决方案,因此必须通过超低功耗实时处理大量数据。TrueNorth 实现 54 亿个晶体管 70 毫瓦功率的关键是采用了异步的逻辑,芯片除了在特定的神经元被开启并和其他神经元进行通信的时候,功率消耗都为 0。在结构上,如果是采用同步的架构,里面的 54 亿晶体管会消耗 50 到 100 瓦,但异步架构会让功耗降到最低。

为了在结构上实现任何神经元彼此连结,晶体管上有一个巨大的纵横栓开关(crossbar switch)连结 54 亿的神经元。

IBM 第一个电路板级别的解决方案,使用了16块单芯片的 TrueNorth。图片来源:research.ibm.com

IBM 现在有一块单芯片电路板,机箱有 16 片和 48 片的电路板,每块电路板有 16 个 TrueNorh 芯片。未来 IBM 还打算做出有着 64、256、1024 和 4096 块芯片的电路板。其中,4096 块芯片的电路板包含的神经突触数量可能达到人脑的1%。

由于借鉴了人脑中神经元细胞的脉冲模型,IBM TrueNorth 与当前冯·诺依曼架构的计算机截然不同。IBM 类脑计算机首席科学家 Dharmendra S. Modha 在介绍 TrueNorth 也表示:如果把当前的冯·诺依曼架构计算机比作人的左脑,是快速处理抽象数据的计算器;那么相比之下 TrueNorth 更像右脑,是通过慢速感知进行模式识别的机器。他们希望利用神经突触可塑性,增强 TrueNorth 规模,创造现场适应性强并且能够在线学习的新一代类脑计算机。

不过,就像新智元智库专家、中科院计算所研究员陈云霁在《什么是类脑计算机?》中所说,“脉冲神经网络模型看上去和生物神经元很接近,但却没有好的智能处理能力”,陈云霁在文中还提到,深度学习权威 Yann LeCun 也曾指出,“TrueNorth 所采用的脉冲神经网络‘从未在任何有意思的(智能处理)任务上表现出与当前最好算法接近的精度’”。

新智元芯片专家群的几位专家讨论后也认为:TrueNorth 虽然与人脑某些结构和机理较为接近,但智能算法的精度或效果有待进一步提高,离大规模商业应用还有一段距离;现在我们仍然主要使用冯诺依曼结构的计算机,用人工神经网络的方法(比如深度学习模型)做大数据,在某些专用领域先把神经网络加以应用,同时研究类脑计算机才是切实可行的。

IBM 类脑计算机首席科学家 Dharmendra S. Modha 也强调,TrueNorth 只是一个方向,IBM 的最终目标是制造智能商用计算机。新智元芯片专家群的几位专家也表示,从长远来看,研究类脑计算是将来万物智能的基础,是通往强人工智能的有效方法。

(艾娅轩对本文也有贡献。)

参考资源:

R. Colin Johnson,IBM Neurocomputer Detailed,EETimes

Dharmendra S. Modha,Introducing a Brain-inspired Computer TrueNorth's neurons to revolutionize system architecture,IBM Ressarch

Lawrence Livermore Partners With IBM to Build New Frontiers of Supercomputing

购书可扫二维码

随意打赏

提交建议
微信扫一扫,分享给好友吧。