IBM 神经元芯片 TrueNorth 要跑深度神经网络了?
最近 连线杂志 的记者在项目负责人 Dharmendra Modha 的带领下,近距离接触了 IBM “自适应可扩展塑性电子神经形态系统” 芯片项目。该项目简称 SyNAPSE,是 IBM 从 2008 年开始研究的一种能模拟人类大脑的芯片项目。
TrueNorth 是首个基于 SyNAPSE 打造的芯片。该芯片内置 100 万个模拟神经元和 2.56 亿个模拟神经突触。不同芯片还可以通过阵列的方式互联。据称 48 颗芯片组建成的具有 4800 万个神经元的网络,智力水平已经和普通老鼠大脑差不多。
上个月,接触到 TrueNorth 芯片的研究人员,编写可以跑在 TrueNorth 上的深度神经网络算法。深度神经网络算法近几年在语音和图像领域有突破性的进展。深度神经网络算法现在已经是互联网的人工智能服务的主流算法,比如 Facebook 提供面部识别服务,微软的 Skype 提供语言实时翻译。目前运行深度神经网络算法的主流芯片是 GPU (就是我们平时所说的显卡),也有一些使用 FPGA 的尝试。
因为都是连接结构,TrueNorth 上跑深度神经网络算法也许有天然优势。但是模拟人脑对于深度神经网络算法来说,也许太复杂了。如 Michael Jordan (机器学习宗师,培养了主题模型提出者 D.Blei 和 百度首席科技家 Andrew Ng 等学术名宿) 在 IEEE Spectrum 的 访谈 里所说,深度神经网络的核心训练算法误差向后传播算法和大脑机制关系不大。Jordan 还表示,我们对大脑的机制,比如我们怎么思考、怎么记忆、怎么发生情绪,还不了解。
因此模拟人脑的 TrueNorth 能否从深度神经学习这个维度进入实用,还需要观察。
原创文章,作者:goto