斯坦福大学实现高性能低功耗人工突触,可用于神经网络计算
尽管这些年来,计算机技术取得不少进展,但是,在再造大脑低能耗、简洁的信息处理过程这方面,我们仍然步履蹒跚。现在, 斯坦福大学 和桑迪亚国家实验室的研究人员取得了重要进展,该研究可以帮助计算机模拟某块大脑高效设计,亦即人工突触。
Alberto Salleo,材料科学与工程学副教授,研究生 Scott Keene 在确知用于神经网络计算的人工突触的电化学性能。他们是创造这一新设备团队的成员。
Alberto Salleo 说,它运行起来就像是真的突触,不过,它是一个可以制造出来的电子设备。Alberto Salleo 是 斯坦福大学 材料科学与工程学副教授,也是这篇论文的资深作者(senior author)。「这是一套全新的设备系列,之前并没有看到过这类架构。许多关键标准测评后,我们发现,这款设备的性能要比其他任何非有机设备要好。」
相关研究发表在了 2 月 20 日 的 Nature Materials上,该人工突触模仿了大脑突触从通过其中的信号中进行学习的方式。较之传统计算方式,这种方式要节能得多,传统方法通常分别处理信息然后再将这些信息存储到存储器中。就是在这里,处理过程创造出记忆。
或许有一天,这款突触能够成为一台更接近大脑计算机的一部分,它特别有利于处理视觉、听觉信号的计算过程。比如,声控接口以及自动驾驶汽车。过去,这一领域已经研究出人工智能算法支持下的高效神经网络,但是,这些模仿者距离大脑仍然比较遥远,因为,它们还依赖传统的能耗计算机硬件。
建造一个大脑
人类学习时,电子信号会在大脑神经元之间传递。首次横穿神经元最耗费能量。再往后,连接所需的能力就少了。这也是突触为学习新东西、记住已学内容创造便利条件的方式。人工突触,和所有其他类脑计算版本不同,可以同时完成(学习和记忆)这两项任务,并能显著节省能量。
深度学习算法非常强大,不过,仍然依赖处理器来计算、模拟电子状态并将其保存在某个地方,就能耗和时间而言,这可不够高效,Yoeri van de Burgt 说,他之前是 Salleo lab 的博士后研究人员(postdoctoral scholar),也是这篇论文的第一作者。「我们没有模拟一个神经网络,而是试着制造一个神经网络。」
这款人工突触是以电池设计为基础的。由两个灵活的薄膜组成,薄膜带有三个终端,这些终端通过盐水电解质连接起来。它的功能就像一个晶体管,其中一个终端控制其与其他两个终端之间的电流。
就像大脑中的神经通路可以通过学习得到加强,研究人员通过重复放电、充电,为人工突触编程。训练后,他们就能预测(不确定性仅为 1%)需要多少伏电,才能让突触处于某种特定电信号状态(electrical state),而且一旦抵达那种状态,它就可以保持该状态。易言之,不同于普通电脑,关掉电脑前,你会先将工作保存在硬件上,人工突触能回忆起它的编程过程而无需任何其他操作或部件。
测试人工突触网络
桑迪亚国家实验室的研究者目前只制造了一个人工神经突触,但是,他们使用有关突触实验中获得的 15,000 个测量结果来模拟某一列(array)突触在神经网络中的运行方式。他们测试了模拟网络识别手写数字 0 到 9 的能力。三个数据集上的测试结果显示其识别手写数字准确度达 93%~97%。
尽管这项工作对于人类来说显得相对简单,但是对于传统计算机而言,要解释视觉与听觉信号曾经是非常困难的。
「我们期望计算设备能做的工作越来越多,这就需要模拟大脑工作方式的计算方式,因为用传统计算来完成这些工作,能耗巨大,」A. Alec Talin 说,「我们已经证实这款设备很适合实现这些算法,而且很节能。」A. Alec Talin 是桑迪亚国家实验室的杰出技术研究员,也是这篇论文的资深作者。
该设备极其适合于传统计算机执行起来很费劲的信号识别和分类工作。数字晶体管只能处于两种状态,比如 0 或 1,但是研究人员在一个人工突触上成功编码了 500 种状态,对于神经元类计算模型来说,这很有用。从一种状态切换到另一种状态所使用的能耗约为当前最先进计算系统的 1/10,最先进的计算系统需要这些能耗将数据从处理单元移动到存储器。
然而,较之一个生物突触引发放电所需的最低能耗,这款人工突触仍然不够节能,所需能耗是前者的 10000 倍。研究人员希望,一旦他们测试用于更小的设备的人工神经突触,他们可以实现类似生物神经元级别的能耗水平。
有机材料的潜力
设备的每一部分都由便宜的有机材料制成。虽然在自然界中找不到这些材料,但是它们大部分都由氢、碳两种元素构成,而且与大脑化学物质兼容。细胞已经可以在这些物质上生长,并且已经被来打造用于神经递质(neural transmitters)的人工泵。用于训练这类人工突触的电伏也和穿行人类神经元所需的能量相同。
这些都使得人工神经突触与生物神经元之间的交流成为可能,可借此改进脑机接口。同时,设备的柔软性与灵活性也使得它可被用于生物环境。但是,进行任何生物学方面应用之前,团队计划先打造一列人工神经突触,用于进一步研究与测试。