一类机械神经网络的架构材料,未来智能技术的全新畅想 - IT思维
公众号/ ScienceAI(ID:Philosophyai)
编辑 | 萝卜皮
除了一些活组织之外,很少有材料能够在长时间暴露于意料之外的环境负载情况下自主学习表现出所需的行为。在不断变化的条件下(例如,内部损坏程度的上升、不同的夹具场景和波动的外部负载),仍然有更少的材料可以继续表现出先前习得的行为,同时还能获得最适合当前情况的新行为。
如果拥有这类可因环境而进行学习,并因此改变功能属性的人工智能(AI)材料,除了 AI 机器人产业,建筑、航空等多个产业也将迎来福音。
在这里,加州大学的研究人员描述了一类称为机械神经网络(MNN)的架构材料,它通过调整其组成梁的刚度来实现这种学习能力,类似于人工神经网络 (ANN) 调整其权重的方式。
该团队制造了一个示例晶格来证明其同时学习多种机械行为的能力,同时研究确定晶格尺寸、包装配置、算法类型、行为数和线性与非线性刚度可调性对 MNN 学习的影响。这项工作为拥有学习行为和属性的人工智能材料奠定了基础。
该研究以「Mechanical neural networks: Architected materials that learn behaviors」为题,于 2022 年 10 月 19 日发布在《Science Robotics》。
科学家们受到构成生物大脑的神经元互连网络的启发,并以无与伦比的速度和能量效率实现复杂的学习。因此,许多人试图利用各种相互连接的网络,来模拟自然学习以用于众多人工智能应用程序。以 AI 为目的开发的一些最初的网络,在形式上是纯粹的数学形式。这些数学网络背后的概念,称为人工神经网络(ANN),最初由 McCulloch 和 Pitts 引入,后来由 Rosenblatt 发展成熟。
ANN 的数学公式可以使用相互连接的线来绘制,如图 1A 中的蓝色所示,表示标量值,称为权重,乘以输入数字,这些输入数字被输入多层激活函数,称为神经元,最终产生输出值。如果为 ANN 提供了一组已知的输入和输出值,则可以通过调整其权重来训练网络,以便它准确地预测未知的输出值,从而产生任何所需的输入值。
Hornik 团队证明了 ANN 真正的 AI 潜力,通过证明,只要有足够多的神经元和层,ANN 可以通过准确地将任意数量的输入映射到任意数量的输出来学习建模几乎任何东西。然而,事实证明,使用传统数字计算机调整大型人工神经网络的权重,会消耗大量的时间和能源。
图 1:MNN 简介以及它们如何学习机械行为。(来源:论文)
因此,进一步受到生物大脑物理性质的启发,科学家们开始开发物理网络,以更快地调整权重(即学习),并且由于其模拟性质而具有更高的效率。这些物理网络中的大多数可以分类为电网络或光网络。
尽管一些物理神经网络使用机械结构的振动来提高学习的速度和效率,但目前还没有纯机械的。机器人学家已经学会利用机械体的动力学作为计算资源,通过仅限制要调整的最后一层的权重来更有效地训练数学人工神经网络。这种称为形态计算的方法是水库计算概念的机械版本,其中用于简化数学计算的水库是机器人本身的结构。弹簧和点质量网络、张紧电缆和刚体以及软体已被用于演示这种方法。
之前 Hermans 团队提出了迄今为止最机械化的神经网络实例化。该网络由一个振动板组成,该振动板由声波激发作为输入和输出。不是通过调整板本身的机械特性(即它的刚度、阻尼或质量特性)来调整网络的权重,而是通过电产生干扰声波的掩蔽信号来训练网络。Wright 团队最近扩展了这一概念,使用多层振动板来实现深度物理神经网络。
在最新的工作中,加州大学的 Ryan H. Lee 团队引入了一种不同的物理网络,称为机械神经网络 (MNN)。MNN 是互连的可调谐梁的格子,如图 1B 中的蓝色所示,在节点处连接,这些节点由力或位移输入和输出驱动。互连梁的刚度值被调整为网络权重以训练晶格,使其可以学习所需的机械行为(例如,形状变形、声波传播和机械计算)和体积特性(例如,泊松比、剪切和杨氏模量以及密度)。
所以,这项工作相当于引入了一类建筑材料(也称为机械超材料),这些材料是由于长时间暴露于意外的环境负载条件下而学习的。尽管其他人提出了可以执行特定机械计算的声学超材料,但这些材料不是神经网络,因此无法学习。
之前 Hughes 团队提出了一种声学超材料,其行为类似于经过训练的神经网络,但所提议设计的制造版本无法学习新行为,因为在设计过程中通过使用模拟调整振动板内的质量来进行训练。尽管其他机械概念也已被提出并仅使用模拟进行演示,但 Ryan H. Lee 团队的 MNN 概念是通过实验进行的物理演示。该概念还可以扩展到复杂的三维(3D)晶格,它可以占据任意形状的体积,并满足实际材料应用的所需夹具要求。
另外,由于 MNN 本质上具有许多层节点,类似于 ANN 中的神经元,因此 MNN 表现为可以同时学习许多复杂行为的深度神经网络。如果 MNN 损坏、被切割以占据替代体积或以不同方式固定,那么它可以重新学习以前掌握的行为并根据需要在不断变化的环境条件下获得新的行为。
一个应用程序可能包括 MNN 飞机机翼(图 1C),该机翼学习根据需要改变其机翼形状以响应某些风载荷情况,从而使飞机在积累飞行经验时实现更高的效率和机动性。这项工作展示了 MNN 使用两种不同算法学习两种不同形状变形行为的能力。进行了实验和模拟研究,以确定晶格尺寸、包装配置、算法类型、行为数和线性与非线性刚度可调性对 MNN 学习的影响。
图 2:一个 MNN。(来源:论文)
引入 MNN 作为学习行为的架构材料的概念,研究人员使用两种优化算法 GA 和 PPS 进行了实验证明(图 3,B 和 C)。尽管 GA 被证明比 PPS 慢 41 倍以上(即 GA 需要 111.13 小时,而 PPS 需要 2.68 小时),但图 2 的 MNN 使用 GA 学习其行为的准确度提高了 10.5 倍(即,GA 的 MSE 为 0.006 mm^2,而 PPS 为 0.063 mm^2)。
图 3:实验研究结果。(来源:论文)
还进行了一项实验研究,以比较由可调谐光束组成的 MNN 的学习能力,这些光束被控制以表现出线性与非线性刚度。图 3 表明具有线性刚度梁的 MNN 比具有非线性刚度梁的 MNN 的学习精度更高(即,最低线性和非线性 MSE 分别为 0.056 和 0.093 mm^2)。
图 4:模拟研究结果。(来源:论文)
研究人员还创建了一个计算工具来模拟晶格大小、行为数和包装配置对 MNN 学习的影响。研究表明,MNN 的层数越多,同时学习的随机行为越少,它可以学习的越准确(即,它的最终 MSE 可以变得越低)。实验表明,只要 MNN 是三层或更多层,它就有足够的可调谐光束来准确地学习两种形状变形行为,而不管层数和输出节点的数量如何。
尽管具有较少输出节点的 MNN 具有较少的可调谐光束可供学习,但它在学习期间对光束的力输入和位移输出要求也较少。因此,输出节点的数量在很大程度上是无关紧要的。另外,在相同数量的层数和输出节点的情况下,三角形格子可以比方形格子更准确地学习,因为与方形格子相比,更多可调谐光束构成了三角形格子。此外,三角形格子的光束可以更有效地在所有方向上传播位移,而不是像方形格子那样主要沿着正交方向传播。
该项目的首席研究员 Jonathan B. Hopkins 说,「这种人工智能材料可以学习在增加暴露于环境条件时,表现出所需的行为和特性。」因此,这类材料可以用于抗震建筑和航空等工程。
当然,还可以尽情畅想,未来人工智能材料用途的可能性包括将 MNN 注入一种战术装甲来处理冲击波。这增加了可以偏转炮弹力量的战术装备的可能性。这是一个科幻场景,但它与将来抵抗地震的建筑材料也许是一个原理。
论文链接:https://www.science.org/doi/10.1126/scirobotics.abq7278
相关报道:https://dot.la/mnn-ai-ucla-2658483265.html?utm_campaign=post-teaser&utm_content=wie41s3a