记忆迷思：机器人应该忘记什么，它们如何遗忘？

本文系网易智能工作室（公众号 smartman 163）出品。聚焦AI，读懂下一个大时代！ 

【网易智能讯 8月18日消息】我们都知道忘记某件事是什么感觉。比如忘记心爱之人的生日。比如忘记童年记忆。即使是那些有非凡记忆力的人。比如，在不到20秒内记住一副扑克牌的顺序，也会忘记他们把钥匙放在哪里了。人们似乎永远无法完全控制自己的记忆。

对于人类和人工智能（AI）来说，遗忘是一件棘手的事情，研究人员正在以多种不同的方式探索机器人记忆的概念。

这不仅引发了技术问题，还引发了人们对隐私、法律和道德的担忧。想象一下，如果你的家用机器人看到你偷偷吸烟，尽管你向你的配偶承诺你已经戒烟了？如果他们看到你犯了谋杀罪呢？

这是一个很重要的问题：谁应该有能力让一个机器人忘掉它所目睹的一切？但首先，研究人员需要找到让人工智能从一开始就遗忘的最佳方式。

为什么人们会遗忘？

一个很流行的比喻解释了为什么人们会遗忘，我们的大脑会变得充实，因此我们会忘记一些事情来“创造空间”。

然而，有些人却患有一种罕见的“超忆症”，这让他们几乎能记住他们生活中的每一个细节。这表明，“充实”这个概念并不是一个完整的概念。

所以，如果我们不忘记一些事情来为新的记忆腾出空间，那么我们为什么会忘记呢？一种解释是，记忆帮助我们理解这个世界，而不仅仅是记住它。这样，我们似乎保留了有用的、有价值的和相关的记忆，忘记的是更低价值的信息。

例如，一些研究表明，与重复的信息相比，人们更善于记住相互矛盾的信息。其他因素包括事件的重要性和新奇性，以及我们在经历这件事时的情绪和心情。想想2001年的9月11日――我们中的许多人是否都清楚地记得当时我们在哪里，在那天做了些什么。

机器人如何遗忘？

计算机的内存通常用于描述存储信息的存储能力，以及存储此类信息的计算机物理组件。

例如，当不再需要某个任务时，计算机的工作记忆会“忘记”数据，从而为其他任务释放出计算资源。

这也适用于人工智能，但当我们忘记某件事可能会让我们感到沮丧时，这是人们仍然比人工智能更优秀的方面。机器学习算法尤其不善于何时保存旧信息，何时丢弃过时的信息。

例如，联结主义的人工智能（人工智能通常使用的是基于大脑结构的神经网络）面临着与“遗忘”相关的几个问题。这包括过度拟合，即当一个学习机器存储了过去的经验中过于详细的信息，从而阻碍了它对未来事件进行概括和预测的能力。

另一个问题是“灾难性遗忘”。研究人员正试图建立人工神经网络，以便在突然忘记之前学过的东西的情况下，适当地调整新信息。

最后，在学习过程的早期，人工神经网络的神经元会产生不良的激活模式，从而破坏人工智能未来的学习能力。

机器人中储存记忆的另一种方法是象征性的记忆表征，即知识是由逻辑事实来表现的（“鸟会飞”，“Tweety是鸟”，因此，“Tweety能飞”）。这些高度结构化的人工创建的表征可以很容易地删除，就像在计算机上删除一个文件一样。

这些记忆包括原始的感觉运动数据（从照相机的记录）到存储在知识库中的逻辑事实（“圣诞节是12月25日”）。

机器人应该忘记什么？

理解我们的大脑如何决定什么是值得记忆的，什么是值得遗忘的，这对于构建更好的人工智能很重要。

就像人一样，人工智能应该记住重要而有用的信息，而忘记无用和无关的信息。然而，确定哪些是相关的和有价值的信息可能包括除了手头的工作之外的因素，比如道德问题、法律和隐私问题。

聊天机器人可以进行医学诊断，智能家居设备可以监控我们的一举一动，安全机器人也可以通过视频摄像头和热成像技术来进行巡逻。这是由于所储存的大量数据。

例如，亚马逊的家庭助理Echo是一款语音控制的免提扬声器，它总是听从人工发出的语音指令。阿肯色州警方最近要求亚马逊交出一份显然从谋杀嫌疑人的Echo中收集的信息。

或者，想想性爱机器人中的人工智能。性爱机器人是否应该记住还是忘记他们的客户，以及那些客户对他们做了什么？谁拥有这个机器人的数据，谁能查看并删除它？

说到记忆，决定机器人何时应该选择遗忘是人类的一大挑战。（选自：The Conversation 作者：Christopher Stanton 编译：网易见外智能编译平台 审校：Simone）

关注网易智能公众号（smartman163），获取人工智能行业最新报告。