探秘 AI 的未来：我们离科幻小说中的人工智能有多近?

IT思维 • 7年前扫码分享

我是创始人李岩：很抱歉！给自己产品做个广告，点击进来看看。

在今年的“逃逸速度”（Escape velocity）科技峰会上，“人工智能离我们有多远、人工智能是否对我们构成威胁”成为了最受关注也最为活跃的话题之一。

这个话题由数字朋克作家和网络安全专家尼克·凯利、eSkin研发专家乔什·巴普蒂斯特以及畅销科幻小说《千年战争》作者乔·霍尔德曼共同主持。在一小时的研讨过程中，参会者讨论的内容涉及量子计算、机器人技术、黑客技术、以及感知智能的伦理问题。

以下是本次研讨的一些节选：

01、人工智能的起源：早期人工智能和象征性推理

乔·霍尔德曼从他在大学所学的课程谈起，与大家分享了他与人工智能和象征性推理的经历，这些课程涵盖了哲学、数学和计算机科学。“在你们还没出生之前，我就开始研究人工智能了，”他开玩笑地说。

他描述了编写真值表和学习准代数逻辑的方法，这使他能够理解早期计算机的“思维过程”。他说：“我对符号逻辑有绝对信心，而我对自然语言就没有这种信心。

我不会说它不会说谎，但当它说谎时，你能通过谎言拼凑出真相。”对霍尔德曼来说，编写真值表时有一点十分关键：“我十分清楚如何在一个准代数系统中把真相梳理出来，这让我感受到力量。”

02、感知智能和量子计算

据乔什·巴普蒂斯特所说，人工智能有两个方面：自治智能，它允许程序在没有人类参与的情况下执行代码，而感知智能则是自主并有独立意识的人工智能。根据巴普蒂斯特的说法，“真正的感知智能必定包括量子计算机。”

他举了一个著名的例子来解释了传统计算机和量子计算机之间的区别：如果你有一幅关于山丘和山谷的三维图像，并将其简化为像素，那么传统计算机就必须对每一个像素进行观察，以确定最低的点，而量子计算机则会查看整个图像，并几乎在瞬间给出答案。

量子计算机的神奇力量在于量子位，它类似于所有计算机中常见的位元，除了1和0的状态，量子位可以存在于1和2的状态中，或者两者都不存在。

这种额外的维度允许计算能力超越当前的极限，从而为人工智能掌握诸如自我意识这样的先进功能提供了可能性。

03、入侵物联网

根据小组成员尼克·凯利的说法，与地球上的人相比，互联网所连接的设备明显更多。然而，在科技史上的绝大部分时间里，主流的理念是先引入新设备，然后再把它们抛到脑后，或者用凯利的话说，“先把它们拿出来看看，然后再把它们锁起来。”

从冰箱、可穿戴设备到私人机器人，数以百计的新型联网“智能”设备正进入我们的视野。但近年来，黑客控制这些设备的可能性也在呈几何级数增长。

在小组讨论中，凯利提到了一个真实案例：黑客可以通过大厅里鱼缸里的温度控制程序，侵入赌场内联网的老虎机。他们之所以能够成功，是因为该赌场的联网设备没有被“隔离”，这意味着一旦黑客控制了某一台设备，他们就可以获得连接该网络其他设备的控制权。

作为思科的一名网络安全专家，凯利对于人工智能失控情况的见解稍有不同。他描述了思科正在探索的一项新举措，即训练公司网络，使其能识别对用户构成风险的网站，然后在达到某个阈值后拒绝访问这些网站。

与之类似，如果黑客试图侵入网络，思科的安全程序可以从以往的黑客攻击中吸取教训，并自动避免类似攻击。

这种系统的危险来自于自动系统完全失控，类似于著名的“回形针最大化”思想实验：一个系统被训练以达到最大的安全性和效率，最终可能会决定人类的控制或行动不够安全或有效，从而导致系统采取行动阻止人类干扰或使用它。

凯利引用了最近Facebook聊天机器人AI被关闭的例子，说明当我们失去对人工智能的控制后会发生什么：在试图学习用英语交流之后，Facebook聊天机器人AI决定，它将创造自己独有的、更高效的语言，而人类很难理解这种语言。