为什么那么多科技大咖让我们警惕人工智能

近年来，一些新闻陆续报道：比尔·盖茨表示人类需要敬畏人工智能的崛起；马斯克则表示人工智能是人类最大的威胁等等。

当看到这么多科技大咖对我们人人称道的人工智能如此警惕，甚至将其列为人类发展的威胁时，坐不住的小编决定仔细了解了解，这个由AlphaGo下围棋不断战胜人类选手而被大众所周知的人工智能，到底是何方神圣。

1.人工智能的学术定义

“人工智能”（Artificial Intelligence）这一术语，是在计算机科学刚刚萌芽的1956年夏天，美国达特茅斯学院召开了两个多月的会议后，由学者经过充分的总结和讨论所提出来的术语。斯坦福大学人工智能实验室的教授尼尔森提出了一个可供参考的定义：“人工智能致力于使机器智能化，智能化是衡量实体在特定环境中翻译和判断能力的定量指标。”

敲黑板，学术界将反应和判断能力作为定量指标来判定智能化与否。结合到人类本身，反应可以被理解为我们的听说读写，而判断则和我们的意识与独立思考相关。

是不是感觉十分惊讶，我们认为的如此前沿、高大上的AI，早在六十多年前就已经被科学家们所提出并定义！

成千上万的码农所挥洒着青春和荷尔蒙的人工智能领域，发展到今天，涉及到机器人控制、语音识别、图像识别、自然语言处理和专家处理等技术。

2.强弱对比

为了能够进一步了解这些科技大佬们在说些什么，我们必须得明晰一组概念，强人工智能和弱人工智能。

其中，强人工智能的观点认为有可能制造出真正能够推理和解决问题的智能机器。并且这样的机器是有知觉和自我意识的。它包括我们通常认为的类人型人工智能，即机器拥有像人类一样的推理和思考。还包括了超越人类思考方式，运用与人类完全不同的知觉和意识去推理的非类人型人工智能。我们总是对未知的事物充满着好奇与恐惧，试想一下，如果人类真正造出了超越自己思考方式的人工智能机器，那么他们是会与我们和平共处，还是像《三体》里面所论述的“宇宙森林”法则一样，毫不犹豫地选择消灭人类文明呢？

另一种，是弱人工智能。这种观点认为不可能制造出能够真正地推理和解决问题的智能机器。这些机器只是看起来是智能的，但是并不会真正的拥有智能，也不会有自我意识。目前，主流的科研都是集中于弱人工智能上，科学家们已经在这一领域中取得了可观的成就。而强人工智能则停滞不前。

3.图灵测试

目前对于人工智能应用还是相对原始。看起来很厉害的语言处理和图像识别，其实就是通过一些算法拿语料库或者图像库进行学习训练出来的。准确的说，其实是对人类智能的模拟，也就是前面所说的弱人工智能。

那么如何判定一个机器是否是真正具有强人工智能呢？在专业领域一个公认的标准，就是“图灵测试”：

如果一台机器能够通过电传设备与人展开对话，并且会被人误以为它也是人并且懂这种语言，那么这台机器就拥有智能。

但是，这个测试也并不算精确，早在20世纪80年代初就有美国哲学家John Searle提出了“中文屋”来反驳“图灵测试”。

这个实验中，你是一位只会说英语的人。你处在一个只有一个开口小窗户，其余全部封闭的房间里，房间里有足够的稿纸、笔和橱柜。你随着带着一本写有中文翻译程序的书，需要将通过小窗户送入房间内写有中文的纸片翻译出来，并且用中文回复。虽然你完全不懂中文，但是也可以通过这个过程，让任何房间外的人以为你的中文水平很好。

“中文屋”实验可以说是对强人工智能假说的第一次打脸，Searle指出当时设想的绝大多数人工智能实现方案都不是强人工智能。毕竟，从哲学的角度，一个大力士力气再大，也不能将自己举起来。人类想通过已有的思考方式，制造出自己也完全没有的思考方式，从过程本身来讲，就难以实现。

好了，有了这些了解后，我们再去好好看看这些科技大咖们的言论。在小编看来，这些像神一样存在的大佬们，在公开场合发表的言论必定是周全完整的，以偏概全可不是他们的姿势水平。

果然，看完原视频后，才发现，这哪里是媒体们断章取义表达出来的意思。大佬们是对强人工智能发展的谨慎。进一步讲，这些社会精英们对于人工智能的担忧和警惕主要集中在可控性方面。就像霍金所说：“随着好处的带来，人工智能也会带来危险，比如强大的自动武器，或少数人欺压多数人的新方法。”作为能够影响人类科技发展方向的科学家，有责任有义务提醒社会、提醒公众防患于未然，希望能够靠制度上的风险控制来运用好科技这把双刃剑。同样的，就像当年的核裂变技术，可以发展出原子弹，直接能够导致人类的终结，也可以严格禁止管控核武器，将技术用于核电站发电，造福人类。

此外，人工智能技术逐渐成熟，也会反过来带给人类更加紧促的时间观、压力和焦虑。也就是数年前，我们还没有那么喜欢看短至十几秒的视频，没有铺天盖地的信息纷扰带给我们巨大的学习压力，不会担心受怕随时会被时代的发展潮流所抛弃。未来，我们自己、我们的家庭、我们年迈的父母，又将如何更快的去适应、去习惯，由人工智能带来的翻天覆地、昼夜不息的变化？

所以说，人工智能大发展中真正值得警惕的，不是技术本身，而是技术带来的一系列影响，以及人的自我意识和格局等等是否还能和飞速发展的时代匹配起来。对技术的发展持乐观积极态度，对自身和制度的发展多一份重视和准备，也许才是我们面对人工智能应有的做法。

作者：晨兴 橘子科普团队 清华大学机械工程学院博士生

审稿人：北京工业大学教授 科普中国特聘专家 于乃功