《大西洋月刊》：人类已和计算机融为一体

【腾讯科技编者按】《大西洋月刊》近日发表伊恩·博格斯特（Ian Bogost）教授的文章，称计算机真正的威胁并不是很多人以为的那样会出现超级智能，主宰和摧毁人类。其实从某种意义上说，计算机现在已经占据了主导地位，以下是原文内容：

计算机现在已经是我们的生活方式了，此话怎讲呢？

因为突然之间所有的东西都变成了计算机了：手机、电视机、烤面包机和锁具、婴儿监视器和榨汁机、门铃和燃气罐。甚至是水龙头，以及花园里面浇水的软管都变成了计算机了。如果这些智能工具无处不在，我们确实是生活在计算机的圈子之中。

无计算，不尽兴

当然很快就有人提出疑问：用智能手机操作自行车锁或煤气罐真的很必要吗？谁愿意使用可靠性比传统设备差的联网设备呢？但人们似乎确实想使用联网设备，而且这些设备也越来越普及。现在全球已经有数以10亿计的联网设备，到2020年，这个市场的规模可能达到2500亿美元。

为什么会这样？一个原因是，市面上有什么消费者就买什么。商家乐于将传统产品换成智能产品，因为这样可以给他们带来更多的营收，而且还能获得更多的控制权，他们说设备什么时候该更新换代了都行。此外，这还给他们带来了一个二级市场，出售通过这些设备收集的数据。例如，Roomba希望从其家用真空吸尘机器人收集的数据中推算出家居的平面图，然后将其作为商业情报来销售。

这虽然是原因之一，但更重要的原因是，计算本身就成为了一个目标，而不仅仅是一种手段。随着计算机从 桌面 设备蔓延到手持设备、相机、汽车和锁具，人们对计算机的感情也转移到了其他更为寻常的事物上。越来越多的人喜欢用计算机做一切事情，似乎只有这样才会感觉尽兴。

有一个名叫GasWatch的设备，是一个连接到智能手机app的燃气罐。自称好处是提醒你燃气快要耗尽了，免得你做饭做不熟。

你可能觉得这样的东西很荒唐，因为只需要一个很简单的仪表就能够测试的东西为什么要使用计算机？

但现在联网设备和服务越来越常见，这种嘲笑似乎很无力。联网的烤面包机承诺帮助大家烤出更好的面包。Nest是由iPod的前设计师推出的智能恒温器，后来被 谷歌 ( 微博 )以32亿美元收购。该公司还出品家庭安全摄像机，可以连接到网络，将视频传输到业主的智能手机上。原来那种独立的婴儿监视器现在也把联网作为一个基本功能来宣传。

联网设备的问题

但这些设备也带来了很多问题。其中一个是成本。像原来那种便宜的燃气罐仪器，或者是传统的自行车锁，都属于通用产品。你花10到15美元就可以买到一个，价格可能只是某些品牌的智能版本的十分之一。安全和隐私也是一个问题。据说中情局有一台三星的电视机被黑客入侵开展间谍活动。有些婴儿监视器被攻破之后，会有莫名其妙的人对婴儿说话。而僵尸网络可以指挥成千上万的互联网设备，对域名系统发起大规模的分布式拒绝服务攻击。

可靠性也是一个问题。当你无法联网，或app的服务器无法访问时，这类产品通常就无法正常运行了。

拿门铃来举例。通常按下没门铃会闭合电路，激活电磁铁，然后电磁铁移动一个活塞来震铃。但一个叫做Ring的智能门铃使用了一个包含运动传感器和摄像头的盒子代替了按铃。这是个好主意。但是根据一些用户的说法，Ring有时无法发出铃声，或者存在很长的延迟，或者没有任何人来也会发出铃声，好像惊悚片。这样的事情是屡见不鲜，以至于有一个人气很高的Twitter帐号“物联网那些破事”（Internet of Shit）来收集各种联网设备的槽点。

正如科技评论家尼古拉斯·卡尔（Nicholas Carr）所说，这些并不是科技承诺给我们的机器人。飞行汽车、自动化家居，超光速旅行仍然没有实现。与此同时，人类和机器融合（无论是通过 生物 入侵式手段或模仿意识来实现）似乎也遥遥无期——也许根本就是不可能做到的。这虽然会减轻我们对“机器人天启之灾”的恐惧，但也掩盖了机器在人类命运中的真实地位：如今计算机已经占据了主导地位，从很大程度上说，我们生活在计算机笼罩的圈子里，而我们对其结果也感到满意。

计算机 科学 家对图灵的误解

计算机“寻常用法”和“超常用法”之间的差距大概始于70年前，当时艾伦·图灵（Alan Turing）提出了一个理论，结果意外地为AI领域奠定了基础。图灵猜测，当机器人成为令人信服的同伴时，就是它们最有迷人的时候，这实际上就是今天的智能手机（和智能烤面包机）在做的事情。但计算机科学家们将图灵的思想实验扭曲成了一个模仿（或替代）人类思想的挑战。

图灵在1950年的一篇文章中描述了一个派对游戏，他称之为“模仿游戏”。玩法是这样的：两个人站在门后面，一个男人和一个女人，另外一个在门外面的人会提问，试图猜测出谁是谁。图灵设想的一个版本是，两扇门的后面其中是一个人，另一个却是机器，比如一台计算机。如果提问的人无法判断谁是人，谁是机器，那么机器就算通过了测试。后来，“图灵测试”主要集中在了计算机角色上——就是现在的Twitter和 Facebook Messenger上流行的聊天机器人的前身。有些人仍然把图灵测试当作验证机器智能的标准方式。

但图灵从来没有声称机器可以思考，更别说它们的智识可能会和人媲美了。他假设的只是，机器可能会表现出令人信服的行为。对于图灵来说，这涉及到机器可以像另外一个东西一样通过测试。随着计算机科学的发展，“通过”图灵测试就意味着成功，就好像是考过了驾照一样，而不是意味着准确地描绘一个角色。

图灵测试和图灵机的关系

图灵将计算机视为一种令人信服的机器，但计算机科学家的误解可能标志着图灵这种的愿景的终结。但他在计算机硬件本身的设计中也融入了这种设想。在1936年，图灵提出了一种概念型的机器，它根据一系列有限的规则操纵带子上的符号。机器有一个磁头，可以在带子上不连续的单元格中读写符号。每个符号对应一个指令，如写入或擦除，机器执行了这个指令之后，就移动到下一个单元格。

该设计被称为通用图灵机，是一种很有影响力的计算机处理模式。经过约翰·冯·诺依曼（John von Neumann）等人的一系列修改之后，它已经演变成了存储程序计算机，即一种将程序指令及其数据保存在内存中的计算机。

在计算史中，图灵机通常被认为是一个独立于图灵测试的创新。但是两者之间却是有联系的。有了通用计算系统，一台机器可以拥有图灵机的能力（计算机科学家把这称为图灵完备）。图灵机是一种“假装是另一种机器”的机器。计算机也是这样。

想想你每天使用的那些计算系统。它们全部都在模仿其他东西。就好像图灵最初关于机器通过模仿人类测试的想法那样，计算机也试图通过某种方式来模仿另外的东西。比如模仿计算器、打字机、手机、相机、实体店或咖啡馆。

过了一段时间之后，成功的模仿机器就取代并超越了原来被模仿的机器。文字处理软件不再仅仅模仿打字机或秘书了，而是成为了一种用于产生各种书面材料的一阶工具。终究来说，如果模仿机器发展得够好，它们就直接变成了机器。

总体上说，如今的计算系统就是在做这样的事。基本上大多数 工作 和娱乐活动都可以由计算机来开展。因此，虽然计算机最初只是一种达成创造性目标的手段，现在它本身也成为了一种活动。今天，人们使用计算机不是为了完成特定任务，人们已经是为了使用计算机而使用计算机了。

计算机解决方案似乎成了最好的、唯一的方案

当计算机这种手段和目的相分离，成为了一种生活方式时，那么问题就只有在计算系统可以解决它的时候，才显得像是真的问题了。物联网设备是个例子。另外一个例子是，硅谷技术公司设想其产品和服务的方式。

下面我们以社交网络暴力为例来看看这个问题。 Twitter的数据战略副总裁克里斯·穆迪（Chris Moody）今年早些时候承认：“我们的平台上确实有一些语言暴力。”穆迪说，阻止这种暴力是该公司的首要任务，然后又说：“但这是一个非常、非常艰巨的挑战。”为了解决这个问题，Twitter决定使用 IBM 的人工智能沃森（Watson）来扫描暴力言论。谷歌也在开展类似的努力。它的一个实验室开发了Perspective，这是一个API，利用“机器学习来查找网络暴力和骚扰言论”。

有时候，科技公司会把寻找“可扩展的”解决方案当作事关企业生存能力的重点。当我向Twitter求证穆迪的说法时，一位发言人告诉我，在审查安全内容时，该公司采用的是计算机和人类系统相结合的方式，但是他们不愿分享许多细节。

这听起来很美好，但效果不尽如人意。 Twitter声称，它变得越来越擅长于打击网络语言暴力了，但实际上却对一些最糟糕的案例似乎视而不见。而谷歌的Perspective则会被一些简单的拼写错误和否定词语迷惑到。

即使马上解决语言暴力问题非常符合这些公司的商业利益，他们也仍然假设让网络变得更安全需要使用计算机。诚然，让人类来审核内容是件非常困难的事情。而且Twitter强调，暴力言论数量非常之多，需要计算系统来管理和操作这件事。

但是，也许管理语言暴力是“非常、非常艰巨的挑战”的原因就在于这个假设。Twitter是一个能让人们匿名互动的全球性网络，这个理念本身就排除了人为干预的手段。 Twitter的说法的前提是假设他们的服务（几乎完全通过app和服务器实现了自动化）非常棒——他们只需要在此基础上找到一个正确的计算型管理方法就行了。如果已经假设计算机自动化是最好的、唯一的答案，那么当然也只有工程解决方案是可行的了。

计算机成为了获得“使用计算机的快感”的媒介

说到底，这也是GasWatch用户不会选择一种便宜的测量表来管理燃气罐的原因。既然有了计算机，为什么还有人要选择不涉及计算机的解决方案呢？燃气罐和自行车锁仍然属于边缘案例，但普通数字服务的工作原理与之类似：人们寻求的服务，就是让他们使用计算机做事情的服务——无论是查找信息，找出租车，还是订购外卖。这是一种美学上的壮举，也是一种商业壮举。人们把计算机当作“使用计算机的快感”的媒介，而不仅仅是一种解决问题的实用手段。

从这个角度出发，就可以理解那些看似没有目的、具有破坏性的服务、app和联网设备的意图了：它们把计算机放置在了一个以前缺少它的地方。他们将世界体验转化为计算体验。机器不再试图说服大家相信它们是人类了，而是希望说服大家相信它们是真的计算机。这是反过来的图灵测试。

有一种 “反向图灵测试”（reverse Turing test），是机器通过要求用户在网络表单上填写验证码，判断用户是否是人类，从而过滤掉那些自动机器人用户。另外还有一种反向图灵测试，是在一组计算机中混入了一个人类演员，让大家猜一猜哪个是人类。

这些活动的关键是使用图灵测试本身，而不是用它来测量智能。这个先例可追溯到计算的早期阶段。最著名的“模仿游戏”式聊天机器人之一是1966年约瑟夫·魏泽堡（Joseph Weizenbaum）的ELIZA程序。这个程序很像罗杰斯人本主义心理治疗师——用户提什么问题，它就反过去倒问他们。即使是在20世纪60年代中期，这个模式也很简单（“如果你有一台新的行式打印机，这对你来说意味着什么？”ELIZA问一个假装成IBM370大型机的用户），但这几乎不能算是智能，不管是不是人工智能。当所有人都知道对话者是一台计算机，不过仍然对此感到很高兴的时候，图灵测试的效果是最好的。

为什么要融入计算机的大家族？

“作为一台计算机”的意思已经与1950年代图灵提出模仿游戏的时候不同了。不再需要AI技术的前提条件了，通常只需要把数据比特移来移去，或是充当控制器或执行器，就能够“作为一台计算机”。烧烤架作为一台计算机，自行车锁作为一台计算机，电视机作为一台计算机。无非是一个媒介而已。

就拿Uber来举例子。它的商业成功主要来自于规避用工政策和出租车管理条例。但它的美学成功来自于让人们通过智能手机来租车。不必在电话上和任何人交谈就是这种做法的吸引力之一。在手机的数字地图上看到汽车开过来也是如此。同样地，对于那些憧憬自动驾驶汽车的人来说，这种车的好处不仅把人们从驾驶的负担和危险中解脱出来，而且也是因为它们更像是计算机。当然，计算机已经为汽车提供辅助很多年了。但是自动驾驶汽车将车辆变成了一种你知道是由计算机在驾驶的机器。

或者再想想新的智能门铃。当有朋友来访时，他们只需要输入短信请求就可以打开门。门铃甚至不需要连接到app或互联网上就已经变得计算机化了。你可以说这是“颠覆”，但门铃和汽车和出租车在这个过程中并没有消失。相反，它们只是进入了计算机大家族，在那里，它们可以催生新的情感。

其中一种情感就是联网的乐趣。你都不想下线，那你为什么要让烤面包机或门铃下线呢？今天，融入计算机大家族是当下的一种理想状态。而最终梦想是无论何时何地都在线上，或者至少连接到某种计算机器上。

没有人想到计算会走到这步。在计算机发展的早期阶段曾有人警告说，它们可能成为官僚主义者或法西斯主义者，削弱人类的行为能力，使用计算机会麻醉人类，让人类不再关心世事。

这样的说法其实一直都有，一个原因是它们部分上成为了现实。但是换一个角度看，和你沉迷于它们相比，如果你远离它们，你才更像是和世事隔绝了。因此计算机采取了这样一种行动：将越来越多的东西变成计算机，来延长这种连接。

从这个角度来看，当代科技文化的所有问题——企业数据聚合、隐私、过分就业（人们捐给Facebook和谷歌和其他公司的无形的、免费的劳动）——这些都不是剥削了，而是人们选择的结果，无论是特意的还是无意的。

计算机的真正威胁并非“天启之灾”

在未来学者中，计算机革命的美好（或威胁）往往与人工智能的巨大进步息息相关。哲学家尼克·波斯特罗姆（Nick Bostrom）说超过人类能力的AI是“超智能”。一旦实现了超智能，要么很快人类就永远无需再做繁重的工作了，要么很快就会出现“机器人天启之灾”。哲学家戴维·查尔斯（David Chalmers）和计算机科学家雷·库兹维尔（Ray Kurzweil）主张的另一个学说称为“奇点”，认为计算机如果拥有了充分的处理能力，就可以模仿人类的智识。如果是这样的话，人们可以将自己的意识传到机器上，从理论上做到永生——至少是某种意义上的永生。库兹维尔现在在谷歌工作，该公司有一个致力于让人类永生的部门。

还有些人甚至认为，超智能是一种过去而不是未来的技术。数百万年里，可能已经有足够大规模，足够复杂的计算机模拟出现了，而地球人称之为“ 宇宙 ”的东西就是其中之一。这个理论叫作模拟假说，和古代很多主张“现实是一种幻觉”的学说相吻合。

但是，和“机器人天启之灾”中的假设相比，当下的智能机器显得既蠢又强大。图灵通常被称为AI之父，但他只是暗示机器可能会变得足够令人入迷，以激发互动。这个特点不能算是智能的、人工的，以及真实的。而且这也更加容易实现。计算机已经说服了人们将自己的生活融入计算机大家族。这些机器不需要让人永生，也不需要承诺帮人类办到一切，或者威胁要摧毁人类。它们只需要成为人类做的所有事情的一个重要部分，让人类没有它们就无法（或者无法想象如何去）做这些事情即可。

在这样一个未来中，将会出现一些悲剧。但应该不是人们没有为“机器人天启之灾”做好准备，或者他们还没有把意识转移到机器上就挂掉了。计算机的真正威胁不在于它们的力量和智能可能会搞定和摧毁人类。而是它们依然像现在这样看上去普普通通，蠢萌蠢萌，但却仍然会搞定我们。（翻译/Kathy