比尔盖茨发呼吁:警惕人工智能

作者：潍

斯坦福大学研究的“超级机器狗”，具备强大的负重奔跑能力，能在未来战场或者急救现场担任运输任务。

很多业界领袖和学者都担心人工智能未来会制造灾难，其中包括著名物理学家史蒂芬·霍金、互联网创新者及企业领袖埃隆·马斯科，现在最新加入行列的还有微软创始人比尔·盖茨。

在一个互联网上进行的名人问答环节中，对人工智能未来会否自行思考进化并给人类带来灾难这个问题，盖茨的回答是：“我属于对超级人工智能充满担忧的阵营。如果机器能替代人类做事但没有发展为超级智能，此时只要管理好这些机器，善于利用似乎没有太大危险。但是，在几十年的发展之后，人工智能很可能强大到需要警惕的阶段。”

埃隆·马斯科是私营火箭公司SpaceX的CEO，同时也是电动汽车特斯拉的创始人，他并非人工智能的专家，却也对未来充满忧虑。同样担心的还有数百名科学家、教授和企业精英，这类担忧者的名单正一天天增加。今年3月初，数百名专家在一封公开信上联合签名，呼吁各政府和国际社会对人工智能的研究进行合理监管，确保最前沿的研究不会失控，对人类造成毁灭性危害。

盖茨说：“在这一点上我完全同意马斯科和其他人，而且很不理解为何有人对此会完全不担心。”

这些名人担心的原因是：人工智能发展太快，不再是仅存在于科幻创造中。

在小说和电影里，人工智能通常被描述成变成大坏蛋的好创意，《TheMatrix》三部曲中，机器人视人类是敌对的存在，最终奴役人类并通过“食用”人身体产生电力而维持存在；《终结者》系列电影里，在电脑系统开始出现感情后，它发动了一场耗时几年的战争，制造跟人类类似的机器人去杀死人类。电影《2001：宇宙奥德赛》中的机器人HAL9000已经具有强大的情感和认知能力，是未来超级电脑机器人的模型，它的说话腔调、它的语录被年轻人们拥护、模仿、流传，成为流行文化代表。

在现实中，苹果手机上的语音对话系统“Suri”现在看上去还有点笨，但是人工智能整体正变得越来越聪明，而且研究者们试图让人工智能从我们日常使用的、各种相互连接的电子设备中深挖每一点有用信息和数据。IBM开发的Watson超级电脑已经不再局限于顶级游戏玩家，现在它还能进行医疗研究和诊断。在Google的“阿法狗”开始征战世界围棋顶尖选手之前几天，研究者们宣布一个新的电脑程序足以击败世界上最优秀的得州扑克选手。

是否我们现在就要开始担心？目前情况还不至于让我们忧虑重重，但世界领袖们倾向于设想最糟糕的情况。马斯科认为，发展人工智能是在“召唤魔鬼”，并表示将投资于太空设置，监控人工智能。霍金曾在2014年写道：“关于人工智能的短期影响在于人类能否控制机器，而长期影响则在于机器是否能被控制？”

不管会否毁灭地球甚至是宇宙，人工智能必定要改变我们的生活，而且改变的速度是超级加速度，未来10年的变化很可能超过之前50年，未来20年的变化很可能超过之前500年。我们的工作被替代，生活却变得更方便，我们的隐私难以保障，但医疗健康更有保障，我们生活在人工智能爆炸性质变的时代，不管前途如何，一切都值得期待。