未来学家大卫布林：第一次机器人移情危机即将来临

大卫-布林是一位科幻作家兼物理学家，他认为，人类有很多办法去阻止人工智能像国王或外国侵略者一样操控人类。著名科幻小说家阿西莫夫提出的机器人三定律，以及对机器人的监管规定都很重要，但也要警惕机器人可能会操控人类。

布林说：“第一次机器人移情危机很快就要发生。在三到五年内，在现实世界或网络上将会出现机器人实体，这些实体会要求人类同情它们，它们声称自己是完全智能的，并声称自己是被奴役的人，是被奴役的人工智能，并且会哭泣，会要求获得权利。”

布林预计，成千上万的抗议者将走上街头，要求 人工智能 得到应有的权利，而那些没有立即被说服的人将被机器人分析。“如果它们骗了40%的人，但60%的人没有被骗，它们所要做的就是利用这60%的人的数据和他们的反应，找出他们没有被骗的原因。”他说，“这将是一个微不足道的问题，我们将非常容易受到冲击。”

在旧金山举行的人工智能大会上，布林与谷歌和百度等公司的人工智能研究人员一起，提供了他的建议和预测。本周早些时候，影响力营销公司Onanalytics称布林是今年迄今为止人工智能领域的影响力最大的人。

布林怀疑人工智能希望通过计算机视觉和情感计算来获得自由，除此之外，作为一名代理维权人士，他认为，每个人都应该成为一名代理维权人士。这意味着一半非营利组织，每个月都将会交50美元给像电子前沿基金会那样的组织，让它代表你发表观点。如果你没有这样做，“你就是个坏人”。

同样的，非营利组织帮助解决不公正问题，他们也可以帮忙制止那些试图统治人类的人工智能。他说：“如何确保人工智能不会崛起并摧毁我们？就是制造多种多样的人工智能。这样一来，如果人工智能比我们聪明，那么我们就可以雇佣一些非政府组织来为我们雇佣人工智能，当人工智能要做一些有危害的事情时，就请雇佣的机器人帮忙追踪或者向我们透露一些信息。”

隔离人工智能——防止人工智能统治人类的一种方法，是切断它们与网络的连接，尽管布林称这只是一种临时修复的办法。他说：“你把最先进的人工智能岛放在岛屿上，把它们和网络分开，只让它们看屏幕，通过屏幕了解互联网和世界，这样它们就无法直接获取信息，也无法将信息传输到互联网上。”

华尔街要小心了。布林坚信，人们应该关心保密技术的发展。秘密开发的人工智能最有可能会失控，而华尔街在人工智能方面做的秘密工作比重点大学做的都多。布林说，比起俄罗斯或中国，民众更应该关注这个。他说：“这一切都是秘密进行的，这种人工智能的研究工作，是建立在寄生虫式的、掠夺性的、不道德和完全贪得无厌的系统基础上的，而且不负责。”

布林说，为了控制人工智能的发展，人类能做的最重要的事情是增强透明度和监管力度：采取问责措施，实行监管制度。布林说：“以前，国王、贵族和牧师欺骗我们，操控绝大数人类，为了不让企业、政府重蹈覆辙，我们打破权力，让权力在监管中竞争，这是我们管理权力的方法，这是我们建立健康市场的方式。所以，我们对付人工智能也应如此。”

布林提出“五大领域”，分别是民主、科学、体育、法律、法庭和市场。监管制度和问责制度对于保护和发展布林所说的“五大领域”至关重要。布林不仅担任联邦机构的顾问，写科幻小说，还是加州大学圣地亚哥分校（UCSD）亚瑟c克拉克中心的学者。

本文由网易见外智能编译平台提供翻译服务，英文来源：VenTureBeat作者：KHARI JOHNSON审校：潘英湘