比尔·盖茨：人工智能或将失控

比尔·盖茨被认为是一个全能型的人才。除创建微软之外，在拯救世界方面他更是用自己的实际行动来为世界做实事。从这点看起来，当他告诉我们：「和聪明而勤奋的史蒂芬·霍金、以及特斯拉创始人，拥有「钢铁侠」之称的埃隆·马斯克一样，自己也担心人工智能将对人类造成威胁」这句话时，人工智能这一话题应该值得我们重新考虑了。

上周三，Reddit 网站的 AMA（Ask Me Anything）对话中，盖茨呼应了在过去一年中由霍金和马斯克等人提出的对人工智能的担忧观点。如果超级人工智能的潜力没有被正视的话，那么那些类似在《终结者》和《黑客帝国》科幻情节中的出现的东西将有可能会成为现实。

「我和那些担心超级智能的人处于同一阵营。首先，机器会为我们做许多工作，更不用说超级智能了。从这方面来说，如果我们能管理的好，人工智能对我们来说是非常有利的。」盖茨写道。「不过，几十年之后人工智能会强大到令人畏惧的地步。这一点，我赞同马斯克等人的看法。同时，我不理解为什么有些人对于这些却毫不在乎。」

在本月初，马斯克投入 1,000 万美金资助一项让人工智能保持友好的研究。考虑到人工智能很有可能不仅在微软，而且有可能在马斯克旗下的太空探索技术公司SpaceX和特斯拉的未来发展中扮演重要角色，所以盖茨和马斯克都有兴趣投入确保人工智能不仅保持友好而且可行的研究中（例如公众意见和国会议员不反对智能网络和设备的基本概念）。

除去个人利益，就对于超级人工智能构成的威胁的观点而言，马斯克和盖茨有可能是正确的。但是，当最有可能从这一项新的技术中受益的人都觉得有必要对它加以束缚时，那么，有些东西该值得我们担心了。

为了真正理解马斯克和盖茨所说的那种潜在威胁，我强烈推荐阅读尼克·博斯特罗姆的新书《超级智能》（Superintelligence）。该书列出了全部的超级人工智能景观，包括超级人工智能所构成的威胁。马斯克曾提到过这本书并推荐过它，而且似乎近来许多关于人工智能的担忧都是以这本书为主要基础的。

文章来源： Forbes ，本文由 TECH2IPO/创见 张静 编译

天使汇闪投 Speed Dating，产品级线下融资路演，致力于让优秀的项目遇到智慧的投资人。从 10 月 31 日到现在，每期 8 个优质项目，50 个投资人，平均每个项目路演结束拿到 8 位投资人意向，40% 的项目一周内完成融资，创业项目 请点击这里 报名参加本期闪投。