为了防止人工智能颠覆人类，特斯拉CEO豪掷十亿美元启动了这个新项目

编者按：在未来的某一天，机器可以达到像人类一样的知识智能，几乎可以完成人类社会所有的任务。很难想象人类水平的人工智能可以给社会带来多少福利，也很难想象如果使用不当，人工智能会给社会带来怎样的破坏。OpenAI 正是为了防止后者发生成立的一个 非盈利人工智能项目 。本文作者擎天柱，首发于微信公众号“黑匣”（微信号：blackxtech），授权 36 氪转载。

2015年12月12日，特斯拉 CEO Elon Musk 在 Twitter 上宣布正式启动非盈利人工智能项目 OpenAI。

OpenAI 是一个非营利性的人工智能研究公司，目标是 “推动数字智能的发展，同时不被财务回报所限制，从而造福整个人类”。

图片来源：twitter

消息一经公布，立即成为业界关注。很多人认为，OpenAI 令他们兴奋又期待，他们等不及想要看到 OpenAI 给人类世界带来的改变。但也存在一些质疑的声音，一个融资 10 亿美元的非盈利组织和一群谷歌科技大牛可以防止人工智能颠覆人类吗？这期黑匣（微信 ID：blackxtech）要带你来看看这个 OpenAI 究竟是个什么东东。

他们说 “会保持初心”

人工智能一直是一个热议不断的领域。

特斯拉 CEO Elon Musk 图片来源：businessinsider

当前，人们担心人工智能的发展会让自动化的机器完全取代人类的工作，就连 Elon Musk 也直言不讳地提出过这样的担忧。

早期，人们认为解决某些任务（比如国际象棋）会引导我们去研发人类水平的智能算法。然而，成果却不尽人意。

但在过去几年内，却出现了一些转机。在深度学习中，你并不需要手工编程每个新算法，只需要在容纳海量数据的算法中输入数据就可以自行生成新算法架构。

这种技术在模式识别领域取得了喜人的业绩，包括物体图像识别、机器翻译和语音识别等。人们开始看到了计算机对于世界的创造力。

当今的人工智能令人印象深刻，但其功能十分局限。研究人员在不断突破约束，在未来的某一天，机器可以达到像人类一样的知识智能，几乎可以完成人类社会所有的任务。很难想象人类水平的人工智能可以给社会带来多少福利，也很难想象如果使用不当，人工智能会给社会带来怎样的破坏。

虽然成立 OpenAI 的风险是未知的，但他们有一个崇高的目标：相信人工智能可以安全地推动人类个体意志、自由精神的发展。

但同时他们也提出警告：这个项目的投资风险尚难决断，但他们会保持初心。

关于 OpenAI

图片来源：Yahoo

基于人工智能的发展历史，我们很难预测人类水平的人工智能会在何时出现。当它真正出现时，必须有一个机构来领导其向正确的方向发展。

OpenAI 被期待发展成这样的一个机构。

作为一个非盈利组织，OpenAI 的目标是为每个人创造价值。他们强烈建议研究人员公开他们的研究成果，包括论文、博文、代码和专利，与世界共享。OpenAI 将通过和科研人员和企业的合作,不断研发新技术。

OpenAI 的研究总监是来自谷歌的世界著名机器学习专家 Ilya Sutskever，首席技术官是支付公司 Stripe 前首席技术官 Greg Brockman。

团队的其他成员都是世界级的工程师和科学家，包括：著名创业孵化器 YCombinator 的联合创始人 Trevor Blackwell，曾就职于 TrueVault 的 Vicki Cheung，斯坦福大学研究生 Andrej Karpathy，谷歌机器学习研究员 Durk Kingma、加州大学伯克利分校计算机科学博士 John Schulman，Facebook 人工智能研究员 Pamela Vagata，纽约大学深度学习博士生 Wojciech Zaremba。

OpenAI 的顾问团队包括：美国加州大学伯克利分校计算机系 Pieter Abbeel 教授，加拿大蒙特利尔大学机器学习 Yoshua Bengio 教授、天才计算机大师 Alan Kay、谷歌科学家 Sergey Levine 和 SAP 全球首席技术官 Vishal Sikka。

Sam Altman 和 Elon Musk 共同担任 OpenAI 的联合主席，Sam Altman 是著名创业孵化器 YCombinator 的 CEO，Airbnb 就是从 YC 走出来的企业。

OpenAI 获得来自特斯拉 CEO Elon Musk、LinkedIn 联合创始人雷德•霍夫曼、YCombinator 联合创始人杰西卡•利文斯顿、PayPal 联合创始人彼得•泰尔、亚马逊 AWS、印度 Infosys 公司和 YC 研究院的资金支持。

这个组织并不以盈利为目的，因此可以专注于人工智能的积极方面。在最初的几年，10 亿美元资助大概只会花费一小部分。

与谷歌、Facebook 争夺人才？

图片来源：Yahoo

Navia Systems 的创始人 Beau Cronin 一直关注着人工智能领域，他最近在接受媒体采访中表示，在 OpenAI 建立初期，它并不能立即见效地解决一些不可避免的问题。

还有些人认为，试图限制人工智能的发展，强迫其往人类友好的方面去发展是不现实的，迟早会有人会因为某些原因打破这个约束的。OpenAI 会加速我们进入后人类时代。

David J Klein 是一名人工智能的研究者和实践者，他更关心的是这个组织是否能带来相应的成果，并且谁能从中受益。

Klein 表示，前微软创始人 Paul Allen 曾在 90年 代投资 1 亿美元到先进技术智囊团中，后来该项目却无疾而终，Paul 表示该项目是 “研究过多但力度不够”。

OpenAI 非盈利组织的身份并没有太多意味。他们已经有了 10 亿美元的投资，近几年并不需要更多的筹款。非盈利组织也可以给他们的成果申请专利，然后决定这些成果的使用者和使用成本。

另一方面，Klein 认为，人工智能智囊机构独立于谷歌和 Facebook 这样的公司而存在是值得称赞的。这样的机构类似于 Allen 人工智能研究所，但更纯粹专注于机器学习，特别是深度学习方面。团队的成员组成非常坚实。这样一个机构致力于为人工智能做增量研究，完全可以收获许多成果。

目前 OpenAI 已经公开招聘工程师和研究人员。在 Klein 眼里，OpenAI 这样公开和谷歌、Facebook 等科技巨头争夺人才十分有趣。OpenAI 可能会因为他们的开放性和非赢利性而取胜。科技巨头们之间可能又会陷入一场人才战争中，比比谁的人才更高质量，谁的机构更加开放。

“仁慈的人工智能”

电影《终结者》 图片来源：dailyheckle

就这样，OpenAI 成立起来了，它试图建立平衡人工智能发展的天网，防止人工智能意外发生。OpenAI 当下的任务还比较模糊。

他们将会注重于怎样的 “利益”？他们会怎样定义和衡量 “利益”？他们只是致力于研发 “仁慈的人工智能”，还是试图解决当前人类面临的最主要问题？

如果能最终消除人工智能对人类的威胁，那就最好了，这是人类真正需要的东西。毕竟，没有人想看到《终结者》的故事在现实中上演：

人类研制的全球高级计算机控制系统 “天网” 全面失控，机器人有了自己的意志，将人类视为假想敌人，并发射核弹到地球的各个角落，杀死了几十亿人。余下来的人类在约翰•康纳的领导下，用有限的资源和武器与强大精良的机器人周旋作战……

本文来自读者投稿，不代表 36氪 立场，如若转载，请注明出处：http://36kr.com/p/5041123.html

“看完这篇还不够？如果你也在创业，并且希望自己的项目被报道，请 戳这里 告诉我们！”