谷歌DeepMind与OpenAI合作预防机器人报乱

机器人威胁人类的言论从未停止过。随着机器人的技术的不断发展，现在它们的技能越来越多，而且越来越聪明，这使得一些人更加担心机器人会在有一天凌驾于人类之上，驱使人类。现据外媒报道， 谷歌 旗下AI研究团队DeepMind和马斯克创办的 人工智能 企业OpenAI宣布合作，研究预防机器人报乱的方法。

DeepMind和OpenAI在最新发表的文章中指出，他们研发了一种新的机器学习方式，这种方式需要机器从人那里得到反馈，而不是依靠及其自己学习解决问题，后者可能会带来让人意外且不可控的结果。

文章称，AI主要的问题是它们可以发现通过作弊能够获得最大的奖励。这个问题与奖励机制有关，这也是谷歌和OpenAI正在尝试解决的方向。文章指出，他们让人参与到奖励机制的制定中来，而不是让机器自己设定，这样以来就能让AI在人指定的范围内完成人发出的请求。不过弊端是这需要人类大量的反馈才行。