人工智能"创造"语言并不可怕 这三点才是真正要担心的!
关键是:Facebook创建了两个人工智能聊天程序,可以相互交谈(并互相学习),最终他们停止了用英语交流,并开始用一种非英语的语言进行交流,这些语言是它们自己“发明的”。
新闻头版纷纷报道了这一事件,从夺人眼球的噱头到抽丝剥茧的分析,如每日电讯报的“聊天机器人发明新语言进行沟通 Facebook被迫选择关闭”,让人听起来像是这些聊天机器人正在密谋反抗人类,或是对人类构成威胁。随便看看这些新闻底下的评论,你就会发现大家的反应有恐惧、兴奋甚至高兴,有人说道“这一天终于来了”或引用其他艾萨克·阿西莫夫小说中的语句。
此外,公司也没有试图隐瞒实验细节。所有的一切都是公开的,所有的细节都可以在GitHub上查到,允许其他程序员复制这个场景。
底线是:在人工智能方面,新的人工智能语言不该是我们担心的问题。
例如,当前的“收割者”无人机价格约为1300万美元,而一架战斗机的价格为1亿美元。在未来,它们将变得更加廉价,而且不受监管(也意味着极其强大)的移动武器也将更加便宜,任何人都可以通过编程来杀死和摧毁对方(除非我们主动采取安全措施)。
这就是为什么硅谷的一些影响者和人工智能研究人员聚集在一起,成立OpenAI,这是一项让全世界都能使用人工智能的倡议,而不仅仅是一群特别的人。这一举措并不“便宜”,据报道,该项目一位顶尖的人工智能研究人员的报价是其市场价值的两到三倍。
通用人工智能(AGI)具有指数级的成长能力,因为它将会自我提升,并且在某一时刻会超过其创造者的智力。农业时代延续了几千年,工业时代延续了数百年,信息时代持续了几十年,如今人工智能时代仅开始数年;技术的增长持续加速而不是直线发展,而现在,任何进一步的加速都会让我们毫无准备地应对后果(如果我们采取被动的态度,而不是积极的姿态)。
我们还没能创造出超级智能,但我们已经掌握了处理能力——中国的天河2号每秒能计算34千万亿次计算(cps),远超人类大脑(10千万亿秒)。
如果我们想要负责任地运用这种计算能力,我们需要有一个基础来应对它无限制的发展。这意味着要理解人工智能发展的伦理道德,如何限制它的使用,以及在出现问题时采用适当的防护措施。
关于人工智能如何被使用以及未来如何发展,目前存在一些严重的担忧。然而,过度地将被测试的系统个人化,或者被标题误导我们的观点是不负责任的。聊天机器人发明一种新语言并不是威胁,它是顺其自然的,还有其他更重要的事值得我们的注意。
选自:venturebeat 审校:姜启航