李开复说,目前人工智能还只是工具,不接受与我女儿谈恋爱的假设
“我知道你有两个美丽的女儿,假设有一天你女儿领回来一个男朋友,其实他是一个人工智能机器人,但是他所有的一切都跟人类无异,并且各方面表现完美,甚至比人类更好,你会接受吗?”
李开复 :“我会不接受这个假设。”
4月10日,炎热的海南岛,外面的空气滋滋作响,在澄迈县一处荒凉的科技生态园区里,李开复一身中山装正襟危坐,不断有媒体凑上来跟他聊人工智能的种种,为此他忙得连午饭都没顾得上吃,工作人员在两家媒体结束对他的采访后赶紧端上来一盘饺子,让他赶紧吃点儿。
这时候,不知趣的虎嗅凑上去采访他,他吞下一口饺子,快速嚼几下咽下去,然后快速回答抛过来的问题,最终,他也没吃下几个,就开始认认真真接受起了采访。没多久,他又被从虎嗅的采访中拉去接受 凤凰卫视 主持人许戈辉的采访。
而开篇那句话就是许戈辉问的,虽然平时李开复到处跟人说“我不是李开复,我是人工智能”,但面临这个涉及到伦理和人性的话题时,他还是选择了做回人类,并相信爱和浪漫。
“做为一个人类,我认为如果未来真的仅仅是物理的、表象的,没有任何爱和人与人之间的感情,那么这个世界也不是我在乎的,对于这样一个假设的未来,我拒绝接受它,我宁愿让自己存在一些浪漫,认为我们的灵魂、我们的爱,可以让我们人类走向更高尚、更伟大的未来。”李开复说。
叫板AlphaGo
尽管如此,在围棋和德扑的对决中, AI已经让人类无法挽尊了。10日中午, 创新工场 牵头组织的这场德扑比赛,以AI“冷扑大师”累计领先人类选手79万多分而结束。
不知是不是巧合,就在德扑大战的最后一天,也就是10日下午,中国围棋院和谷歌在北京联合宣布将于5月23日-27日在乌镇举办围棋峰会,届时,AlphaGo将与世界排名第一的棋手柯洁进行三番棋对弈,并进行人机配对赛和团队赛。
谈到AlphaGo和前不久在日本拿了个冠军的腾讯围棋AI“绝艺”谁更强的问题时,李开复毫不迟疑地告诉虎嗅“肯定是AlphaGo”,他还表示不排除未来牵头让AlphaGo和“绝艺”对决的可能。
李开复半真半假地说:“知道我们为什么邀请你们来海南吗?就是不想让你们参加AlphaGo的发布会。”
如果不是巧合而是刻意如此,那李开复无疑是博弈论的高手。
博弈论正是德扑AI“冷扑大师”的核心,是在不完美信息的情况下算出最大概率,执行的策略是——在能赢的时候大赢,在必输的情况下少输。
而博弈论中的一个重要术语则是纳什均衡(Nash equilibrium),又称“非合作博弈均衡”,是约翰·纳什在1950年的博士论文里提出的,它是一种策略组合,使得同一时间内每个参与人的策略是对其他参与人策略的最优反应。
CMU大学的Tuomas Sandholm教授在接受采访时表示:“博弈论告诉我们这个游戏的最佳策略是什么,它会给我们策略的定义,从这个定义变成优化的问题,但是,它不一定告诉我们答案是什么。所以我们把博弈论和AI策略结合在一起,通过人工智能算法找到最佳的策略,我们去找到一个最接近纳什均衡的方式。”
博弈论是一种完美战略,在冷扑大师身上,它有几个模块:
第一个模块是虚拟遗憾最小化,在比赛前预先算出纳什均衡在哪里,2016年在匹兹堡超级计算中心算出来了几个不同的纳什均衡。
第二个模块是残局解算器,象棋里面也有一个解残局的算法,在德州扑克里面不太一样,因为它有随机性,虽然不知道对手的牌是什么,但它从每个点往下会说这个算法和那个算法的区别是什么。
第三个模块就是不断强化自我学习的模块,德州扑克是一个试图找到对手的短板给不同的对手定不同策略的游戏,那怎么强化电脑进步呢?CMU的团队想到一个方法,他们每天找出来电脑打得最弱的,让电脑再重新算一遍,如果说一个人类的选手找到了电脑的短板,可以针对这个短板再训练一次,人类的对手告诉它短板在哪里,它很快就可以把短板补上。
复盘这场人机比赛
这场比赛,结果已经不重要了。但值得说明的是,在每天打几千手牌的情况下,人类稳输。但在只有100手、200手牌的情况下,人类还是有赢的希望。
在10日晚上李开复领衔的30多位投资人、创业者和德扑玩家跟冷扑大师的友谊赛中,一位叫赛赛的德扑美女玩家一直在赢,50手牌赢了冷扑大师20000分,她告诉虎嗅,她上来就先把冷扑大师打出火来了,让冷扑大师看上去像是失去了理性,完全不按理出牌。
李开复认为这场比赛给AI的商业化带来的思考更加重要,他目前最看好AI在金融领域的商业化潜力,他说两年前他买股票绝大部分都是靠基金经理帮忙打理,现在,他更多是依赖机器。
在复盘这场比赛的时候, 创新工场 CMO 黄蕙 雯说,这场比赛差点儿没举办成。因为冷扑大师的运算是由匹兹堡超级计算中心远程调度的,因为受制于中国的外汇管制,在临开赛前一天还未能把该支付的费用打过去,中间还经历了各种手续不全和资质证明不合格的问题,在开赛前一天半夜,李开复把自己在美国开户的信用卡账号和密码丢到工作群里,加上另一位朋友的帮忙才让比赛没有闹出乌龙。黄蕙雯说的时候仍然一副惊魂未定的样子,想来惊险。
李开复这么卖力地促成人与机器的比赛,显然不是做慈善,他也毫不讳言自己希望通过这样的赛事让更多的人知道人工智能、知道创 新工场 ,主要目的是:
一是普及AI的应用,AlphaGo靠完美信息战胜人类,冷扑大师靠非完美信息战胜人类,它更像人类每天面临的各种问题,它如果能够战胜人类有特殊意义;
二是借这个机会探讨商业机会,比如金融、外交等领域;
三是国内的技术与美国的水平是有差距的,创新工场会不断地请高手来到中国,快速提升中国人工智能的水平;
最后,人工智能的时代即将来临,创新工场想用每一个机会普及人工智能,包括孩子的教育、社会的发展、人类的未来怎么走,甚至生命的意义。
人工智能的缺陷
尽管AI已经在赛事上表现出超强的战斗力,但AI还欠缺一些人类基本的能力,比如:一是没有常识,二是不能跨领域(目前AI更多的是在单一领域战胜人类),三是没有多轮思考的能力,四是情绪无法标注,机器可以挖掘到人的情绪,让它表现出情绪,但它表现出来的是假的,让它用情绪来发挥也会更难。
前两个缺陷让AI很难有情感,而第三个缺陷则让AI没有情绪的基础,也很难让它表现出真正的情绪。
“让机器有情绪是个未解的问题。或许再过30年、50年、100年会被解决,但是现在还没足够的依据。”李开复说。
李开复认为,机器虽然在围棋和德州扑克等赛事上战胜了人类,但这种因为数据的理性而获得的胜利和人类的真实情感是不一样的,它是把所有的七情六欲的表象做一个统计,基于这个统计做一些动作,但毕竟还是在模仿,这个的模仿跟理性的模仿是不一样的。即使它可以表现出情绪,但是对于情绪背后发生了什么,它却很难理解。
李开复说:“目前人工智能还只是工具,它没有自我意识、没有七情六欲,所以,现在人类对人工智能的恐惧,主要来自人类把自己想象成人工智能。”