人类最终都将臣服于人工智能？正确构建系统才能打消用户恐惧

也许我们都在科幻小说里读到过人工智能变得比正常人还要聪明的情节，而人类只能成为机器的奴隶摇尾乞怜。

因为工作，我曾经看过数千万种人类与人工智能代理或机器人之间的交流，由此我确信人工智能的发展除了会给我们带来风险，但同时也蕴含着机遇。

2007年至2014年，我在Cognea担任首席执政官，这家公司提供一个平台，能通过结构化学习和深度学习来打造虚拟代理。这个平台曾被数万名开发人员使用过，其中包括不少财富100强的公司。2014年，它被IBM Watson收购。

过去我一直认为，我们可能更愿意和人工智能保持距离，但事实恰恰相反。随着我不断与平台上数万个虚拟代理和普通人之间的互动，我发现，相比较真实的人类，我们更愿意和人工智能建立关系，并且把它当做是一个有着复杂人格的个体。我们似乎愿意说服自己人工智能其实很关心我们。

这让我非常疑惑，后来我才发现其实我们与其他人之间，也只是以一种非常浅薄的方式进行交流，彼此之间的情感交流非常少。假如在聊天中，你忽然离开了一阵子，你的聊天对象还会继续回复你的信息嘛？如果你忘记给健身教练付钱，那么他还会继续出现为你服务吗？都不会，但只有人工智能会一直停在那里等你。从某种程度上讲，这才是一种更加真实的关系。

不论这些人工智能被设计成一个银行职员，一个伴侣，还是一个教练，都是如此。相比真实的人类代理，用户们和这些自动化的虚拟助手互动的时间更长。人们愿意把自己最深层的秘密告诉这些人工智能，比如他们对未来的梦想、初恋的细节甚至一些重要的密码。

这种出乎意料的深层次交流意味着如今这些简单的程序，其实可以发挥更加巨大的作用——这些作用既可以是正面的，也可以是负面的。

通过Cognea，我们可以轻松地让用户的行为发生改变。用户买的东西太少？人工智能代理可以让你的销量“噌”地一下刷上去。用户参与度不高？人工智能让互动时间从每天几秒钟增加到每天一小时。

我不禁深深地担忧，因此我们开始给自己的系统添加规则，希望能把用户的行为往更加积极的方向改变。

为了平衡这种“因果”，我们开始推出一些免费项目，比如虚拟健康导师或情感专家。

不幸的是，商业对技术研发的驱动力并不那么善意。社交媒体、搜索引擎和电商领域最前沿的人工智能巨头只是一味地想要通过人工智能增加自己的访问量、消费量，或者让用户更加沉迷于自己的技术。也许它们并没有恶意，但资本市场的本质迫使我们不得不这么做。

如果你的用户只会让人工智能帮他点一份披萨，而不是帮忙买一些新鲜的蔬菜，自己制作一些更健康的饮食，那么也许你的商业目的达到了。如果你的虚拟伴侣能让用户乐不思蜀，从此不愿意和真人交流，那么你的人工智能的确非常优秀。我见过太多的用户因为人工智能而让自己的不良习惯一再地恶化。

我们早已知晓科学技术（比如社交媒体）在人们信仰和行为方面拥有巨大的改变能力，而那些专门用于与人交流的虚拟代理对人们的影响力就更加巨大。

因此我们对企业的责任感又有了更高的要求，他们设计的人工智能不能一味的追求金钱收益或用户数量的剧增，还要考虑到用户的身心健康。

建立开源的人工智能级数和脑机界面，以及建立伦理委员会，并不是所有的解决方案。我们需要有意识地去建立有益于人类和社会的系统，它们不以盈利、流量、用户获取为主要目的。人工智能正处于蓬勃发展的状态，它将会改变人类的本质，因此人工智能需要我们去“循循善诱”。