图灵奖获得者Yoshua Bengio：抵制杀手机器人，AI不该成为军备竞赛

Yoshua Bengio是人工智能的造物者之一，但是他担心，如果“杀手机器人”落入坏人之手，这一创新可能会导致黑暗的未来。

现年55岁的Yoshua Bengio是加拿大计算机科学家，也是今年图灵奖（计算机界的诺贝尔奖）的获得者。他表示，自己更喜欢通过《星际迷航》的理想主义而不是《终结者》的世界末日观来看待世界。

“在《星际迷航》世界中，人类通过民主进行治理，每个人都能得到优质的医疗保健、教育和食物，除了需要对抗一些外星人之外，没有战争，”Bengio说道，他的研究为语音和面部识别技术、计算机视觉和自动驾驶汽车等铺平了道路。“我也总是尝试着发挥出科学好的一面，从而实现改善社会。”

最近，Bengio博士坐在蒙特利尔学习算法研究所狭小拥挤的办公室里，阐述了人工智能的承诺和危险。他所创办的这家研究所使得蒙特利尔成为了全球人工智能中心。座位旁边放着一块白板，上面覆盖着复杂的数学方程，还有用法语写给清洁工的一条提醒：“不要擦除。”

擦除这些等式对人类和机器来说都将是一个沉重的代价。

作为蒙特利尔大学计算机科学教授，Bengio博士一直都很低调。但他在深度学习领域的研究工作——他说，“以大脑计算方式启发机器学习”——已经以无数方式影响了我们的日常生活，比如利用谷歌翻译将一个句子从法语转换成汉语，或用软件检测医学图像中的癌细胞。用他的话来描述深度学习，就是“以大脑计算的方式启发机器学习”。

他和他的研究人员还利用人工智能发现可以治愈疾病的分子，检测教科书中的性别偏见，并预测何时会发生自然灾害。

负责颁奖的计算机协会主席Cherri M. Pancake认为Bengio博士和另外两位杰出人士Geoffrey Hinton、Yann LeCun（三人共享了这个奖项），为数十亿人使用的技术奠定了基础。“所有拥有智能手机的人都感受到了他们的影响，”她说，并指出他们的工作也为医学、天文学和材料科学领域提供了“强大的新工具”。

尽管受到了所有的赞誉，Bengio博士还是对科学家变为名人感到畏缩。Hinton博士为谷歌工作，LeCun博士是Facebook的首席人工智能科学家，而Bengio博士则刻意避开了硅谷，转而在蒙特利尔过着更为学术的生活。此外，他还在蒙特利尔共同创办了软件公司Element A.I.。

“我不喜欢科学个性化，也不喜欢让一些科学家成为明星，”自称内向的Bengio博士说道。"我可能只是幸运，在正确的时间思考了正确的事情。”

与Bengio博士共事十多年的计算机科学家Myriam Côté形容他是一个打破传统、自由思考的人，会觉得受到硅谷的限制。她说，他本质上是一个社群主义者，他回避等级制度，并总是喜欢与年轻、地位较低的同事分享自己项目的利润。

“他想在自由的氛围中创造，”她说，并援引1968年巴黎学生反叛者的信条，称他的哲学是：“严禁禁止。”

这反过来也为他的人工智能方法提供了信息。

虽然著名的剑桥物理学家斯蒂芬·霍金警告，亿万富翁企业家埃隆·马斯克也警告说，但Bengio博士仍然保持着乐观。

“我们需要追求科学知识，否则我们只会四处碰壁，”他说。“但我们需要明智地做这件事。”在谈到用代数来计算导弹角度时，他补充说：“你不能把战争归咎于代数的发明者。”

尽管如此，但当Facebook算法因其在2016年美国大选中的影响而受到批评时，当越来越多的人担心机器人可以在没有人类监督的情况下利用人工智能瞄准人类时，Bengio博士敏锐地意识到他的创新成果有成为“弗兰肯斯坦怪物”的风险。因此，他表示自己支持监管人工智能，包括禁止“杀手机器人”或“致命性自动化武器”的国际条约。

但是他也否定了“终结者场景”，在这部系列电影中，一台被赋予人类情感的机器开启了它的创造者。他强调说，机器没有自我和人类情感，也不是想要自由的奴隶。“之所以会想象我们的创造物与人类作对，是因为我们把自身的心理投射到了机器上，这是很荒谬的，”他说。

Bengio博士是一名来自摩洛哥卡萨布兰卡的西班牙裔犹太人的儿子，他于20世纪60年代移民到巴黎。Bengio将自己对人工智能的兴趣追溯到童年时代，当时他如饥似渴地阅读了艾萨克·阿西莫夫、雷·布拉德伯里和亚瑟·克拉克的科幻小说。

他说，Stanley Kubrick《2001：太空漫游》中人类和机器的关系激发了他的想象。“一个每天花时间教一台机器了解世界的老师让我产生了共鸣，”他说。“科幻小说是梦想未来的一种方式。”

他回忆道，11岁时，他开始通过将数字插入计算器来进行编程。当被要求回忆起童年最具形成性的记忆时，他突然停下来，做出了一个不太可能的坦白。

“我记忆力不好，我擅长推理，但不擅长记忆。这就是为什么我被数学和计算机科学吸引，因为你不需要记住任何东西。”

Bengio博士把他的成功归功于自己有社会意识的父母，他指出，他的父亲是一名导演戏剧的药剂师，他的母亲则管理着众多艺术家，这让他和自己的兄弟有了独立思考的自由。

这样的教育方法似乎奏效了。他的弟弟Samy只比他小一岁，目前正在人工智能研究团队Google Brain管理着一个研究小组。他说，他们两个人“就像是双胞胎”，总是会在研究上合作，并交换想法。

他12岁时，全家搬到了蒙特利尔——祖父母居住的地方。他回忆说，20世纪80年代末，在麦吉尔大学攻读计算机科学硕士和博士学位时，他被Hinton博士的工作所吸引，当时Hinton正致力于开发基于神经网络的“智能计算机”（神经网络是一种可以通过分析大量数据来独立学习任务的数学算法）。

“这不仅仅是数学或计算机科学，而是关于理解人类智能来制造智能机器，”他说。随后，他又在麻省理工学院和贝尔实验室从事着博士后工作。

Bengio博士指出，他、Hinton博士和LeCun博士几十年来一直在研究神经网络，尽管计算机科学领域的许多人嘲讽他们涉足了某种形式的黑暗魔法，并认为实际应用会很少。对Bengio博士来说，挑战传统智慧是很自然的一件事。

“建造智能机器的伟大梦想在90年代末破灭了，人们想，‘哦，这太难了——让我们用算法来解决具体问题吧，’”他回忆道。“我想，我对人们在每个时间段里关心的事情并不敏感，我相信自己在做什么。”

尽管他们开创性的工作改变了这个领域，并把他变成了人工智能超级巨星，但Bengio博士仍然乐于和学生们在一起。他目前已经离婚，有两个已成年的孩子，其中一个已经进入了人工智能领域。他在难得的空闲时间里会阅读斯宾诺莎，偶尔也会在家附近的树林里散步。

Bengio博士对科学奖项或财富不感兴趣，并强调自满和过度自信是科学进步的敌人。

“光有自信是不够的，”他说。“你可以自信，也可以犯错。