霍金称人工智能可能在100年之内取代人类
人类在下个世纪可能面临人工智能机器人的大规模崛起,这些机器人的智力甚至可能超过人类。距史蒂芬·霍金教授称,与其担心谁来控制人工智能的问题,人类更应该担心的是,人工智能到底愿不愿意受人类控制。
北京时间5月14日消息,据国外媒体报道,人类在下个世纪可能面临人工智能机器人的大规模崛起,这些机器人的智力甚至可能超过人类。
据史蒂芬·霍金教授称,与其担心谁来控制人工智能的问题,人类更应该担心的是,人工智能到底愿不愿意受人类控制。
他在伦敦举办的2015时代精神会议上提出了上述观点。在此之前,他曾向人们发出警告:人工智能可能会导致人类的灭绝。
“人工智能计算机可能在接下来的100年之内就将人类取而代之。”他说道, “如果这样的事情成为了现实,我们必须确保计算机和我们站在同一战线上。”
“我们的未来是一场不断增长的科技力量与人类使用科技的智慧之间的竞争。”
今年早些时候,霍金和埃隆·马斯克(Elon Musk,特斯拉CEO)共同签署了一封公开信,信中表示,人类不应任由人工智能发展,而不加以控制。如果不对智能机器严加看管,人类的前景可能会相当晦暗。信中提醒科学家,务必提前阻止这种悲剧的发生,否则人类将因此灭绝。
公开信作者表示,当今社会已经达成了“广泛共识”,即人工智能研究发展势头良好,并对人类社会产生越来越重要的影响。
“由于现有文明的各方面都是人类智力的产物,人工智能潜在的好处是巨大的。我们无法预测,人类智力何时会被人工智能进一步放大,但可以想象,疾病和贫困的彻底根除已经不再是天方夜谭了。”
尽管这样的前景很诱人,但人类在研究人工智能带来的好处时,必须努力避免其可能引致的风险。
例如,从短期来说,人工智能可能导致数百万人失业。而从长期来说,一旦人工智能的智力超过了人类,它们就可能产生反抗,不按程序设定行事。
“我们的人工智能系统必须严格按照我们的想法行动。”公开信中写道。
而史蒂芬·霍金今年年初也表示,人工智能的诞生“可能是人类历史上最重大的事件,但不幸的是,也可能是最后一件”。
去年十一月,特斯拉创始人埃隆·马斯克提出警告,人工智能机器可能在短短五年之内就会引发“一些非常危险的事件“。
他此前曾将能独立思考的自动化机器比作“召唤魔鬼”。去年十月,在于麻省理工学院发表的讲话中,马斯克将人工智能描述为“我们潜在的最大威胁”。
他表示:“我认为我们应当谨慎对待人工智能。如果让我猜测人类的最大威胁是什么,我认为可能就是人工智能。所以我们必须小心处理。”
“我们应当建立一些监管机制,可以是国家级的,也可以是世界级的,来保证人类不会干出什么傻事。”
“使用人工智能,就像是在召唤魔鬼。你们听过那些自以为是、自认为可以控制魔鬼的童话故事吧?千万别玩过头了。”