前美国首席技术官：机器人“起义”完全有可能 要这样做才能阻止

腾讯科技讯 据外媒报道，前奥巴马政府首席技术官梅根·史密斯（Megan Smith）日前表示，机器人起义消灭人类完全有可能发生，但只要我们能够扩大参与，慎重考虑我们希望AI提供的价值，人类就能阻止“机器人天启”的发生。

今年7月，著名科技大佬埃隆·马斯克（Elon Musk）曾表示，人工智能对人类文明造成了“事关存亡的威胁”。这一言论在他和 Facebook CEO马克·扎克伯格（Mark Zuckburg）之间引发了口水大战，一时间公说公有理婆说婆有理。

但史密斯认为，马斯克的观点可能是正确的。不过她也提出了自己的计划，以确保机器人起义不会发生。

“我的希望是，如果我们能够扩大参与、慎重思考我们希望AI提供的价值，或许就能避免马斯克和其他许多人所说的那种情况，”她在周二举行的《财富》最具权势女性峰会小组会议上说道。

史密斯在2014年被奥巴马任命为美国政府首席技术官，直到今年1月卸任。此后，她成为了shift7公司CEO。该公司专注于提升美国各界在技术和科技教育方面的参与，不管是小学还是煤电厂。shift7的使命是，利用技术的附加力量处理社会和经济问题，例如贩毒和暴力等等。而人工智能就是解决方案的一部分。

不过史密斯认为，现在业界开发的人工智能都过于雷同。据其称，虽然全球有多达70亿人口，但七个国家的约10000人编写了所有的人工智能。这些程序员大部分是白人男性。

她还称：“我们训练AI所用的数据集是非常偏颇的。这就是危险所在，尤其是如果我们想让AI学习人类的特点。”

“我们真的要基于自己的所作所为训练AI吗？我们有时会做坏事，让技术武器化。因此我们必须‘净化’自己，必须就伦理问题展开艰难的对话。我们需要就武器化AI展开讨论，并弄清我们能够对其拥有多大的控制力，”她说。（编译/弘艺）