几乎没有人认为阿西莫夫的‘机器人三定律’可以真正为AI工作

2019年10月03日 08时29分

匿名网友写道：

多产的科幻小说作家阿西莫夫（Isaac Asimov）制定了《机器人三定律》，以期防范潜在的危险人工智能。它们首先出现在他1942年的短篇小说《逃生》中： 第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。 第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。 第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

1985年，在《机器人与帝国》一书中，阿西莫夫将三大法则扩张为四大法则（也称第零法则）：机器人不得伤害人类整体，或坐视人类整体受到伤害。

中国武汉大学的哲学家Chris Stokes说：“许多计算机工程师使用这三个定律作为思考编程的工具。” 但是麻烦是，它们不起作用。他在开放式论文中解释说：
《第一定律》之所以失败，是因为语言模棱两可，而且由于复杂的道德问题太复杂，而无法简单地回答是或否。 
第二部法律之所以失败，是因为一部法律要求有情众生作为奴隶，这是不道德的。 
第三条法律之所以失败，是因为它导致了一个永久性的社会分层，大量潜在的剥削被构建在这个法律体系中。“第零定律”和第一个定律一样，因为意识形态模糊而失效。所有的法律都失败了，因为它很容易规避法律的精神，但仍然受到法律条文的约束。