皇上,还记得我吗?我就是1999年那个Linux伊甸园啊-----24小时滚动更新开源资讯,全年无休!

几乎没有人认为阿西莫夫的‘机器人三定律’可以真正为AI工作

人工智能

多产的科幻小说作家阿西莫夫(Isaac Asimov)制定了《机器人三定律》,以期防范潜在的危险人工智能。它们首先出现在他1942年的短篇小说《逃生》中: 第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。 第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。 第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

1985年,在《机器人与帝国》一书中,阿西莫夫将三大法则扩张为四大法则(也称第零法则):机器人不得伤害人类整体,或坐视人类整体受到伤害。

中国武汉大学的哲学家Chris Stokes说:“许多计算机工程师使用这三个定律作为思考编程的工具。” 但是麻烦是,它们不起作用。他在开放式论文中解释说:
《第一定律》之所以失败,是因为语言模棱两可,而且由于复杂的道德问题太复杂,而无法简单地回答是或否。 
第二部法律之所以失败,是因为一部法律要求有情众生作为奴隶,这是不道德的。 
第三条法律之所以失败,是因为它导致了一个永久性的社会分层,大量潜在的剥削被构建在这个法律体系中。“第零定律”和第一个定律一样,因为意识形态模糊而失效。所有的法律都失败了,因为它很容易规避法律的精神,但仍然受到法律条文的约束。

转自 https://www.solidot.org/story?sid=62143
分享到:更多 ()