简要地说,我们可以将现在使用的机器人分为两个层面:民用机器人的层面和国用机器人的层面。而目前人们考虑的人机关系的伦理调节大概有三个方向:一是对机器的价值规定和引导,如希望设计和培养智能机器遵循对“对人类友好”的指令,教会机器明辨以人为最高价值的道德是非;二是对其行为、手段的规范限制,如阿西莫夫规则中的“不得伤害人”;三是对机器能力的限制,尤其是防止通用的超级智能的发展。

　　笔者认为第一个方向是不必要,也是不太可能的,甚至后面隐藏着很大的风险,且和后两个方向有冲突。而后两个才是我们应该努力的主要方向,但应用在民用机器人和国用机器人的不同层面上会有差别,具体陈述如下:

　　一些学者认为可以给机器人预先设定让它们“对人类友好”的动机和价值观,或者说“为了人类最大的利益而工作”。但要设定这样的价值目标,就必须让它们发展自己的通用和综合能力,甚至获得一种自我意识。但这看来是不可能的。

　　人类最好把价值判断留给自己,这也是保持一种人类对机器人的独立性乃至支配性。我们最好让机器人始终保持它们“物”的基本属性,而不是给它们建立一套以人为中心的价值体系。它们如果真的掌握了价值判断和建构的能力,恐怕它们很快就要建立自己的价值体系,那是人类不易知晓其内容的“价值体系”或者说它们自有的“目标体系”。

　　所以,笔者考虑是不是至少首先在民用机器人的层面上,可以有一种思路,即不是做加法,而是做减法,而且缩减到极简,就是一条:机器人不得伤害任何人。甚至我们可以更明确一点,不得伤害也就是不得对人使用暴力,这暴力包括不得使用强制的手段限制人的自由,比如强行禁锢人、不让人离开或者像《机械姬》那样锁闭人。

　　我们可以考虑让这“非暴力”成为一个不可撼动的原则,成为所有机器人的最初始的、不可修改的禁止密码,任何次级的应用和制造机器人都修改不了这一密码。如此,人们的确也就可能从机器那里失去许多便利和期望,比如说不能制造和使用能够保护自己的“机器保镖”,因为问题是:如果好人能够使用这些机器的暴力,恶人不是可以更放肆地使用?

　　当然,机器人还是可以成为救助人的强大工具。当人受到伤害时,机器人还是可以有所作为,只是救人也不得使用暴力。它可以帮助人逃走,可以成为一个极其灵敏和迅速的监测和报警系统,让罪犯不可能隐瞒和逃逸,让犯罪的人必须付出代价和受到惩罚。这样它就还是在帮我们。我们还是有一个强大的安全助手。

　　当然,这只是一个思路,甚至可能是一个天真的思路。因为人性中有根深蒂固的各种各样的动机,如资本牟利的动机、科学家出于知识的好奇动机,都可能使对机器人能力和手段的限制归于无效。

　　但愈是如此,规范也就愈加不能复杂化。规范必须简单和明确,而且最好是禁令,以减少甚至免除机器人判断的负担,这也是限制它们的能力。禁令比正面的指令的可行性要大得多。价值动机难于控制和植入培养,但行为却好控制得多。

　　所以,我们可能不宜放弃并优先考虑这一思路,或者说,至少可以考虑先在所有民用机器人的层次上实行“禁止任何机器暴力”的原则。我们也许还应该有意让人工智能变得“笨”一些,即有意地让它们的功能比较专门化、小型化,限制它们的自主意识和综合能力,防止它们向超级通用智能的发展。

　　(作者为北京大学哲学系教授)