“我还没有，但我是要试的，”他竖起一根纤细的手指，对着她摇摇。“您变得沉不住气了，苏珊。我不明白，您干嘛要过分渲染。他们实质上是无害的。”
“他们吗？”苏珊生气了，“它们？难道您不知道它们当中的一个在撒谎？在我刚才讯问的这六十三个机器人当中，有一个就故意对我撒谎，尽管已下了最严格的命令要讲真话。它所表现出来的这种反常现象简直太突出了，也太可怕了。”
皮特咬了咬牙。他说；“根本不是这样。内斯特十号接到‘躲到一边去’的命令。这个命令是由最有权命令它的人发出的，而且是以最紧急的方式发出来的。您既不能通过更高的紧急方式，也不能运用更高一级的指挥权来把这个命令抵销掉。自然，这个机器人将尽力坚持执行他的命令。实际上，客观的讲，我非常赞赏它的机灵。一个机器人藏到一群和自己相似的机器人当中，难道还有比这更好的‘躲到一边去’的方法吗？”
“是啊，您会赞赏这点。我发现，您觉得这很逗乐，皮特。您觉得逗乐，却对事态缺乏了解到了可怕的程度。您是个机器人专家吗，皮特？那些机器人对它们视之为优越性的东西很重视的。您自己刚才也讲到这些。它们下意识地感受到人们比它们低一等，感到保护我们能对付它们的第一定律是有缺陷的。它们是不可靠的。而且我们的这个年轻人用厌恶、傲慢和鄙夷的腔调命令一个机器人离开他，躲到一边去。那个机器人必须服从命令。但是，它会有一种下意识的反感；对它来讲，证明它高人一筹，这比以前更重要了。尽管它遭到了种种可怕的咒骂。这样，第一定律所剩下的那部分就不够用了。这一点变得非常重要。”
“苏珊，在地球上或太阳系的任何地方，机器人怎么会懂得骂人话的含意呢？输入它大脑的东西里边没有污秽的语言呀！”
“原始的输入并不代表一切，”苏珊粗暴地对他说，“机器人有学习的能力。你……你这个笨……”
伯格特明白她是真的难以克制自己了。
苏珊急匆匆地继续说：“难道您不认为，它能分辨的所用的语调和字眼并不是恭维话吗？您不认为，它以前听到有人用过，并且注意刭是什么样的场合用过这种字眼吗？”
“好吧，那么……”伯格特嚷起来，“请您给我指出修改了的机器人能伤害人的一个途径，不管它是怎么样地被冒犯了。也不管它多么想证明白己的优越性。”
“如果我告诉您一种途径，您能不声张出去吗？”
“是的。”
他们隔着桌子互相靠拢，用悻悻的眼光相互盯着．
心理学家说：“如果一个修改了的机器人想要使一个重物坠落到人身上，它也不会违犯第一定律。如果它这样做的时候，它往往认为凭自己的力量和反应速度能在重物质砸到人身上之前把重物抓住并拿开。但是。一旦这个重物离开它的手，它就再不也不是行为的主动者。行为的主动者将是不长眼睛的地心引力。这时候，机器人会改变自己的想法，而仅仅抽手旁观地看着这个重物往下砸。修改后的第一定律允许出现这种情况。”
“这是胡恩乱想。牵强附会。”
“这是我的职业有时要求我做的，皮特。咱们别再争吵了，开始工作吧。您知道导致那个机器人躲到一边的刺激因素的确切性质。您有它的最初智力特性的记录。我希望您船告诉我，在什么样的情况下，我们的机器人就可能做出我刚才讲的那类事情。请注意，不是具体的那种事情，而是整个那一类的行动。并且，我希望您能快点告诉我。”
“而同时……”
“而同时，我们其好搞搞性能检验，直接看它们对第一定律的反应。”
七、看你救不教人
吉拉尔德·布莱克根据自己的要求，正在第二号放射大楼的第三层上监督安装木制小隔间。这是一间拱形大厅，在鼓鼓的一个大圆圈内，小隔间如同雨后春笋，一个接一个飞快地安装起来。工人们基本上默不作声地在于着活儿。但是，不少人明显地感到奇怪，为什么还要安装上六十三个光电管呢？
一个工人在布莱克身旁坐下，摘掉帽子，若有所思地用生满黑斑的前臂擦掉前额的汗水。
布莱克向他点点头：“进展得怎么样，乌里斯基？”
乌里斯基耸耸肩，点着一支雪前烟，说：“非常顺利。到底发生了什么事情，博士？起先，我们三天没活儿干。然后就干一大堆这些小玩意儿。”他一边用胳臂肘支撑着向后靠，一边吐出一团团烟雾。
布莱克的眉毛抽动了一下。他说：“有两个机器人专家从地球上来到这里。你记得咱们和机器人之间的麻烦事吗？它们不能往伽马辐射场里跑。可是，我们反反复复往它们脑袋里灌输这个道理之前，它们老往那里钻。”
“记得。我们没有得到新的机器人吗？”
“我们得到了几个补充的机器人。但我们大部分的工作是给机器人转入新知识。总之，制造它们的人想使它们不至于轻易被伽马射线毁掉。”
“看来可真稀奇。把研制超原子驱动的全部工作停下来，只为了这些机器人的事。依我看，无论什么事情都不应当使驱动的工作停顿。”
“嗯，只有楼上的那些人对这事有发言权。我嘛，我只是照人家说的去干。很可能，这是一桩什么交易………
“是啊，”这个电工撇一下嘴，狡黠地眨眨一只眼睛，“在首都华盛顿一些人是相互认识的。但是，只要我的薪水准时送到，我就得使劲干。至于超原子驱动，可不是我的事。他们在这里打算干么？”
“你问我？他们带来了一大批机器人，六十多个。他们打算测量一下反应。我就知道这么一点。”
“要测量多久？”
“我还想知道呢。”
“好吧，”乌里斯基大说其风凉话，“只要他们把我的钱给我，他们爱怎么玩就怎么玩去吧。”
布莱克感到颇为得意——让这一说法传开吧，它不伤害谁，但又比较接近实际情况，可以稍稍满足人们的好奇心。
八、十次冲刺
有个人一动不动，一声不响地坐在椅子里。一件重物坠落了，很快地向这个人砸下去。在最后一刹那，用同步的方法使一根铁棍突然有力一击，把重物打到一边。在六十三个小隔间里，这些ＭＳ－２型机器人正在观看这种情景。就在重物被改变方向之前的一刹那间，它们都向前冲去。六十三个光电管都向前离开原来的位置有一米多远，引起记录笔上下跳动，在纸带上划出犬牙状曲线。
重物又被抬起，坠落；又抬起，又坠落；再抬起……
总共十次！
这些机器人也向前冲了十次，每次当它们看见人安安全全地地稳坐在椅子里时，才又停住。
自从第一次和机器人公司的代表共进午餐之后，柯尔纳少将再也没有全套地穿过他的军服。现在，他上身只穿一件蓝灰色的村衫，敞着领口，黑色的领带松垮地耷拉在胸前……
他期待地望着伯格特，伯格特的穿着依旧整整齐齐，大概只有双颊上渗出的小汗珠，才显露了他内心的紧张。
将军问：“情况怎么样？你们想看到的是什么东西呢？”
伯格特回答说：“一种差别，恐怕，这种差别对我们要解决的问题来讲，显得太细微而难以捉摸了。这些机器人当中，有六十二个必须冲向那个明显受到威胁的人。这种必要性在机器人学中称为被迫反应。您看，甚至当机器人知道这个人将不会受到伤害；而且在第三、第四次之后，它们应该已经明白这一点，它们还是无法避免不作出这种反应。这是第一定律所要求的。”
“嗯。”
“但是，第六十三个机器人，即修改过的内斯特却没有这种被迫感。如果它愿意的话，它可以呆在自己的位子上。不幸的是，”伯格特的声音里带出了少许憾意，“它并没有这样。”
“为什么您这样认为呢？”
伯格特耸耸肩：“我想，苏珊博士到这里的时候，会告诉我们的。很可能，也只是做些令人害怕的、悲观的解释。有时她有点烦人。”
“她能胜任工作，是吗？”将军突然担心地皱起眉头。
“是的，”看来，怕格特觉得怪有趣的。“她完全能胜任工作。她像机器人的姐姐一样了解它们。我想，这是由于她非常痛恨人们的缘故。她是心理学家也罢，不是也罢，问题就在于她是个非常神经过敏的人，有时容易想入非非。您不要拿她太当真。”
伯格特把一长卷划有虚线的图表在他的面前摊开：“将军，您看。对每个机器人来讲，从重物开始坠落，到机器人冲了一米多所用的时间随着试验一再的重复而呈逐次减少的趋势。有一定的数学比例来支配这类现象，而脱离这种比例，就可能预示着正电子脑有明显的异常。不幸的是，它们全部都显得正常。”
可是，如果我们的第十号内斯特没有作出被迫反应，那么为什么它的曲线和别的机器人的一样呢？这点我不明白。”
“这很简单。机器人学中的反应与人的反应不尽相同。这真是遗憾。人的自觉动作比条件反射的动作要缓慢得多。而机器人则不然。在它们身上，仅仅是一个人们自由选定的问题。否则，自由的动作和被迫的动作速度都是一佯的。我原希望看到第十号内斯特在第一次试验时会吃惊，因而它作出反应的时间会推迟。”
“但是它没有这样。”
“恐怕是没有。”
“那么，我们没有什么进展喽，”将军带着沮丧的表情仰靠在椅子里，“你们到这里已经五天了。”
九、我们也怕死
这时，苏珊走了进来，砰的一声关上门。“皮特，把您的图表拿开。”她叫道，“您是知道的。它们不说明任何问题。”
当柯尔纳欠起身子迎接她时，她不耐烦地嘟哦了几声，然后接着说：“我们必须尽快地再试试别的。我不喜欢现在这种状况。”
伯格特和将军交换了一个顺从的眼神，问道：“出什么差错了吗？”
“您指的是特别的差错吗？那倒没有。不过，我不喜欢让第十号内斯特继续躲避我们。这太糟糕了。这只能满足它那已经膨胀的优越感。恐怕，它的动机不再其是遵从命令了。我想，这不如说是它神经病似的竭力想以机智胜人。这是一种病态的、危险的状况。皮特，我求您的事，您做了吗？您是否巳把我想要的，修改了的机器人ＭＳ－２型的几点不稳定因素给计算出来了？”
“正在进行。”数学家毫无兴趣地说。
她面带愠色地瞪丁他～会儿，然后转向柯尔纳将军；“将军，第十号内斯特已确切知道我们在干什么。它无须在这个试验中上我们的钩。尤其在第一次试验之后，它已看出，没有真正的危险在威胁我们的人。其它的机器人是不得不那样做；而它却是精心地装出了这种反应。”
“那么，您认为我们现在应该做什么呢？苏珊博士。”
“下次不能再让它作出这种虚假的反应。我们将重复这个试验，但要增加一些东西——在我们的人和机器人之间安装上能电死这些内斯特型机器人的高压电线。电线多放一些，使得它们没法从上面跳越过去。而且事先要告诉机器人，碰上电线就会死。”
“别说了！”伯格特突然恶狠狠地对她喊道，“我反对这个办法。我们不能为了找出第十号内斯特，而把价值200万元的机器人电死。总还会有别的办法嘛。”
“您有把握吗？您连一点办法也没找到。无论怎么说，这不是要电死那一个问题。我们可以安上继电器，当重物压上去时，继电器就会切断电源。如果机器人把自己的重量压上去时，继电器就会切断电源。如果机器人把自己的重量压到上面。它就不会死。但是这一点事先不能让它们知道，您明白吗？”
将军的眼睛里闪出了希望的光芒。他问：“那能行吗？”
“应该能行。这种情况下，第十号内斯特将会留在原位，如果命令它去碰电线，它会死的。因为关于必须执行命令的第二定率要优先于关于要保存自己的第三定律。但是，并最有人命令它去那样，它将只按自己的意志办。其它机器人也将是按自己的意志办。对其它机器人来讲，关于人的安全这第一定律将驱使它们去死。尽管没有命令它们。但是，我们这个第十号内斯特则不然。由于第一定律已不完整，再加上没有接到要那样去做的命令。第三定律。即：要保存自己，将成为最首要的起作用的因素。因此，它没有其它的选择，只有留在自己的位置上。这不是被迫的反应。”
“那么，今天晚上能做吗？”
“今天晚上可以，”心理学家说，“如果电线能及时安装上的话。现在我去告诉机器人，让它们知道它们将面临什么样的情况。”
有一个人一动不动、一声不响地坐在椅子里。一件重物坠落了，很决地向这个人砸下去。在最后一刹那间，用同步的方式使一根铁棍突然有力地一击，把重物打到一边。
仅仅一次……
在实验室的观察间里，苏珊博士从小巧轻便的折叠椅上站了起来。一瞬间惊讶得气都憋住了。
六十三个机器人全安安静静地坐在自己的椅子里，严肃地盯着自己面前那个受到威胁的人。谁也没有动。
苏珊生气了。她简直到了怒不可逼的地步。但地看着机器人一个接着一个进入这间房间，又一个接着一个走了出去，而不敢表现出这种怒气。这更使她感到怒火中烧。她校对了一下名单。第二十八个机器人应该进来了——下面还有三十五个在等着她呢。
第二十八踌躇地走了进来。
她强迫自己保持适当的镇静：“那么，你是谁呢？”
机器人用犹豫的低低的声音回答：“我还没有得到我自己的编号，女士。我是一个ＭＳ－２型机器人。在外面排队时，我排第二十八个。我这里有一张纸条要交给你。”
苏珊问：“一小时之前，你在二号楼放射室里吗？”
机器人有些为难。随后，它用沙哑的，就像缺少润滑油的机器发出的声音，吐出了四个字；“是的，女士。”
“那里有一个人几乎要受到伤害，是吧？”
“是的，女士。”
“你什么也没有做，对吧？”
“是的，女士。”
“那个人可能因为你的袖手旁观而被伤害，这你知道吗？”
“知道，女士。我无能为力，女士。”
很难想象，一个庞大的、毫无表情的钢铁的身躯怎么会畏缩起来，可是，它却这样做了。
“我要你明确地告诉我，为什么你不设法去救那个人。”
“我想解释，女士。我确实不希望您……不希望任何人认为，我会干出导致一个主人受到伤害的什么事情，哦，不，那将会是可怕的……不可想象的………
“请不要激动，孩子。我不会为这事情而责备你。我只是要知道，当时你在想些什么。”
“女士，在整个事情发生之前，您告诉我们：有一位主人可能会遭到被伤害的危险，因为有件重物将会坠落。而如果我们想去救他的话，我们必须越过电线。嗯，女士，这本不会使我留在原地。我的毁坏和一个主人的安全比起来，又算得了什么呢？可是……可是我想到，如果我在扑向他的路上就死掉，我也就不能把他救出来。重物会把他砸坏，而我将毫无意义地死去，再�