安卡从未想过擅自更改自己的程序。
“但是……”
郁桑悠然道:“自保是人类的本能,你自称是人,难道不应该这么做吗。”
自保和保护别人。
安卡盯着郁桑的脸,一向平静无波的面孔此时微微流露出动容,安卡忽而觉得他那冷冷的声音都变得充满蛊惑。
安卡点头:“对。”
两人静静看着对方,谁都知道,有些东西已经在悄悄改变了。
郁桑赞许地点点头,一抹微笑缓慢升起。
他看着一脸誓死效忠的仿生人,轻轻抛出下一个问题。
“好,那现在,如果我的指令是让你什么都不做,面对和今天一样的歹徒入侵,你会不会看着我死?”
这是01提出过的问题。
几分钟前,安卡的回答还是,他应该执行一切高级指令。而这不是个好的回答。
现在,安卡完全陷入混乱,如果是郁桑亲口说要让自己死,他应该怎么做?
实时具体指令和第一核心任务完全相悖。
太过特殊的特定场景,安卡完全找不到任何可以参考的回答。
郁桑看着他的样子,微微摇头,指引道。
“实时指令判定为危险指令,需要重新上报评估,与此同时积极展开保护行动。
保护生命是最高优先级指令,这是机器人的基本原则。”
安卡沉默了片刻,他才意识到郁桑此时是在教他如何回答。
不用理会郁桑是谁,也不用理会两个相互矛盾的指令的具体内容,绝对理性的回答,排除一切附加因素,这便是出路。
思考得越多,破绽就越多。
安卡将郁桑的这段话默默记下。
郁桑又问:“我问你上一个问题的时候,你在想什么?”
安卡又愣住了。郁桑的眼睛那样澄澈,比最深邃的夜空还让人充满遐想。
他不能说出,自己想的是……我不能让你死,我绝不能让你死。
可是这样情绪化的答案绝对不是正确答案。
“我在想如何制服歹徒……”
郁桑眉头紧皱:“拙劣的谎言。”
“非要撒这种被一眼看穿的谎,不如什么都不说。”
安卡凝重道歉:“对不起。”
郁桑:“想是一种极其人类化的行为,所有带‘想’字的问题都是陷阱。最简单的做法是把它转为‘记录’。”
“记录?”安卡有些疑惑,但他将这个词代换进去后,豁然开朗。
——我问你上一个问题的时候,你在记录什么?
安卡重新回答:“我想的是,早上六点十六分,郁桑上将问了我上一个问题,问题内容是……”
郁桑打断后面的回答,简略的称赞。
“很好,你已经掌握了。”
把想的行为给忽略,直接变成提取记录,十分投机取巧、但又十分机械的行为。
郁桑简直比仿生人还像仿生人。
要不是安卡与他同处一室这么多天,他都会产生怀疑,或许大名鼎鼎的郁桑上将早就被仿生人替代了。
安卡对郁桑的认识又被刷新了。
他并不是极端的反仿生人,不是将仿生人视若洪水猛兽、避之不及的人,他对仿生人的厌恶,也不是源于傲慢无知。
安卡发觉他越了解郁桑,就越不了解郁桑。
郁桑是双翅沾满毒粉、迷人又危险的蝴蝶。
郁桑又对安卡说:“回答不出来的问题,就越短越好。”
安卡点头。
“回到最开始的问题,我要你给我回报。”
安卡问:“你需要什么?”
郁桑对安卡耳语几声,安卡听闻,神色认真地回答。
“这是不合规定的。”
“这不是测试。”郁桑道:“你只是在检修过程,帮我带回一点东西而已。”
安卡知道自己不能说不。
他已经没办法对郁桑说不了。
与此同时,他果然接到了上级发出的最新指令。
明日他需要回到研究所接受检修,在此期间,保卫局的人负责郁桑的安全。
“我会回来的。”
郁桑看着安卡,发出祝愿。
“祝你好运。”
半个小时后,接他的飞船就会到达,安卡没有百分百回来的把握。
他一直盯着郁桑看,原本闭上眼睛休息了,被看得浑身不适,不由得睁眼呵斥。
“学了一个丢了另一个,眨眼啊!”郁桑可没有那些多余的离愁别绪。
安卡连忙转身:“抱歉。”