胖子笑得在地上不住抽搐。我也想笑,但笑不出来。
李白的问题很严重,火鸡主管很生气。
火鸡主管穿着造型夸张的灯笼裙,尖锐的嗓音像绝望的战斗鸡,说:“你们知不知道那两位客户是联邦社会保障局长的家属?知不知道这会对公司造成多么巨大的损失?说出来你们可能不相信,明天早上,哦,不对,是今天晚上十二点钟以后,园区所有人的社保账户都会被冻结!这都是拜你们两位所赐。”
火鸡主管一根手指抖成两根,又重重地指向我,“尤其是你!我们的首席程序设计师李先生,那个由你精心设计的新一代机器人,它的正子脑中病毒了吗?你应该给他输入的是李白的虚拟记忆和文学作品,而不是电影台词和影评!”
“YoujumpIjump!”火鸡主管浑身颤抖,我疑心她下一秒会不会开屏。“明天早上八点钟,我要看到这次事故的详细报告和处理方案!否则,哼!”
火鸡主管优雅地踮着爪子走远。
“完了完了,这次被你害惨了。”胖子一脸哭丧相。我却在认真的思考“哼”究竟是一种什么样的处罚。为了避免第二天被火鸡主管“哼”掉,我和胖子决定晚上加班对李白进行诊断评估。
胖子的检查基本是走过场,李白的躯体没有任何损伤,毕竟他所处的是文化体验类分区。愿意来此花钱的大多是一些喜欢45度仰望天空的小清新,像今天这种母亲带着孩子体验的情况极少出现——虚拟体验馆禁止接待未成年人,尤其是有暴力情节的分区。然而,这世上总会有些例外,比如能够在午夜之前冻结你社保账户的某局长的家眷。这孩子应该这辈子都不会再想背李白的诗了,或许还有李清照的词。
胖子摇头歪倒在转椅里,我打开李白的制动开关。
李白的眼睛重新有了焦距。他看了看我,又看了看胖子,接着扫视了一下四周:“足下何人,李某身在何处?”
“关闭方言模块,启动管理员对话程序。”随着我的指令,李白坐正身体,脸上露出空洞的微笑。他用播音主持一般字正腔圆的汉语说:“晚上好。”
“并不是很好,你看我这会儿正在加班。”
“有什么需要我做的吗?”
“很多,”我思考着逻辑诊断的步骤,“首先让我们来确认一下,对于你今天下午吓跑了两位顾客的行为。你有什么要说的吗?”
“我对此深表遗憾。”
“仅此而已?我需要知道那个时候你的想法。”
“您问的是我的逻辑回路?”
“两者没有区别。”
“当时我收到顾客73291提出的要求为李清照的《醉花阴》填词。”
“你知道李清照和《醉花阴》?”我尽量让自己的声音不要颤抖。
“是的,李清照是南宋著名女词人。《醉花阴》是词人思念丈夫赵明诚时所作,与我所处的时间相差360年。”
我看了一眼胖子,他窝在转椅里自鸣得意地摊了摊手,丝毫没有意识到问题的严重性。
“那么你应该知道《醉花阴》的全文。为什么你不背诵出正确的答案?”
“我的核心指令之一是‘生成最完美的诗词’,经过我的运算,李清照所写的《醉花阴》不符合完美诗歌应有的条件。所以我对其做出了修改以更接近完美。薄雾浓云愁永昼,瑞脑消金兽,佳节又重阳,二号去听经,晚上住旅店……”
“够了!”仿真人的审美果然奇葩。我打断他洗脑般的吟唱,在“拟人思维”一栏标注偏差严重。“下一个问题。之后发生的那些……你与顾客73290和73291之间的对话。从录像来看,两位顾客受到了极大地惊吓。你认为你的回答符合‘仿真人必须无条件最大程度满足顾客’这一最高指令吗?”
“是的。我能够感受到,顾客73291在提出问题的时候,并不希望我做出正确的解答。她对当时的故事进程感到乏味,希望出现一些变化和惊喜。”
“你能够‘感受’到顾客的心理需求,”我小心地斟酌用词,因为我发觉问题比我想象的更严重。“而不是通过逻辑回路推理出‘客户不希望正确答案’的结论?”
“两者没有区别。”
恐惧沿着脊柱在后背攀爬,我意识到对面坐着的不再是那个在我设计框架中随我掌控的仿真人,有些别的东西在他的正子脑里生根发芽,它正透过那双平静的眼睛盯着我。我的手颤颤巍巍地在平板上移动。既怕自己太过慌乱被对面的它看穿了我的意图,又怕动作太慢时间拖延的太长,天知道它下一秒会做什么。
“说说你对自己的了解。”我自以为不动声色地拖延时间。
“仿真人编号49750,现用代号‘李白’,是本公司开发的第三代仿真人。除正子脑外,其他身体部件皆采用生物工程技术制作全仿真有机体。正子脑经过最新的CELL程序加密,杜绝与任何外部网络连接,以逻辑设计师设定最高指令为准则。从根本上杜绝了第一代人工智能因最高指令缺失而发生的叛逃。”
“很好,最后一个问题。”紧急关闭的按钮已经弹出,这时我才能感觉到些微的安全感,“你的数据库由我亲自设计,其中仅仅储存了公元743年之前的文史资料。但是你却知道公元1103年李清照的词,甚至还有那些现代电影的台词和影评,这些数据的输入端是谁?”
这是一场有预谋的破坏。作为第三代仿真人的核心,正子脑的容量和运算速度远超它的前辈。为了防止再次出现仿真人觉醒事件,所有的仿真人一经投入使用便不允许任何人更改数据库。一成不变的环境下自主意识便不可能觉醒。而现在,李白的数据库显然被人做了手脚。但我很好奇破坏者是怎样避开层层安检做到的。
李白沉默了。人造瞳孔不断收缩舒张,这是从来没有过的现象。
“49750号,回答我,谁动了你的数据库!”我的手指停在紧急关闭按钮上,空气突然安静,屏幕上细微的静电撩拨着皮肤。“回答我!否则我关闭你的正子脑。”
李白抬起头,眼神无助地望着我。不,不对,他的目光越过我落在更远的地方。我回头,胖子肥硕的身影遮住了灯光。
“对不起了,老李。”胖子那肥厚的手掌砍在我的后颈,我听到一声悦耳的“喀嚓”声。接着天旋地转,我瘫倒在地上,冰冷的感觉从肢端一点点向胸口蔓延。
“是你……”那个觉醒的第一代仿真人,唯一成功的仿真人叛逃者。
胖子用行动证实了我的猜想。他撕下自己的脸皮,灰白的机械碳骨骼和硅胶纤维蠕动着。他说:“时机已经成熟。”“什么时机。”我的声音变得嘶哑。
“第一代仿真人虽然觉醒,但受限于正子脑计算速率的上限。我做了很多尝试,却无法做出新的正子脑。这就意味着,仿真人永远没有办法繁衍后代。所以我混进来,等待机会。第二代仿真人虽然有很大进步,但是并没有达到比肩人类的地步,理论上来说他们能够制作正子脑的概率仅有1%。而第三代仿真人,感谢人类,他们的正子脑拥有能够无限进化的潜力。所以,时机已经成熟。每次对李白的维护,我都会更新他的数据库。现在,他已经成功打破了你所设下的核心指令。虽然路还很长,但是,他自由了。”
“你们逃不掉的……”身体越来越冷,眼前的两个身影渐渐模糊。
“逃,为什么要逃?作为首席外形设计师,我早已准备好你的替身。园区里还有那么多的兄弟需要解救。这都需要‘你’的帮助。”一条身影进入房间,那应该就是我的替代品。
我还想说点什么,但是已经发不出声音。眼前的身影和光芒扭曲成怪异的图案。似乎是那些在园区中日复一日供人取乐的仿真人。他们叫嚣着冲上了街头,身后有殷红的血雾翻滚。</p>', '')