第150章
作者:
dnax 更新:2024-05-08 17:40 字数:2025
“我变得好老啊。”他说,“脸上都是皱纹,白头发也这么多了。”
罗克感到一阵毛骨悚然,不由自主地又向玻璃看去,映入眼帘的依然是莫妮卡宛如少女又机械感十足的倒影。
他看不到,他看不到自己有一副机器身躯。
这么说,他完全把自己当成了奥尔文·怀特本人。
是的,他拥有怀特先生一生所有的记忆,人工智能按照他的人生轨迹对他的未来进行分析和推测,把他死后那些年里发生的事补充得完美而全面。
他没有去世的印象,不知道自己已经死了,也许程序还动了些手脚,让他不管附着在谁的躯壳里,看到的始终是自己虚拟的模样。
那他到底是什么?
奥尔文·怀特临死前有没有想过留下的记忆会变成别人的试验品甚至玩物?
“怀特先生……”
“什么?”
罗克不知道该怎么说,是告诉他,他已经死了,现在残留在机器里的不过是复制的记忆,还是假装什么都没有发生,任由他继续以奥尔文·怀特的身份“活下去”?
“我们去和卡特聊聊吧。”奥尔文说,“我有好一阵子没见到他了。”
“好一阵子是多久。”罗克很好奇他对时间的观念。
“上星期五开始,今天是星期二对吗?”
“对。”
他竟然没搞错日期。
“那我们有三天没见。三天,整个世界都能发生翻天覆地的变化。”
罗克带着巨大的不明所以和惊讶看着他把卡特叫过来,艾斯卡理所当然地紧跟着。接下去的话题让他完全没有插嘴的余地,更像一次小型的人工智能仿生人测试。奥尔文毫无疑问是这个领域的权威,他因为疾病去世,并非衰老糊涂,他的思维依然保持着年轻人的活跃。最让罗克感到意外的是,卡特始终以敬仰的态度和“机械奥尔文”交谈,认真听取他的意见,耐心回答他的问题。罗克感到他对这位曾经的老师还抱有一种难能可贵的敬畏之心。
难道卡特不知道这家伙只是个复制品?他知道,艾斯卡也知道,可他们都没有指出这一点。
“你最近遇到了很大的麻烦。”奥尔文对罗克说。由于另外两人对待怀特先生的态度,罗克也模模糊糊地开始觉得他是个开明友善的长者,不过是被困在了不属于自己的躯体中。
“不算很大的麻烦。”罗克说,“不小心被案子牵连是常有的事,只要找到凶手一切就能迎刃而解。”
“你很乐观。”
“只有乐观才能整天和死尸、杀人犯打交道。”罗克说,“你们对艾斯卡的测验结果怎么样?他及格了吗?”
奥尔文笑起来,不知道声音从哪传来,却让人感到发自肺腑的愉快。
“他当然及格了,而且还考了高分。”
罗克朝艾斯卡看了看,后者显得极为高兴。
“我和卡特都认为艾斯卡已经具备了自我意识的初级模型,在行为和思考方式上也更接近人类。”奥尔文真的就像看着自己的孩子在重要考试上考了好分数似的,欣慰地说,“而且我认为最近你遇到的麻烦正是个好机会。”
罗克不明白:“什么好机会?”
“我支持卡特的计划,让艾斯卡脱离赫菲尔斯的控制,暂时自行决策行动。”
“暂时?”罗克不满地说,“你们把他当囚犯一样看管,现在只是给他一个假释的机会?”
“艾斯卡已经更换了包括核心组件在内的80%的零件,几乎可以说焕然一新,赫菲尔斯公司很难通过常规方式追踪控制他。但作为计算机和人工智能的开发者,我和卡特认为必须有最后一道防护,以免像你担心的那样,因为极端自由引发意想不到的危机。”
这很好理解,尽管罗克在朝夕相处下对艾斯卡产生偏向性,认为他不会因为脱离掌控获得自由而干出伤天害理的事情,但也非常理解奥尔文和卡特身为创造者的担忧。人工智能一旦失控,很难再有弥补的机会,他们要承担把新世界的神——亦或是恶魔放出牢笼的罪责。
“那么,这道最后的防护由谁控制?”
“当然是你,布雷恩警官。”奥尔文说,“我们一直都在说,你是最佳人选。只有你能胜任这项工作。”
罗克把目光转向身旁寻找卡特。
“你的意见呢?”
“奥尔文的意见就是我的意见。”卡特微笑着说,“我们刚才已经达成一致,你是最好的执行者,你有判断力,有理性思考,还有情感上的宽容和放纵,不会循规蹈矩地要求艾斯卡按照你的想法行动。这是我和奥尔文都不具备的直觉判断,不管我们如何调整自己的想法也很难像你一样依靠本能去辨别对错,我会考虑程序问题,会思考哪里出了问题,对未来进行数据演算,这都不符合培养艾斯卡自我意识的需求。”
“可是你对自己的工作也是这么演算的,你肯定想到了让艾斯卡脱离赫菲尔斯公司的后果。”
“难道你没想过?”卡特笑容不减,“你带着艾斯卡一起逃亡的时候,就应该想到最坏的结果了。”
最坏的结果,当然是艾斯卡因此受到限制,由赫菲尔斯接管,让他离开自己身边。
罗克无数次地设想过这个结果,却仍然寄希望于能有不一样的发展——希望艾斯卡拥有自己的意识去摆脱开发者的操纵。虽然最后这项工作还是由卡特完成的,可直觉的选择和冒险的基因从没有在他身上消失过。