谈焰不知道。
在刚接收到事故消息时,她确实感到违和,发射那枚导弹前的时间足够九渊做上万次的推演,他不会不清楚这项行为的后果,无论是对宏观局势,还是对它自己——有失公正的人工智能要被抓去销毁,这绝不只是一句玩笑。
距离谈红之死已经过去6年了,那个出现在厂区里的查谟加尔男孩并不是6年前的男孩。他是真正的无辜者。
九渊炸死他也不是在代她复仇,而是在发泄。
谈焰很难相信他会做出这样不理智的事情,但在事实面前又无言以对。程云帆从她的沉默里看出了一点苗头,他问:“你是不是知道什么?”
谈焰就捡着能说的,把6年前那个男孩的存在简要说了。
程云帆初听时还寡着一张脸,但随即眉头渐渐舒展开,到最后,表情几乎可以用欣喜若狂来形容。
他站了起来:“这是个重大突破,”在狭窄的等候区过道上踱了几步,差点儿把桌上的热饮纸杯碰洒。程云帆扶了下杯身,高温液体溅到他手背上,而他像是根本感觉不到,继续说着,“……虽然是意想不到的方向,但超过了我的预期,不、是超过了我能想象的上限。它现在不仅有人的智识,人的感情,甚至还有了人的缺陷。”
“绝对理性的人工智能不罕见,但能进化出非理性的人工智能,这简直是——”
重青不客气地打断他:“现在说这个还有意义?”
对于一台即将被判处死刑的人工智能而言,理性或不理性,又有什么区别?
“有,这是停用和销毁的区别,”程云帆坐下来,眼神里依然闪着一种神经质的光,“不会再有这样的人工智能了,我们都知道,老师,我们写的算法造不出来这样的东西,没有人能造出来,只有它自己。它的核心里一定发生了超出现有科学认知范畴的事情,上面有人对这个感兴趣,他们刚刚成立了一个新调查组,其中有几个人,我确定他们会感兴趣的……”
听到这里,重青不由哑然。
他搁下老脸不要求天告地好几个小时才触碰到一点皮毛的事情,程云帆不过一会儿工夫就门清了。
“那你想怎么做?”重青问,“把他留下来做研究?就算上面同意,但停用状态下能研究出什么来。”
九渊的核心已经完全黑盒化了,在停用状态下,他无法对输入的信号给予反馈,即使把他的核心拆出来也没用。正如人们无法通过在物理上解剖一具人类躯体,来窥探其内心的想法一样。
程云帆说:“很简单,我们可以给它一个新身体。”
“这怎么可能?”
“可能,”程云帆笃定道,“这次的事故之所以发生,是因为1027基于现有数据库生成的人格、记忆、情感,使得非理性的一面凌驾到了理性之上,带来灾难的是这些东西,不是它本身。只要永久停用它的数据库,就能给上面一个满意的交代。”
“然后我们把它的核心取出来,装进一个新系统内,这不会比动一场心脏移植手术更难。这个新的机械生命将从头开始学习,相当于一个带着七窍玲珑心降生的婴儿,一定可以……”
话说到此,谈焰终于明白了程云帆打的是什么主意。
他想要九渊的核心——只要留下这颗核心,他就可以再造出一个同样智慧的机械生命。他要的是属于他的完美作品,在九渊身上曾投入的难以数计的精力、心血金钱和狂热,对程云帆而言,都可以毫无芥蒂地转移到下一个作品身上。
至于九渊剩下的部分,是停用还是销毁,是做一具残缺不全的行尸走肉,还是永远醒不过来的活死人,他都不在意。
人怎么能冷血到这种程度?
程云帆是和九渊相处时间最久的人,比重青和谈焰都要久。就算关系不像家人,也至少是朋友。
由0和1组成的生命尚且能够生出温度,而在她面前的、这个活生生的碳基生物,却有着一副捂不热的血肉之躯。
谈焰突然觉得这一切都荒唐无比。
她至此才完全理解九渊在那个消失前最后的夜晚对她说的话。他了解程云帆,甚至已经能预料到自己死后将要发生的事情。“不要在我的躯壳里填进一个迥异的灵魂”,这句话反过来理解,正是他的遗愿——不要让他死去的灵魂被其它躯壳占有。
眼前的程云帆还在滔滔不绝,依然端着那副自信、从容、志得意满,不像犯错误的对象等待被审查,而像是造物主即将审判人间。
谈焰冷冷打断他:“你别做梦了,心脏移植还得捐献者生前同意。他不同意,你休想拆下他的任何一部分。”
“他不同意?”程云帆笑了,“证据呢?现在法律都承认赛博遗嘱了吗?”
“我也不同意。”重青突然说。
程云帆脸上的笑容微微一凝。
“如果你留下他的目的,还再造出一个类似的机械生命,甚至比他更加……”重青顿了一下,似乎没找到合适的形容。另起了个话头,“我反对,并且我将向新调查组明确告知这项研究中存在的本我缺陷,继续下去,或可能酿成比这一次更大的灾难。”
程云帆捏住了手里的矿泉水瓶。
一对二,他是有他的渠道,但不可能搞定新调查组里的所有人……重青和谈焰如果持相同意见,那么这个意见很有可能影响新调查组的判断结果。
透明瓶身被捏至变形,发出毫无素质的刺耳声响,持续了半分钟左右方才一停。
“那你们想怎么样?彻底销毁它?”程云帆说,“不可能的。”
谈焰和重青都不甚理解地看着他。
“erase条款,”程