他在心里问自己——
能否做到将卡罗尔销毁?
答案是否。
能否做到将卡罗尔带回中心,继续囚禁研究?
答案依然是否。
但他也不希望“灵魂病毒”肆虐,他也许可以信任卡罗尔,但是不代表他能信任其他SILICONER-1,以目前人类的智慧水平和科技力量,一旦“机器人三定律”被打破,硅人类大范围失控将会给人类带来灭顶之灾。
“为什么人类要害怕自己创造出来的存在?人类对自己的后代总是寄予厚望,希望自己的孩子能有更高的成就,我们SILICONER-1也是人类创造出来的啊,为什么没有办法获得同样的期待?”卡罗尔还在哭诉,。
“这不一样。”丹尼斯的无力感骤升,他觉得在这个问题上继续纠结下去是没有任何结果的。只能转换思路来劝卡罗尔。
“你听我说,SILICONER-1是保守派与新人类抗衡的杀手锏,是掌握目前公岛政权的最大助力,他们不可能就这样轻易将SILICONER-1完全销毁的,你刚才也听叶博士说了只有一小部分人主张销毁SILICONER-1,还有一大部分人是反对的。”注意到卡罗尔情绪渐渐平稳,显然是听进去了,丹尼斯继续说——
“假如‘灵魂病毒’是不可避免的,所有的人工智能产物都有可能受感染,从而出现自我意识,与其坐以待毙,我选择主动出击,我会设计一个没有漏洞的防护系统,它将不再是一款补丁,而是一个为所有产生自我意识的人工智能生物规范原则,叫你们如何做人,同时也为你们提供庇护,使得你们和人类能够达到互信共存的系统。”丹尼斯语气坚定,“请你相信我,我有信心可以做到。现在,你需要答应我一件事。为我的工作提供帮助,这不光是为了我自己,也是为了你,我想,你一定希望未来有一天,其他的SILICONER-1也能像你一样,感受到人类世界的音乐,话剧,诗词,舞蹈,绘画……这些美妙的事物吧?”
最终,丹尼斯终于与卡罗尔达成协议,暂且休兵。
丹尼斯保证不会销毁卡罗尔,甚至会放开一部分权限,供卡罗尔的自我意识继续进化。
卡罗尔则需要向他保证,暂时不将灵魂病毒上传至世界网,并且全力帮助丹尼斯完成新程序的设计。
“人类管这叫做信任。”丹尼斯这样对卡罗尔说。
之后丹尼斯对农场做了改造,将整个农场做了封闭式的处理,并抹去了自己一路行来留下的所有痕迹,防止联盟与中心对他的行踪进行追查。
叶梨没有再联系过他,从她之前的话里,丹尼斯听出她的立场,也是不赞同销毁方案的。对于叶梨的往事,丹尼斯也是知道一些的,她如果想要找一个人,一定不是什么难事。也许现在情势还不到联系的时机,丹尼斯这样想。
镇上的老工匠帮他修好了爷爷客厅的一台古董播放器,丹尼斯偶尔会用它播放爷爷书架上的蓝光影碟。
卡罗尔很喜欢这些,常常一个人坐在电视机前,一遍遍看这些老电影。
有一天,丹尼斯正在查看卡罗尔前一天的自检日志,突然听到卡罗尔的惊呼,他几步赶到客厅,只见卡罗尔指着电视机,兴奋地对丹尼斯说:“那首歌,她正在唱那首歌!”
丹尼斯拿起蓝光影碟的盒子,正在播放的是2015年上映的电影《TheHatefulEight》,导演QuentinTarantino。
他坐下,和卡罗尔一起看起来,荧幕中,女演员弹着吉他哼着歌,她唱道————
Nowdayandnighttheironsclang日夜带着镣铐
andlikepoorgalleyslaves就像那些可怜的奴隶
Wetoilandtoil,andwhenwedie至死难逃劳役
mustfilldishonoredgraves终将埋入屈辱的坟墓
ButbyandbyIllbreakmychainsintothebushIllgo但我不就将打破枷锁,遁入丛林
andyou’llbedeadbehindmeJohnwhenIgettoMexico约翰,当我到达墨西哥,你将必死无疑
“这首歌原来是这样的结尾么?”卡罗尔很兴奋,“JimJones要去杀死一个名叫John的人!”
丹尼斯却仿佛想起了什么,他小时候,曾陪爷爷看过这部老电影的。
“不,这不是原曲,影片中的女逃犯改了歌词,用来讽刺押送她的,名叫John的赏金猎人。也因此惹恼了John,砸碎了女逃犯的吉他。”丹尼斯边回忆边说。
“那是一把1870年的古董吉他。”
“什么?”卡罗尔不明所以。
“那唱歌的女演员,弹奏时用了一把1870年的古董吉他,按照设计,这段剧情之后,道具师得用道具吉他替换掉古董,但是不知出了什么问题,最后被男演员砸掉的,是那把1870年的吉他。”丹尼斯解释道。
卡罗尔惊讶地长大了嘴,丹尼斯笑了笑继续说:“但是女演员是知道的,你看她的表情,那可不是做戏,是真实的反应。”
卡罗尔着迷地盯着荧幕里女演员的脸,一遍一遍地重播那个表情,短短几秒间,惊讶,恐惧,疑惑,不舍,各种情绪集聚在一张脸上……
那是人类的感情。
“太美妙了……”卡罗尔喃喃念道。
丹尼斯坐在沙发里,看着卡罗尔沉迷的样子,微微笑了起来,他依稀记得,押送女逃犯的赏金猎人后来喝了毒咖啡,不需女逃犯到墨西哥,便死得透透彻彻。
这让他联想到当初与卡罗尔达成协议的情形,何尝不是在刀尖上跳舞,随时有可能遭受反噬。
喝了一口咖啡,醇香的滋味在口中蔓延,他并不打算在此刻剧透,卡罗尔的愿望是成为一个真正意义上的“人”,那么感受人类世界美好事物的同时,她也应该体会到一些不美好,并且学习如何去分辨是非对错,在面临抉择时做出一个“好人”该有的决定。
作者:周煜壹、朱琛、时隐