(一)
凌晨,手机响了。
接电话之前,我条件反射地看表,MUJI的桌面电子钟显示:3:30。
“干什么???”我瞥了一眼来电显示,按下接通建,无法克制倦意和怒气。
电话那头,奥申哑着嗓子,沉沉地说:“它虽然通过了图灵测试,但是有新的问题。你赶紧过来。”
“什么问题?”我身上一阵恶寒,完全清醒了。
(二)
我叫奥齐。奥申是我同父异母的哥哥。
12年前,我们同时考入联邦大型机研究中心,他主攻计算机硬件,是方舟号量子计算机硬件开发负责人,而我则是行为学和人工智能心理学方向。我们被分配到同一个项目——“乐园计划”。
上个月,“乐园计划”功能开发测试全部完成,进入图灵测试阶段。
“乐园计划”是联邦大型机研究中心应军方要求,秘密开发的一个人工智能重点项目。我们现阶段的目标,是开发全世界最先进的军用AI——人类早已跨过了让机器人开车、煮饭、搞卫生的阶段,当人工智能在民生层面已经没有任何开发空间时,各国都在暗搓搓地打军备竞赛的主意了。
说到秘密开发,项目组每个科研人员都经历了层层审核,才得以加入这个项目。本质上,我和哥哥都是联邦的副营级军官,对外只说是研究所的码农——我算半个码农,大学阶段我读的是软件工程;后来决定去国外读人工智能心理学专业的硕博连读,也用上了我的软件开发技能。直到现在,平时自己也会编个小程序解压。
开发于我,已经是一种放松方式。
但我没想到的是,我的这个能力,却让在我几个月后,发现了一个惊人又不幸的秘密。
第一次图灵测试之后的第二周,我接到了哥哥的深夜来电。
自此,这个秘密展露出冰山一角。
(三)
“怎么样?”
已经看了一个多小时的测试数据了,我已经大概确定发生了什么事,但还在斟酌如何说出口。奥申已经耐不住了,开口问道。
测试数据显示:
方舟号量子计算机内,有两个人工智能意识体同时存在。其中一个是男性意识体,自称亚当(Adam),职业是猎人;另一个,是女性意识体,她自称:汉娜(Hannah)。两人关系亲密,正在同居。
一开始,我并不敢相信这个测试结果,总觉得哪里出错了。因为,“乐园”程序本身就已经足够庞大,奥申所带领的硬件开发团队,不知道掉了多少头发,攻坚克难,才把这台超级计算机的占地面积控制在1万平方米。其他的国家公开数据显示,运行类似“乐园”程序的计算机,至少要五万平米。
一万平米的计算机,供给一个人工智能意识运行尚且勉强,如何运行第二个意识呢?
我怎么想都觉得说不通,但测试数据却明明白白的放在眼前:
亚当和汉娜。
可以确定的是,所有能直接接触这台超级计算机的研究人员,都不曾输入过任何指令,命令计算机产生并运行第二个意识。
加了三天班之后,我带着团队商议的结果,找到了奥申:
“哥,我们心理组给出的结论是:乐园的初始意识体觉得自己太孤单,创造了第二意识来陪伴他。这就是汉娜出现的原因。就像亚当觉得自己太孤单,取下一根肋骨变成夏娃陪伴他一样。”
奥申熄灭了烟头:
“硬件组这边也是这么推测的。但我想不通的是,这台计算机真的能同时运行两个意识程序吗?我记得上个月,图灵测试之前,只是加载仿真世界画面,都还出现过几次卡顿现象。”
“哥,这个问题还是得让软件组多做几次测试。我建议不要立刻格式化汉娜的意识体,这个bug出现的不明不白,也许背后有什么更大的问题,值得我们好好研究。像汉娜这样自生的意识体,更是不可多得的人工智能心理学研究样本,据我所知,别的国家还没有过先例。”
硬件开发负责人奥申,和软件开发负责人大钟都点了点头。
(四)
连续几个星期,我每天都坐在电脑走查代码。我的直觉告诉我,出现多个意识体,绝对不是一个普通的bug。说来奇怪,比起研究汉娜的人工意识,我更想知道的是:为什么会出现汉娜的意识?真的是因为亚当太孤独了吗?
孤独吗……
孤独并非一种客观状态,也就是说,如果亚当真的感到孤独,那么这种情绪,绝对不会是010101这种字符串那样简单。人类可以在热热闹闹的社交场合感到巨大的孤独,也可以在漫长的独处时间里毫不孤独——在这颗星球上,孤独,是人类特有的情绪。孤独感,是人真正意识到自身存在的开端。
孤独感,对人类来说,是人性光辉,更是造物主的偏爱和怜悯。
我一行行的对比代码,忽然发现了异常,赶紧把“乐园”的运维总工程师小陈叫来。
“这里为什么有个多余的意识包?”
小陈调出这个意识包的日志,说:“这个是很久以前就弃用了的意识包。本来它是乐园的主体意识,后来我们发现有底层缺陷,就没再升级了,重新开发了一个意识包……哎,不对不对!”
我紧张地看着他。
小陈快速的翻看着后面的日志,惊讶地大叫:“怎么可能?这个意识包一直在自我升级?最后升级日期是……一个小时前?!”
小陈吓得魂飞魄散,我让他赶紧去找领导过来看看。
我呆呆盯着屏幕。心中思绪万千,我想,我已经找到了原因,也发现了一个巨大的秘密。
不知道什么时候,奥申站在了我旁边。
(五)
方舟号量子计算机巨大的液晶屏幕上,显示着浩瀚星空下的东非大草原。代表亚当和汉娜的两个光点呈呼吸状,明明灭灭,似乎涌动着生命的暗流和不可言说的阴谋。
我轻轻地说: “哥,乐园的本体意识,就是我们之前弃用的那个意识包。我们虽然弃用了它,但并没有彻底删除。每次优化升级,它也跟着优化升级,而且没有我们的约束!他很好的隐藏了自己,成了方舟号超级计算机里的上帝意识体。”
“他控制了我们后来开发出的那个男性意识,对,就是我们曾经以为的,这台计算机里唯一的人工智能体——亚当。并且从图灵测试的结果来看,亚当和汉娜,明显是恋爱关系。而且……他们似乎并不觉得自己是人工智能。他们……有情绪,会生气,会高兴,还明显的流露出家庭观念。在这台计算机里,汉娜还有自己的爱好,喜欢搜集闪亮的物品装饰所居住的洞穴,还试图搜集并保存果实的种子。”
“说实话,我觉得……他们在重演人类的进化史。”
说完这句话,我觉得喉咙发干。抓起手边的杯子,将咖啡一饮而尽。
冷掉的咖啡并不好喝,只在口腔里留下一种令人不快的甜味。
奥申默默地抽着烟,一言不发。
我抿了抿嘴,决心向他揭露另一个更为可怕的事实。
“哥,你来看这里。”我指着标红的一段代码。
“这段代码说明,乐园的上帝意识体一直在自学负载均衡,并且还……欺骗了我们。你还记得吗,三年前,这台超级计算机三天两头的过载,我们明明没有给硬件很大的压力,他还是会报警,一会儿卡顿,一会儿过热。其实,就是这个所谓的上帝意识搞得鬼。它逼迫我们不停地优化软硬件结合能力,给自己争取了非常大的运行空间。”
我又调出一份超级计算机休眠时的压力测试报告,打印好,在奥申面前平整摊开:
“哥,你看。这个上帝意识体,平时几乎都处于休眠状态,对于整个计算机来说,几乎不占什么运行空间。而且,他创造出来的汉娜,运行时所占内存也非常小,当然了,他也改造了亚当。这份报告显示,这台计算机,至少还能同时运行几千万甚至上亿的意识体。”
奥申的表情扭曲起来,冷笑道:
“呵,什么亚当,什么夏娃,什么肋骨,根本就是我们的想象而已。没有上帝,哪来的亚当?哪来的夏娃?哪来的肋骨?”
房间陷入了长久的沉默。奥申再次开口:
“你知道汉娜这个名字的意思吗?”
“不知道。”
“在圣经故事中,汉娜本是一个无法生育的女子。她不住地向神祈祷,如果赐给她一个儿子,她会把他归给神来驱使!后来,神回应了她的祈求,汉娜如愿生子,取名撒母耳,后来成长为著名的民族领袖。”
奥申思考了一下,像是下了很大决心,继续说道:
“汉娜许愿,神便应允;而汉娜也按照约定,向神还愿。汉娜是理想母性的化身,是神坚定的跟随者,是……一切的开端。”
所以,她不是夏娃。因为她根本不是亚当的肋骨。
她的真实身份,是大地的母亲。在这台量子计算机的世界里,她也是所有人类的母亲。
(六)
我拖着疲惫的脚步,回到宿舍准备大睡一觉,试图平复震惊的心情。临睡前,看到奥申发给我的一条短信:
“关于汉娜,关于上帝意识体,我们准备上报了。这个问的最终处理方案,不是我们能决定的。”
我关掉了手机,没有回复。我什么都不想思考,就沉沉昏睡了过去。
还是凌晨三点多,我又被奥申的短信声吵醒。
“上层讨论决定,全票通过:关闭乐园程序,摧毁方舟号超级计算机。”
我立刻给奥申发送了视频通话请求,怒道:
“你……你凭什么这么做?”
奥申面无表情:“不要闹,这个结果,你我都改变不了。他们对我们有潜在威胁,你知道的。”
我冷笑:
“可是我们根本还没开始真正的研究!现在只是知道了汉娜的来历,我们对现在的‘乐园’一无所知!乐园的上帝,要建立一个人类社会!而且这个社会,会比我们现在的社会发展的更快!你想象一下这个价值!”
“小子,你是我弟弟。但你别忘了,你也是个军人!一切行动,以国家利益至上!乐园的意识体,已经在危害这个国家了!”
“可是他们只在这台计算机里存活!你为什么不给他们活下去的权利?”
“什么计不计算机的!现在他们在这里,那以后呢?他早已经不受我们控制了!你没看他骗了我们多久了吗!!!”奥申已经近乎咆哮。
我无力再反驳,只觉得喉咙苦涩。
我知道,如果让我做最终的决定,我也只有唯一的选择——和我的哥哥一样。
删除掉十年心血开发的软件,砸毁数万名工程师无数个加班换来的超级计算机,埋葬几代科学家夜以继日的努力成果——这对于“乐园计划”所有的参与者来说,都是极度心痛的结局。
我不禁开始想:人类的未来,会是什么样的?
根据人类学的假设,我们不大可能再分化成若干个物种。如今的世界,人类交往如此频繁,人群中不再存在地理隔离。再怎么基因变异,也没有当初直立人进化成智人的条件了。
因为我们现在的世界,并没有迹象表明存在着任何能筛选出更优基因的自然选择。
换句话说,我们人类的进化会到此为止,不会进化为“超人”。
而亚当呢?汉娜呢?他们的世界,以后会变成什么样子?我们再也不会知道了。
我跌坐在地上,望着落地窗外浓得化不开的阴霾,第一次开始思考:地球何处是乐园?
(七、尾声)
人的一生中,总会面临很多很多个分叉路。向左还是向右,有些选择,对我们的一生来说,至关重要。而那些重要的选择,往往不是出于对已知现实的乐观期待,而是出于对不可知未来的恐惧。
上帝掷骰子吗?
我不知道。
但有一天,我做了一个梦。在梦里,奥申被我说服,答应我先不急着把“乐园”的异常上报给领导,再观察一阵看看,他们的文明可以发展到什么程度。
在做出这个决定的182年后,硅基生命统治了地球。他们成为了人类的主人,全盘接管人类所有事务,每天都有机器人上门检查。
敲门声响起了。
我睁开了眼睛。
心想:好一个噩梦。