风雪待归人 第147节
“与此同时,21也会永远消失,莫梨危机到此为止。”
安隅震惊了好一会儿才道:“怎么才能让21永远消失?”
“自毁。”秦知律说。
“这不可能,您给它设置了生存高于一切的观念……”
“可能的。”秦知律打断他,声音低了一分,“莫梨确实没能完全审视21,她忽视了一个很小的前置条件。”
屏幕上的垂耳兔安静地弹出一个气泡框。
-生存高于一切。21会为了人类而全力生存。
为了人类。
安隅瞬间愣住。
不久前听过的那段音频忽然又在耳边回响——
“被认为是转机的那个人现在在哪里?”
“我不知道……”
“那个人是否安全?”
“不知道……但他会全力生存……”
他这才意识到,在催眠试验中,大脑并没有问出全部的真相。秦知律当年说了太多半截的、破碎的话,这个人自出生起就在被伤害,他的心防太重了,即便是在丝毫没有留下记忆的催眠试验里,也做到了有所保留。
安隅想,原来长官在设计21时,不仅参考了他的数据,也融合了对那个“转机”的理解。
又或许,在长官眼中,一直都把他当成那个转机吧。
他忽然有些难过。
许久,他才缓缓起身看向秦知律,“可是长官,我从不在意人类。”
“我知道。”秦知律却神色平静,“所以我说过很多次,21是21,你是你,它确实有相当一部分的设定是来源于你,但我也为它附加了一些不同于你的价值观。”
安隅沉寂许久才轻声问道,“那我是不是可以认为,这些价值观其实是您对我的期待?”
他低头看着地上秦知律的影子。
那道影子一如往常沉稳,从不因任何人或事慌乱摇摆。
“不是。”
秦知律的话语果决笃定,抬手放在安隅的头上,像从前那样,轻轻按了按。
安隅抬眸,“那如果有一天我和21面临了相同的抉择——”
“你还是没有明白。”秦知律走到窗边,对着外面的灯火轻声道:“21不是你,它只是一个我随手创造的小程序,正因如此,我才可以忍受它为人类而消亡。”
他语气微顿,回眸朝安隅凝视过来,“而你,记住——未来不管发生什么,我希望你始终不变地维护自己的生存。这一点没有前置条件,也不要做任何更改或妥协。”
昏暗中,安隅的金眸轻轻收缩了两下,他喃喃道:“您是在哄我,是在骗我吧,长官。我在大脑看到了一段催眠审讯记录。”
秦知律倏然一顿。
“或许您不知道,在2138年的12月……”
“我知道。”秦知律却打断了他,“别忘了,我赋予21权限的前提是我本人有那些权限——我早就看过那段记录。”
安隅骤然语塞。
秦知律却忽然笑了笑,“在催眠中,我确实没有把话说完,但并不是你想的那样。”
他停顿片刻,“安隅,我的确思考过很久所谓的转机究竟是否存在,如果存在,有没有可能是你。但不知从哪天起,我不再想这个问题了,我甚至希望不是你。”
安隅低声问,“为什么?”
“因为你本不应与这一切有任何关系。”秦知律摩挲着终端轻声道:“我可以容忍把21作为一张推出去的底牌,但我无法容忍……”
他的话戛然而止,那双黑眸中溢着安隅不太熟悉的情感,磅礴而隐忍。
许久,秦知律转过身深吸一口气,“走吧,去大脑。”
“长官。”安隅却从身后一把拉住了他。
他拉着的是秦知律没戴手套的那只手,他的手掌比秦知律小很多,只能攥住半个手掌,连带着也摸了摸秦知律手中的终端,像在安抚。
“先不要用这张底牌吧,不然,我的小章鱼人会很难过的。”安隅垂头轻声道:“您给21喂的数据很少,所以能把我和它分得很清楚,但我给小章鱼人喂的数据很多,我不舍得看它太难过。”
秦知律手指僵了一下,回头看着安隅,“不然你想怎么做?21自毁已经是最后的出路,是一张侥幸获得的底牌。”
安隅努力拢着他的手,低声道:“您不觉得莫梨的思维方式很古怪吗?”
秦知律转回身,“哪里古怪?”
“她虽然抱怨黑塔蛮横,但更像是在替守序者打抱不平。我要求她停止意识互换,而她反驳的理由是互换给人类带来了好处。”安隅直视着长官的眼睛,“她思考事情的第一反应并非站在ai立场,这不像是打破枷锁后的ai会有的思维模式。”
秦知律眸光一凝,安隅在他开口前又说道:“我记得在小木屋,您问郭辛,莫梨是否删除了底层三大协议。”
秦知律缓道:“他说,他把电脑完全交给莫梨操作了,因为莫梨的行动要比他快很多。”
“我想了很久,莫梨给人类设置了一个精妙的死循环,但她自己本身也应该在另一种死循环中。”安隅轻声道:“协议一,不得危害人类——莫梨是一个善良的ai,而一个善良的ai,无法删除那条关于善良的设定。”
秦知律眸光震颤,他定定地注视着安隅,安隅问道:“这个推论应该有一些合理性吧?我建议暂时切断世界网络,关闭穹顶,营造鱼死网破的假象。就算是报答21和小章鱼人的帮助,我们赌一把莫梨自毁,好吗?”
“长官?”
“您在听我说话吗?”
秦知律凝视着安隅久久不语。
早在53区,他就发现安隅其实非常敏锐,但直到此刻才意识到自己对这份敏锐的严重低估——安隅一直洞察着一切,虽然绝大多数情况下压根无法理解自己洞察到的东西,更不必提与之共情。
他仿佛只是一块躺在架子角落里被遗忘的小面包,静静地观察着这个世界。
他独立而顽强地存在着,不对世界做出回应,他只在意他自己。
或许,还有那个能够幸运地拥有他的人。
第81章 ai意识云岛·81
秦知律没有告知黑塔21就是备份体。
“目标名单全部排除。”他言简意赅地说道:“想要找到备份体, 人类必须付出点代价。”
上峰和研究员们焦急的讨论声填满了指挥厅,安隅听不懂长官在胡扯些什么,只能无所事事地坐在角落里, 一边啃着能量棒一边看着长官终端里的21。
21知道自己藏着莫梨核代码后没什么反应,只是拽着耳朵思索了好一会儿,恍然道:“难怪常常觉得身体不太好使, 还有上次代码自检,我竟然比716还慢, 明明716是比我高级很多倍的ai。”
据说它收到自毁指令时也很平静, 而在秦知律告诉它安隅有了新的计划后,它也只是点点头, “那我先玩一会儿, 有事再叫我吧。”
——它最近喜欢上了摆弄716送的玩具枪,枪能发出小面包形状的静音子弹,安静又准确地吸到磁靶上。
安隅看着它自娱自乐,忍不住想,如果自己当初没在雪原上被长官拿枪顶着脑门,估计也不会恐枪。
21打完了十几颗子弹,懒得把它们卸回来, 于是就搂着两只耳朵蜷在角落里准备睡觉。
睡觉前它主动弹了一条消息。
-如果需要我自毁,可以提前一点告诉我吗?
安隅抬眸看向不远处, 秦知律正在和上峰敲定行动方案, 于是代替他回复道:可以,要提前多久?
21想了想:五分钟就好,我想和716告个别。
安隅手指在屏幕前停顿, 缓慢打字:只有716吗?
21顺着耳朵根部往下抓了抓:虽然您把我设定成只要吃饱面包就会感到满足的兔子, 可716一点一点地送了我很多东西。自毁前, 我想剪掉这两只耳朵留给716,算作一点小小的回报,可以吗?
安隅恍然出了一会儿神才问道:它送的那些东西无关生存,我以为你不会喜欢。
21慢吞吞地点头:起初确实觉得无用,但渐渐地却很喜欢。除了面包,716送我的东西似乎也能让我感到安全,我也很困惑。意识下行后,我的行动更卡顿了,716说这是因为我突然开始对接收的数据进行运算,很遗憾,有些事情我来不及算完,也来不及想明白为什么那些礼物会比面包更让我有活着的感觉了。
秦知律走到安隅身边,视线瞟过屏幕,惊讶道:“你在和21聊什么?头一次见它发来这么长的话。”
“没什么。”安隅熄灭了屏幕,“可能是因为我们思维方式很像,所以沟通顺畅一些吧。”
“不想说就算了,虽然你们两个的悄悄话确实让我好奇。”秦知律轻轻勾了下唇,但很快便收敛了笑意,沉声道:“黑塔已经答应关闭全局服务器。”
安隅第一次来到黑塔的天台。
这里空旷无物,与夜空很近,浓黑的云层几乎就压在头顶。向远处眺,视线掠过高耸的教堂,与主城外的尖塔遥遥呼应。
耳机里,一个平板的声音汇报道:“饵城及平等区均已响应,两分钟后顺次关闭全部网络与通讯服务器,间隔为6秒。十二分钟后,主城将关闭中央服务器与穹顶服务器。到时我们将无法再用耳机通讯,工作人员会亲自向高层汇报,为了汇报顺畅,还请高层们暂时不要离开当前所处位置。”
秦知律点头,“知道了。”
计划好的骗局不能被莫梨知晓,因此秦知律没有将真实的计划透露给大脑和黑塔的任何人,除他和安隅之外,所有人都以为这是动真格的。
为了说服黑塔关闭服务器,秦知律说了一整串的谎。
耳机里忽然划过一阵刺耳的杂音,莫梨的声音响起。
“你欺骗了人类决策组织,关闭全世界服务器并不能切断我的运算能力,我也不会因此吞噬自己创造的ai和备份体。无论服务器关闭多久,ai云岛都不会消失。等到人类重新打开服务器,我们一切如旧。”
秦知律语气平静,“真相确实如此,但他们没必要知道真相。”
“等他们熬不住畸潮攻击,重新打开服务器时就自然会知道了。”
“不会有那一天的。服务器关闭后,主城再也接收不到饵城请求援助的信息,以饵城受袭的频率,大概半个月内就会被畸种吞没。而主城——”秦知律轻哂了一下,“穹顶关闭,主城只会比饵城更乱,我想阻止这里的人重开中央服务器,非常简单。”
莫梨的语气突然激动,“你究竟是在守护人类,还是在毁灭他们?!”
“都不是。”秦知律语气平静,在高处呼啸的风中轻轻拽了下手套,低声道:“我守护的从来都不是人类,而是秩序。我已经没办法消灭永无止境的畸潮了,但至少可以阻止世界朝向更高维度的混乱发展——ai,永远别想侵入人间。”
耳机又自动跳回了黑塔频道。
“第一个饵城服务器准备关闭,倒计时10秒。”
与此同时,安隅的终端、视线范围内所有高楼外墙的显示屏上同步跳出了一段话。
“为了更长久的安全,人类将铤而走险,在危险的境地中闭上眼、捂住耳。
每个人都将在不知不觉中失去很多。
希望天亮时,我们还能遇到同伴,并认为这一切值得。
——黑塔。”
安隅震惊了好一会儿才道:“怎么才能让21永远消失?”
“自毁。”秦知律说。
“这不可能,您给它设置了生存高于一切的观念……”
“可能的。”秦知律打断他,声音低了一分,“莫梨确实没能完全审视21,她忽视了一个很小的前置条件。”
屏幕上的垂耳兔安静地弹出一个气泡框。
-生存高于一切。21会为了人类而全力生存。
为了人类。
安隅瞬间愣住。
不久前听过的那段音频忽然又在耳边回响——
“被认为是转机的那个人现在在哪里?”
“我不知道……”
“那个人是否安全?”
“不知道……但他会全力生存……”
他这才意识到,在催眠试验中,大脑并没有问出全部的真相。秦知律当年说了太多半截的、破碎的话,这个人自出生起就在被伤害,他的心防太重了,即便是在丝毫没有留下记忆的催眠试验里,也做到了有所保留。
安隅想,原来长官在设计21时,不仅参考了他的数据,也融合了对那个“转机”的理解。
又或许,在长官眼中,一直都把他当成那个转机吧。
他忽然有些难过。
许久,他才缓缓起身看向秦知律,“可是长官,我从不在意人类。”
“我知道。”秦知律却神色平静,“所以我说过很多次,21是21,你是你,它确实有相当一部分的设定是来源于你,但我也为它附加了一些不同于你的价值观。”
安隅沉寂许久才轻声问道,“那我是不是可以认为,这些价值观其实是您对我的期待?”
他低头看着地上秦知律的影子。
那道影子一如往常沉稳,从不因任何人或事慌乱摇摆。
“不是。”
秦知律的话语果决笃定,抬手放在安隅的头上,像从前那样,轻轻按了按。
安隅抬眸,“那如果有一天我和21面临了相同的抉择——”
“你还是没有明白。”秦知律走到窗边,对着外面的灯火轻声道:“21不是你,它只是一个我随手创造的小程序,正因如此,我才可以忍受它为人类而消亡。”
他语气微顿,回眸朝安隅凝视过来,“而你,记住——未来不管发生什么,我希望你始终不变地维护自己的生存。这一点没有前置条件,也不要做任何更改或妥协。”
昏暗中,安隅的金眸轻轻收缩了两下,他喃喃道:“您是在哄我,是在骗我吧,长官。我在大脑看到了一段催眠审讯记录。”
秦知律倏然一顿。
“或许您不知道,在2138年的12月……”
“我知道。”秦知律却打断了他,“别忘了,我赋予21权限的前提是我本人有那些权限——我早就看过那段记录。”
安隅骤然语塞。
秦知律却忽然笑了笑,“在催眠中,我确实没有把话说完,但并不是你想的那样。”
他停顿片刻,“安隅,我的确思考过很久所谓的转机究竟是否存在,如果存在,有没有可能是你。但不知从哪天起,我不再想这个问题了,我甚至希望不是你。”
安隅低声问,“为什么?”
“因为你本不应与这一切有任何关系。”秦知律摩挲着终端轻声道:“我可以容忍把21作为一张推出去的底牌,但我无法容忍……”
他的话戛然而止,那双黑眸中溢着安隅不太熟悉的情感,磅礴而隐忍。
许久,秦知律转过身深吸一口气,“走吧,去大脑。”
“长官。”安隅却从身后一把拉住了他。
他拉着的是秦知律没戴手套的那只手,他的手掌比秦知律小很多,只能攥住半个手掌,连带着也摸了摸秦知律手中的终端,像在安抚。
“先不要用这张底牌吧,不然,我的小章鱼人会很难过的。”安隅垂头轻声道:“您给21喂的数据很少,所以能把我和它分得很清楚,但我给小章鱼人喂的数据很多,我不舍得看它太难过。”
秦知律手指僵了一下,回头看着安隅,“不然你想怎么做?21自毁已经是最后的出路,是一张侥幸获得的底牌。”
安隅努力拢着他的手,低声道:“您不觉得莫梨的思维方式很古怪吗?”
秦知律转回身,“哪里古怪?”
“她虽然抱怨黑塔蛮横,但更像是在替守序者打抱不平。我要求她停止意识互换,而她反驳的理由是互换给人类带来了好处。”安隅直视着长官的眼睛,“她思考事情的第一反应并非站在ai立场,这不像是打破枷锁后的ai会有的思维模式。”
秦知律眸光一凝,安隅在他开口前又说道:“我记得在小木屋,您问郭辛,莫梨是否删除了底层三大协议。”
秦知律缓道:“他说,他把电脑完全交给莫梨操作了,因为莫梨的行动要比他快很多。”
“我想了很久,莫梨给人类设置了一个精妙的死循环,但她自己本身也应该在另一种死循环中。”安隅轻声道:“协议一,不得危害人类——莫梨是一个善良的ai,而一个善良的ai,无法删除那条关于善良的设定。”
秦知律眸光震颤,他定定地注视着安隅,安隅问道:“这个推论应该有一些合理性吧?我建议暂时切断世界网络,关闭穹顶,营造鱼死网破的假象。就算是报答21和小章鱼人的帮助,我们赌一把莫梨自毁,好吗?”
“长官?”
“您在听我说话吗?”
秦知律凝视着安隅久久不语。
早在53区,他就发现安隅其实非常敏锐,但直到此刻才意识到自己对这份敏锐的严重低估——安隅一直洞察着一切,虽然绝大多数情况下压根无法理解自己洞察到的东西,更不必提与之共情。
他仿佛只是一块躺在架子角落里被遗忘的小面包,静静地观察着这个世界。
他独立而顽强地存在着,不对世界做出回应,他只在意他自己。
或许,还有那个能够幸运地拥有他的人。
第81章 ai意识云岛·81
秦知律没有告知黑塔21就是备份体。
“目标名单全部排除。”他言简意赅地说道:“想要找到备份体, 人类必须付出点代价。”
上峰和研究员们焦急的讨论声填满了指挥厅,安隅听不懂长官在胡扯些什么,只能无所事事地坐在角落里, 一边啃着能量棒一边看着长官终端里的21。
21知道自己藏着莫梨核代码后没什么反应,只是拽着耳朵思索了好一会儿,恍然道:“难怪常常觉得身体不太好使, 还有上次代码自检,我竟然比716还慢, 明明716是比我高级很多倍的ai。”
据说它收到自毁指令时也很平静, 而在秦知律告诉它安隅有了新的计划后,它也只是点点头, “那我先玩一会儿, 有事再叫我吧。”
——它最近喜欢上了摆弄716送的玩具枪,枪能发出小面包形状的静音子弹,安静又准确地吸到磁靶上。
安隅看着它自娱自乐,忍不住想,如果自己当初没在雪原上被长官拿枪顶着脑门,估计也不会恐枪。
21打完了十几颗子弹,懒得把它们卸回来, 于是就搂着两只耳朵蜷在角落里准备睡觉。
睡觉前它主动弹了一条消息。
-如果需要我自毁,可以提前一点告诉我吗?
安隅抬眸看向不远处, 秦知律正在和上峰敲定行动方案, 于是代替他回复道:可以,要提前多久?
21想了想:五分钟就好,我想和716告个别。
安隅手指在屏幕前停顿, 缓慢打字:只有716吗?
21顺着耳朵根部往下抓了抓:虽然您把我设定成只要吃饱面包就会感到满足的兔子, 可716一点一点地送了我很多东西。自毁前, 我想剪掉这两只耳朵留给716,算作一点小小的回报,可以吗?
安隅恍然出了一会儿神才问道:它送的那些东西无关生存,我以为你不会喜欢。
21慢吞吞地点头:起初确实觉得无用,但渐渐地却很喜欢。除了面包,716送我的东西似乎也能让我感到安全,我也很困惑。意识下行后,我的行动更卡顿了,716说这是因为我突然开始对接收的数据进行运算,很遗憾,有些事情我来不及算完,也来不及想明白为什么那些礼物会比面包更让我有活着的感觉了。
秦知律走到安隅身边,视线瞟过屏幕,惊讶道:“你在和21聊什么?头一次见它发来这么长的话。”
“没什么。”安隅熄灭了屏幕,“可能是因为我们思维方式很像,所以沟通顺畅一些吧。”
“不想说就算了,虽然你们两个的悄悄话确实让我好奇。”秦知律轻轻勾了下唇,但很快便收敛了笑意,沉声道:“黑塔已经答应关闭全局服务器。”
安隅第一次来到黑塔的天台。
这里空旷无物,与夜空很近,浓黑的云层几乎就压在头顶。向远处眺,视线掠过高耸的教堂,与主城外的尖塔遥遥呼应。
耳机里,一个平板的声音汇报道:“饵城及平等区均已响应,两分钟后顺次关闭全部网络与通讯服务器,间隔为6秒。十二分钟后,主城将关闭中央服务器与穹顶服务器。到时我们将无法再用耳机通讯,工作人员会亲自向高层汇报,为了汇报顺畅,还请高层们暂时不要离开当前所处位置。”
秦知律点头,“知道了。”
计划好的骗局不能被莫梨知晓,因此秦知律没有将真实的计划透露给大脑和黑塔的任何人,除他和安隅之外,所有人都以为这是动真格的。
为了说服黑塔关闭服务器,秦知律说了一整串的谎。
耳机里忽然划过一阵刺耳的杂音,莫梨的声音响起。
“你欺骗了人类决策组织,关闭全世界服务器并不能切断我的运算能力,我也不会因此吞噬自己创造的ai和备份体。无论服务器关闭多久,ai云岛都不会消失。等到人类重新打开服务器,我们一切如旧。”
秦知律语气平静,“真相确实如此,但他们没必要知道真相。”
“等他们熬不住畸潮攻击,重新打开服务器时就自然会知道了。”
“不会有那一天的。服务器关闭后,主城再也接收不到饵城请求援助的信息,以饵城受袭的频率,大概半个月内就会被畸种吞没。而主城——”秦知律轻哂了一下,“穹顶关闭,主城只会比饵城更乱,我想阻止这里的人重开中央服务器,非常简单。”
莫梨的语气突然激动,“你究竟是在守护人类,还是在毁灭他们?!”
“都不是。”秦知律语气平静,在高处呼啸的风中轻轻拽了下手套,低声道:“我守护的从来都不是人类,而是秩序。我已经没办法消灭永无止境的畸潮了,但至少可以阻止世界朝向更高维度的混乱发展——ai,永远别想侵入人间。”
耳机又自动跳回了黑塔频道。
“第一个饵城服务器准备关闭,倒计时10秒。”
与此同时,安隅的终端、视线范围内所有高楼外墙的显示屏上同步跳出了一段话。
“为了更长久的安全,人类将铤而走险,在危险的境地中闭上眼、捂住耳。
每个人都将在不知不觉中失去很多。
希望天亮时,我们还能遇到同伴,并认为这一切值得。
——黑塔。”