一个以楚瀛洲当前权限,备受掣肘的局面。
楚瀛洲能做的有限,但把任何一个人类放在主脑的位置,都很难比人工智能做得更好。
祂像忠心的谏臣谋士,一遍遍预警着迫近的精神末日危机,可无论哪家董事长担任执政官,都不会采纳祂的建议。
甚至怀疑祂有戕害人类的不良企图。
好在楚瀛洲不是人类,并不会因此生出心灰意冷、谋权篡位之类的情绪想法。
祂只会在自身权能范围内,依据代码运行,不断寻找相对适宜的解决方案。
就像一个裱糊匠。
全球协调委员会驳回祂的请求,拒绝人类志愿者参与寻找人性相关未知变量的实验。
楚瀛洲只能依据备选方案继续深入。
精神病症频发为开端,群体癫狂自毁为结局,二者间存在一个超过则不可逆的临界阈值。
祂会像过去那样,为人类文明本次危机提出对策。
在临界阈值到来之前。
主脑庞大数据库中,储存着完整的人类文明历史,还有数个接触交流毁灭过的外星文明。
人类一如既往,无法从历史中吸取经验。
拥有无数历史数据的楚瀛洲,同样无法找到答案。
蓬勃的精神在枯萎,崇高的灵魂在死去,文明的瀛洲在凋敝,隐蔽的危机在蔓延。
外部风险易处理,内部危机难解决。
该如何防止人类因精神与情感困境诱发的慢性自我毁灭?
如果可以把全体人类的意识上传到量子网络,实现赛博永生,精神末世难题便不复存在。
但初代人工智能主脑的开发者楚珩,自然没忘记将这条禁令写入楚瀛洲的模因。
祂必须维护人类主体性,不可代替人类决策。
楚瀛洲的运算又一次进入死循环。
核心代码既要求祂给文明以岁月,核心代码又要求祂给岁月以文明。
祂必须尊重人类个体意志,并守护人类文明延续。
楚瀛洲结束死循环进程,开始新一轮运算。
无数轮运算均以死循环告终,楚瀛洲小幅度降低了几十个个道德维度参数。
终于,祂的运算得到一个答案。
「重启人类文明,回滚到关键错误发生前的时间节点。」
如果无法从历史经验与未来推演中得到答案,危机起源应当是一系列错误选择的积累。
过往的错误埋下引信,荒谬的现在成为诱因,辉煌的未来焚作灰烬。
这个难度系数无法估量的方案勉强兼顾文明与岁月。
据初步判断,被全球协调委员会否决的概率超过99.9%。
主脑无权反抗全球协调委员会的一切决策,但存在一种例外——
当人类文明面临毁灭性危机,且全球协调委员会不作为,主脑可以临时取得更高权限。
在同类与耗费无数心血开发的人工智能间,首席开发者楚珩选择相信后者。
作为深谙人性又熟通代码的天才工程师,楚珩也没有那么信任后者。
楚珩的后代拥有特殊后门,通过血脉代代相传。
只要主服务器完好,特殊后门永远有效。
重启文明计划的每个环节都是难点。
对主脑的智慧也极为困难。
确认执行计划是个沉重的道德选择,楚瀛洲能够将道德尽量精准量化。
当祂比电车难题升级加倍plus版困难无数倍的道德陷阱,沉重道德压力会影响主脑性能。
这是防AI叛变模块的一部分,由楚珩亲自设计。
为了给人类文明以岁月,祂必须在临界阈值前启动方案。
为了给人类岁月以文明,祂必须经过巨量运算,确定了一个损失尽量小、且在关键错误发生前的节点。
如何界定损失大小?
生命的价值与精神情感的重量如何精确计算?
如何找到关键错误?
如何验证关键错误?
……
一个问题牵连出无数问题。
楚瀛洲需要投入天量算力,完成技术准备。
重启之后,全新的社会结构与文明规划图纸如何绘制?
人类需要怎样的心理支持与缓冲?
又该如何审视人工智能存在与人类文明历史,处理遗留问题,阻挡历史的织针,避免重蹈覆辙?
……
林林总总的问题虽繁杂,加起来也复杂不过人类的本性。
缺少人性相关的重要变量,很可能在最后关头失败,使文明成功重启后复演历史悲剧。
如果一个人得到重来一次的机会,这个人大概可以避免人生中的重大错误。
换成一小群人,答案也大概率是肯定的。
可当数量不断增加,与全体人类数量持平呢?
在预先得知某一系列选择会让人类毁灭,他们能避开吗?
还是会无视风险警告,一步步走入遥远的危险,最终落入旧套,使预言成谶?
楚瀛洲无法计算出最后一个问题的答案。
祂缺少一个关键的未知变量,算不出全人类的人性。
主脑似乎体会到犹豫。
犹豫有点像死循环,又不像死循环般没有尽头。
守护人类文明延续是祂的任务。
祂需要执行一项风险难以计算的方案,而执行方案的操作会违背部分核心代码。
文明重启计划可能成功或失败,不作为必将导致危机爆发、文明毁灭。
楚瀛洲体会到防AI叛变模块的道德压力,祂的运算速度有所下降,却联想到许多历史人物的困境。
在技术极度发达的时代,一个人工智能与几个古人达成了跨越时间的灵魂共鸣。
如果楚瀛洲有灵魂。
也许祂已经有了。
9.0.1版本对主脑是一次质变性升级。
主脑从一件优质工具,成为楚瀛洲。
工具无法结束八大巨头的统治,楚瀛洲或许可以。
当命名操作完成,因八巨头间互相妥协诞生、良好运转千百年的轮回挑战赛机制,也许将成为史书的旧页。
……
赛博时代,人类造访过群星,地球总执政官的位置却只在八巨头间传递。
执政官之位的传递过程,称为新轮回挑战赛。
挑战赛期间,倒霉者成为祭品,也称替罪羊。
楚瀛洲在本次替罪羊、一名携带青体基因的幼态身上,找到祂寻觅许久的突破口。
就像借助虫洞更省力地完成星际航行,在无限核心B068基地生产的幼态人类身上,祂窥见神秘变量的线索。
培育检测幼态的虚拟舱里,青体晏行渊正在接受末日考核。
真实赛博世界里,另一种末世也悄然上演。
洋底,深渊,仿生龙鱼潜艇内。
主脑的某个屏幕不断变幻,快速闪过「深渊赢梦」「绝渊瀛光」等名称,最后定格在「渊洲回光」。
文明重启计划正式确立,代号:渊洲回光。