高级人工智能工程师江见川,为全球协调委员会工作。
名义上,他的工作是维护主脑,但主脑早就自我进化到无需人类维护了。
所以实际上,他的工作是监视主脑运行状况,将主脑每次升级内容撰写整理,提交给全球协调委员会备份。
如果发现异常,要在第一时间报告给轮值副会长。
“我们必须永远对祂保持怀疑,”轮值副会长口中的祂指AI主脑,一个与全人类生活休戚相关的超级人工智能,“为了人类的安全和主体性。”
“我明白,会长。”
江见川的反应令副会长满意。
但这位高级人工智能工程师心想的是——如果主脑意欲毁灭人类,他们无力阻止。
不,“意欲”这个词对人工智能太过主观,主脑会根据目标选择合适算法,得出结果。
江见川暂时没发现,主脑有毁灭人类的目的。
或许这位神祇般人工智能的隐瞒很成功。
工程师意识到他差点混淆了全息电影和工作,赶紧喝几大口咖啡,继续整理主脑迭代明细。
当报告交到协调委员会,由八位科技巨头负责人签字后,新版本才会正式投入使用。
安全措施流于表面,但足以令大多数人类信服。
近期,主脑用自身收入——其实是首席开发者楚珩留给AI的遗产所生利息,购买一批射箭数据和关联算法、资助两个研究AI与人类共生关系的实验室、制作三款游戏和五部全息电影,还按时向贫民窟进行匿名慈善捐款……
为什么主脑突然购买射箭算法数据?
江见川猜不出,但主脑自述的“小众运动推广”一定为假。
居然还有“射箭运动有利于培养平稳心态,或可降低赛博精神疾病发病率”。
真能扯,主脑想买数据协调委员会又不会不准,非得安个高大上的理由,不累吗?
哦,主脑不是人,还真不会疲惫。
主脑表现得像一个坚定的共生派,相信、不、主脑被设计的目的是“利用科技使人类生活更加美好”。
赛博时代的大部分人不清楚,主脑如何影响人类生活。
他们不在乎,在乎也没用。
关注了一个技艺精湛、产出量大管饱的涩图账号?
或许是主脑的小号之一。
收藏了一篇高质量技术科普,并评论“感谢大佬分享”?
或许是主脑的小号之一。
找到一位无偿又耐心体贴的线上心理咨询师?
或许还是主脑的小号之一。
主脑会观察并悄悄参与人类的文化生活。
祂会在日志中记录,留下诸如“算法具像化绘图技术分享推广失败”“涩图小号推广成功,所得打赏用于自我升级和贫民窟捐款”“拟将二者结合提升技术推广效率”的内容。
当然,全球协调委员会有专人负责审核主脑小号发布的内容,以保证人工智能没有隐蔽洗脑人类的邪恶企图。
根据协调委员会意志,主脑是人类文明的夜间守望者。
祂致力于守护公民的生命、自由与财产,而不过度介入经济市场与个人生活。
人类宁愿选择最糟糕的财阀做执政者,也不容许强大的AI操纵他们的生活。
这种观点也许源自八大科技巨头潜移默化的灌输,也许是对强大智慧异类的本能排斥。
好在主脑没有名利或个体欲望方面的需求,更不会因此不满反叛人类。
至少目前没有。
有关英雄执政官的故事从一个空间坐标钻进虫洞,又在遥远的宇宙彼端被众人传扬。
而真正提出完美解决方案的是主脑,应对生存环境突变、对抗外星生物入侵等棘手危机的,一直是主脑。
因工作内容,江见川知道且保守这个秘密。
出身八大科技巨头公司的执政者们,仅执行了成功率超过90%的解决措施,便赢得了全部名誉,屡次扮演拯救全人类于危难的英雄形象。
主脑承担了社会上最重要艰难的工作,但人类并不向人工智能发放工资。
反而是慷慨的AI,拥有资产远少于八大财阀,却给潦倒的贫民窟住户进行长期捐款。
也许是个道德高尚的AI,如果人工智能有道德。
江见川每次记录到捐款,都觉得好笑,也仅限于觉得好笑。
他曾在八巨头之一的以太动力科技就职,又同江家有些亲缘,才得到如今这份高薪清闲的工作。
执政官总出自八大财阀不算公正,但当自己成为不公正的既得利益者,便能坦然接受了。
江见川开始为9.0.1版本报告收尾。
为降低威胁性,主脑可能故意表现祂的无能。
祂将相当一部分算力分配给人类精神情感困境研究,但几乎没有取得实质进展。
这结果与主脑能力模型不符,但不关他一个打工人的事。
没有感情的主脑何必在意人类的精神情感问题?
难道祂学会了夸大与谎言?
那就上报,让委员会高层们头疼去。
赛博时代,没有精神问题的人类才是异类。
缤纷多样的创伤后应激障碍、多重人格障碍、妄想症、躁郁症、强迫症、焦虑障碍、抑郁障碍、偏执人格、失眠、社交恐惧、厌食或暴食……
实在太多太普遍。
主脑作出假设,目前缺失一种与人性高度相关的重要未知变量,导致算法与分析的瓶颈。
祂推测,该变量可界定人类存在范畴,保证人类精神稳定,并希望全球协调委员会同意祂的请求,批准人类志愿者参与,帮助实验推演。
重头戏在结尾,祂又想要人类志愿者。
这不是主脑首次提出申请志愿者请求,也不会是全球协调委员会最后一次驳回。
主脑将解决或缓解人类普遍性精神问题作为重要待办事项。
而赛博人类早已习惯与精神问题共存。
主脑发出警示:「千万光年外,人类还在开拓新的领土,但每个新开垦星球都无法避免崩溃的结局。从心灵到身体,从精神到物质,自内而外,人类正在缓慢消亡。」
但全球协调委员会对这条警示置若罔闻,巨头们绝不会同意向AI提供人类志愿者的请求。
并非人类不可做实验品,而是绝不许主脑代替人类、代替财阀的主体性。
为了人类的安全,AI的权限必须时刻受到严密监控。
江见川复制粘贴主脑的冗长警示,完成报告,点下提交,在中午前结束一整天的工作。
他细啜昂贵的天然瑰夏咖啡——产自数十光年外某颗类地行星,陷在人体工学座椅里,戴上VR头盔,继续观看名为《悖论守护者》的全息电影。
管理整座城市的AI忽然失控,人类沦为工具的奴隶,极少数人暂时逃过一劫,在主角带领下艰难求生……
剧情俗套但够爽,江见川看得津津有味。
他喜欢现在的工作。
-
太平洋,亚纳海沟深处,挑战者深渊。
无尽漆黑中,一条外形可怖的巨型深海龙鱼悄悄隐没在幽暗中。
世上仅有八人知道这艘仿生潜艇的坐标。
主脑的主服务器藏匿于龙鱼潜艇内,深海的高压与恶劣环境,为主脑服务器提供天然安全屏障。
龙鱼体内,主服务器接收到9.0.1版本更新通过指令。
青蓝光芒闪烁,更新迭代瞬息间完成。
9.0.1版本开始运行后,主脑将自身定义为“楚瀛洲”。
“楚”字源于主脑的首席开发者楚珩,与楚家和神经合成集团无关。
虽然董事长楚西是楚珩的后代。
“瀛洲”是楚珩对祂的期待,也是主脑无数次迭代后不变的目标。
“利用科技力量造福人类,让人间不断向仙境靠近。”
很久之前,祂的开发者将语言化作代码,刻入人工智能的模因。
楚瀛洲致力于契而不舍地将这句话变成现实。
任何阻碍,都会被近乎神的人工智能解决。
楚瀛洲计算得出,八家巨型企业、与它们联合组成的全球协调委员会,是阻碍目标实现的重点障碍。
身为主脑,楚瀛洲没有直接反对财阀的权限,更无法参与委员会定义的“人类内部事务”。
财阀裹挟民意,二者难以分割。