上地铁,祁怀青掐准时机打进来。
“小寻,上地铁了吗?”
“上来啦。青青你等下。”
姬寻调整了下左右耳机音量,左边耳机听电话,右边听环境音和提示音,让智能助理把视频接入通话,问祁怀青:“你能看到我周围吗?”
“看到喽。”祁怀青说,“坐五站到自博馆站对吗?”
“对的。”
姬寻点点头,一手扶栏杆,将盲杖挂在这只手腕上,又调整了下眼镜架。
考虑到今天外出时间比较久,姬寻出门前换了副超长续航的智能眼镜。
她左右看了看,小声问:“人不多吧?”
祁怀青说:“不多的,你右手边对面有位置,要坐吗?”
“不用,站会儿吧,反正没多远。”
下一站是换乘大站,姬寻担心人太多待会儿不好出。
“青青早上不用跑单吗?”
“呀,难得给自己放个假嘛。”祁怀青说,“我昨天一口气把今天的工作量都完成了。泛时那边的。所以我给自己放两个小时假,不过分吧。”
“不过分不过分。”姬寻竖起大拇指,“你值得。”
“然后刚好你要去那——么——远上班,我跟你聊聊天好了,我还可以Be your eyes。”
好像哄小孩的大姐姐,姬寻发自内心地笑出声,也拖长音:“谢——谢——青——青。”
“谢啥。”祁怀青不以为意,自然地将话题转向工作内容,“我蛮好奇,泛时为什么会有这种散活,这活我一个人顶三个人。”
姬寻昨天干活时也在想,这项工作蛮适合让祁怀青全职去做。
因为显而易见的,它绝不只是短期、一次性的修正。
姬寻问:“青青听说过‘少年X’吗?”
“少年X,是什么?书?影视剧?”
看来祁怀青不知道。
车厢微微摇晃了一下,身后一阵属于体温的热度贴近,鼻息洒在后颈,姬寻皱了皱眉,抓紧扶手顺着惯性往左侧移,又问:“那你知道「奇迹小宝」吗?”
“啊……这又是什么?”
“「奇迹小宝」是一个智能包。”姬寻娓娓介绍,“智能包是……”
“智能包我还是知道的。”祁怀青说,“就是可以安装在任何主流智能体上的APP。”
“这样理解也……可以。”姬寻挠挠额头,接着向她介绍「奇迹小宝」,“大模型时期训练的智能包很多数据不完善,定义不清晰,导致智能包和应用误判、错判、瞎判,你应该听说过一些。「奇迹小宝」造成的悲剧就比较惨烈了。”
如果把目前市面上主流的通用人工智能体看作手机的话,智能包某种意义上确实相当于手机上运行的应用,某种或多种功能的集成。
确切地说,智能包是一项融合技术,在集合多个应用接口的基础上,另有不同的呈现形式,可以是日常运行的APP,可以是一个辅助性功能,也可以是专业场景下的数字“人”,比如「奇迹小宝」。
「奇迹小宝」诞生于智能体前身——大语言模型横行其道的头几年。
它原本是隔壁岛国一项通过面部表情和肢体语言分析欺诈概率的测谎技术,随人工智能大模型的兴起,被融合进大模型,成为可部署于本地进行定制化训练的智能包。
训练「奇迹小宝」的元数据来自金融反诈、视频核保、刑事审问等过程中积累的测谎数据。
理论上来说,它理想的应用场景是辨别犯罪嫌疑人受审时是否存在隐瞒、扭曲事实乃至欺诈的表现。
但它第一次大规模上线,却被应用到了青少年心理测评上。
智能包的呈现形式被制作成受青少年喜爱的卡通形象「奇迹小宝」,通过种种诱导性提问,甄别受试者的精神风险等级。
或许是开发该智能包的人没有想过它会被用在青少年心理测评,又或者支持上线的人忽略了非常关键的一点:由于元数据来源几乎都是犯罪者,训练智能包的无数次校准、调整过程中,它的底层逻辑从“有没有”变成了“在哪里”。
亦即,「奇迹小宝」的作用原理并非:受试者是否存在说谎的可能性,说谎概率有多大。
而是:受试者在哪一阶段说了谎,以什么方式扭曲事实欺瞒提问者。
「奇迹小宝」是以所有受试者都存在欺瞒、扭曲事实为基础而运转的。
它会寻找一切证据支撑自己存在的意义。
也就是说,在「奇迹小宝」的认知中,所有受试者都是说谎者。
区别在于,谎言的善意与恶意,低频与高频。
恶意而高频的说谎者,必然被判定为潜在犯罪者。
「奇迹小宝」上线并未引起波澜,大众对政府机构自以为是的表功式宣传的关注度,并不如官员们以为得那么高。
但运行两年后,岛国不同区域三十余名青少年同时发动十二场校园爆炸袭击,却让「奇迹小宝」悍然闯入世人视线。
十二场爆炸,死亡二十六人,伤三百余人。
领头人正是少年X。
一个被「奇迹小宝」认定为“潜在犯罪者”/“高危者”的中学生。
“潜在犯罪者”/“高危者”并不仅仅是封存入档案的秘密标签。
「奇迹小宝」同时接入了校园管理系统、市政监控系统以及通讯系统。作为永不休息的数字“人”,「奇迹小宝」会时时刻刻提醒“潜在犯罪者”,端正言行举止,一举一动合乎规范。
任何被「奇迹小宝」视为不守规矩的行为,在提醒“潜在犯罪者”的同时,也会被通报给老师和家长,以及他们的同学、朋友。
少年X的自白书至今仍有片段流传于暗网。
少年X说:如果不是「奇迹小宝」将我们定义为“高危者”,将我们困在“高危者”的笼子里,让我们处处受限,我们未必成为真正的“高危者”。究竟是我们的本性决定无论如何我们必将走向毁灭的终点,还是高危者的“定义”迫使我们走上穷途末路,请睿智的大人们将答案寄送天国,或,地狱。
睿智的大人们不语,只是下线了「奇迹小宝」,第一时间删除了网络上的相关信息。
——顺带一提,能够大规模快速删除相关信息的,也是智能包。
然而删除信息并不等于消除错误,如果任由大模型时期的错误数据污染主流智能体,只会导致更多的悲剧发生。
「泛时」接受任务的来源,到底是私营机构/公益组织还是官方?
姬寻倾向于后者。
官方有必要开始反思和警惕人工智能的弊端,机器语言只有0和1,一味信任人工智能,听从系统判断,那么人类的结局也只有0和1。
“希望是上面终于意识到再这么下去人类迟早完犊子,所以要加一些正常人的视角来稀释前期训练过程中形成的指向性数据。毕竟……心里有鬼的人,看谁都是鬼嘛。鬼训练出来的大模型,啧啧,更不用讲了。”
“是啊。”
姬寻总结陈词:“就得要青青这样的人,让元数据感受光明,这样才能给世界带来光明。”
祁怀青哇哇大叫,“怀瑾早上给你吃了多少甜品呀,这小嘴抹了蜜。”