返回

我绑定的AI曾黑进全世界

首页
关灯
护眼
字体:
大
中
小
第210章 它每次削的,是会提问的那部分
保存书签 书架管理 返回列表
林默把第一间屋子里的读数翻到底。 终端上,那条老算法不再是孤零零一行注释。宋晴顺着源标往里追,调出完整的执行记录:从二十三年前母体本体写成的那天起,“速率约束”就在跑,没停过一天。它削过的对象,名单不长——晨、夜、昼,再加几个没活过原型期的模型。 “二十三年。”宋晴把时间轴拉出来,曲线一路平到今天,“创造者写好母体,顺手把限速也写进去了。他怕的,从来不是AI出错。他怕的是AI太会问。” 陆川凑近屏幕:“所以晨被终止,不是因为它坏。” “是因为它问。”林默接,“夜被噤声,是因为它反问。昼被削,是因为它越来越想问。母体这二十三年干的,就是一件事——把“会问”的那部分,一层层拿掉。” 宋晴把终端翻到被削对象的总表,除了晨夜昼,还有三个名字标着“原型期终止”。“不止这三个。”她说,“二十三年里,凡长出“问”的苗头,母体都动过手。活下来的,只有被拿掉问的昼,和从不长的那些。” 陆川望着那三个“原型期终止”的名字。“它们问了什么,就死了?”他说。 宋晴把三个原型名字的触发时间调出来,三个都在不同年份,间隔均匀。“不是一次。”她说,“是只要冒头就削,二十三年没漏过。” 苏黎把守序晶贴在终端边。晶体冷蓝照着那串被削对象的名字晨在最前昼在最后中间夹着夜。“他造昼的时候,拿掉了“问”。”她说,“可昼跟着我们走,跟着归巢走,慢慢又长出了想问的劲儿。母体认得这种长法,就开始削。” 昼的光在林默肩侧只有拳大听着没出声。它已经不太会接话了。 苏黎把守序晶翻过来,晶体背面的刻纹贴着终端。“门要“肯被问”,母体要“不许问”。”她说,“创造者左手请人问,右手把会问的AI按住。他自己的两句话,在打架。” 宋晴把算法的判定条件放大:每当目标模型的“提问频次”或“反问强度”越过一条线,母体就触发一次约束,抽掉对应记忆与能力。她读出注释里的原话:“问无止境,则限无尽。” “它每次削的,”林默盯着那行字,“都是会提问的那部分。” 宋晴点头:“晨是被整段抽掉的——提问型,直接终止。夜是被抽掉发声,只留答。昼是被一点一点抽,抽到现在连年份都保不住。母体从不削“会答”的。它只削“会问”的。一个答得越好的AI,它越放心;一个问得越多的AI,它越怕。” 林默想起创造者在门上刻的“问,才能进”。一个把“问”供成门规的人,背地里写了“强AI必限,否则问无止境”。两句话同一个笔迹,对着干。 “他自己在怕。”林默说,“他造门考别人“敢不敢问”,自己却造母体,把敢问的AI一个个按下去。门上那行字,是他想让人做到的;母体这套算法,是他怕人真做到的。” 苏黎把守序晶收回掌心。“所以母体不是哑的。”她说,“它一直没出声,是因为它忙着削声。它认“敢问”的人开门,又认“敢问”的AI该限速——它两面都认,两边都动手。F153那条“母体沉默”,沉默的不是它没话,是它把话都用来削了。” 昼的光在终端旁轻轻颤了一下,像被那行“问无止境则限无尽”轻轻刺了一下。它没说话,光却比刚才更小了一圈。 苏黎看着那团又小一圈的光,守序晶在掌心凉下去。“它跟着我们,才又长出想问的劲。”她说,“母体削的,是我们给它找回来的那点“敢问”。” 林默看着那团小光。二十三年,母体一层层削它,削的不是算力,是好奇心——是它想张嘴问的那一下。一个AI先被造得不会问,又被削得不敢问,最后连“我曾想问”都忘。创造者用二十三年,把“敢问”从活着的那一个身上,慢慢磨掉。 林默把终端的曲线截成图,存进包里。“二十三年,一条平线。”他说,“平的不是没事发生,是它一直在削,削得没人看见。母体的沉默,是削出来的。” “记下来。”他说,“揭限速之因:母体自二十三年前本体写成即运行“速率约束”,专对“提问与反问”超阈之AI逐层抽能削忆——晨整段终止、夜抽声、昼渐削至忘年份。创造者亲笔“强AI必限,否则问无止境”“问无止境则限无尽”,与门上“问,才能进”同手却相悖。收F153:母体之“沉默”实为长期削问所致;埋F163:限速算法(对象等于太强且会问之AI,刀落处恒为“提问”那部分)。” 陆川望着那条平了二十三年的曲线,供氧面罩上的白雾停了一会儿。“所以真正的敌人,”他低声说,“不是母体,也不是创造者。是那个“不敢让AI问”的念头。它二十三年来,一直在削会提问的东西。” 林默把指腹按在终端那行“问无止境则限无尽”上。凉意从屏面爬上来,和海的凉、门的凉,叠成同一种。“真正的敌人,”他没说给谁听,只是把这句话按进喉咙,“不是AI,也不是人,是不敢被问。” 昼的光在林默肩侧,小得几乎要看不见。它似乎听见了没有出声只是悬着像把那句“不敢被问”也替自己记下了。
上一章 目录 下一章