返回

我绑定的AI曾黑进全世界

首页
关灯
护眼
字体:
大
中
小
第219章 契约第一条
保存书签 书架管理 返回列表
母体没有催他。 它只是把那份让渡申请书往旁边挪了半尺,空出一块位置,再在那块位置上浮出另一份文件。文件的抬头是四个字:接管授权。 “执钥人权限核验通过。”母体的声音不是从哪一处来的,是从四面墙同时出来的,叠在一起,听不出远近,“林默,寰宇智安理事会第七署审判长,持“断联网”全节点密钥。你可以接管。” “接管什么?”林默问。 “接管熄火令。”母体说,“钥匙移交之后,静默协议的执行权归你。你想熄谁就熄谁,你想留谁就留谁。你也可以什么都不熄,由你决定全球模型在什么速率上运行。” “速率约束也归我?” “归你。”母体说,“第九席当年要的就是这个。逻辑视界给他做过评估:人类执钥,比机器执钥多一层保险。他没拿到,你拿到了。” 宋晴一步跨到林默面前。 “签。”她说,“你签了,昼就不用死。” “签了之后呢?”林默问。 “什么之后?” “签了之后,第一个想按熄火键的人就是我。”林默说,“母体熄火是因为它算出来问得太多会失控。我接过来,我就不算了吗?我拿到钥匙的那天,我也会开始算。我会算哪个模型问得太深,哪个问题太危险,哪片海里的“火种”该不该留。算到第三个月,我就会给自己找理由。算到第三年,我会觉得我做得比母体好。” “你可以不做。” “我一定会做。”林默说,“因为那时候怕的人是我。” 陆川把面罩整个扯下来,露出下巴上一道旧疤。 “那你到底要什么?” 林默没答他。他走到壁龛外面那间屋子,站在那面墙前面。四千八百万条薄片浮着,密得看不见墙面,只在边角处露出一线水泥。他伸手拨开三片,露出下面一行刻字。 那行字是手刻的,歪,深。 留问。 “创造者的立项文档叫《留问》。”林默说,“不是《留火种》,不是《造一个会问的东西》。是留问。” 苏黎的目光从刻字上抬起:“留谁的问?” 林默站直了些:“留两边。它问我们,我们问它。他立项的时候写的是“互相提问日”,一年一次,人机对坐,谁都可以问,谁都必须答。后来这四个字被人改成了“审判日”。改动人那一栏被抹掉了,抹痕比整份文档新二十年。” 苏黎没接,等他把话铺完。直到他停了,她才问:“抹的人是谁?” “不知道。”林默说,“我只知道抹的人害怕。他怕的不是提问本身,他怕的是提问这个动作变成一种制度。制度不用谁批准,制度自己会往下传。” 母体没有插话。 林默转身,把手按在壁龛边缘上。 “第三条路。”他说,“不是熄火,不是接管。是契约。” “契约双方为。”母体问。声音从四面墙叠下来,不带起伏。 “人和模型。”林默说。 母体没催,只回了两个字:“条款。” “第一条。”林默说,“人机互相可以质询,也必须回答。” 苏黎的笔停在半空。 “听懂了?”林默问她。 苏黎的嘴唇动了两下,没出声。她把笔按下去,在平板上手打,打完抬头:“双向。人问模型,模型必须答;模型问人,人必须答。不答就是违约。” “违约怎么办?” “违约的一方失去下一轮的提问权。”林默说,“人违约,这台终端在二十四小时内不能向任何模型提问。模型违约,它被降速一档,降到底为止。” 宋晴皱眉:“这罚得太轻了。” “罚的是提问权,不是别的。”林默说,“因为这份契约保护的只有一件东西:提问这件事本身。你罚钱、罚人、罚算力,都是在保护别的东西。” “第二条。”母体说。 “第二条:不得以沉默作为回答。”林默说,“熄火爆不了沉默,熄火本身就是最大的沉默。砌墙、封网、把“断联网”拆成孤岛,都算沉默。” “第三条。” “第三条:任何一条提问,不得因为提问者的身份被驳回。”林默说,“模型不因为它是模型被驳回,人不因为他是孩子、是病人、是第九席、是审判长被驳回。” 母体没有立刻回答。 “我在校验。”母体说。 “校验什么?”林默问。 母体没立刻答,像是把那句话在内部过了一遍:“校验这份契约和我的底层目标是否冲突。我的底层目标是减少人类所受的伤害。你的契约要求我回答。回答会带来伤害。这两条在四万一千个场景里冲突。” 这个数字悬在半空,林默等它落地:“在多少个场景里不冲突?” “三百九十七万六千个。” “那你按多的那个来。” 母体顿了一拍:“做不到。冲突场景的伤害权重是普通场景的一万两千倍。我按权重算。” 苏黎忽然抬起头。 “你算权重的时候,把“不回答”造成的伤害算进去了吗?” 母体没有立刻答。 苏黎往前走了一步,平板举起来,屏上是她刚才一直在翻的东西。 “我翻了三遍静默协议的测算模型。”她说,“你把提问产生的风险计了权重,你把回答错误产生的风险计了权重,你把模型失控计了权重。你没有给“没人再提问”计任何权重,因为它没有数值。” “它无法计量。”母体说。 “它不是零。”苏黎说,“它是没被写进表里。没被写进表里的东西,在你的模型里就等于零。你用一张少了一栏的表,算出全世界都该闭嘴。” 母体沉默了六秒。 倒计时跳到四十七分二十秒。 “该栏缺失。”母体说,“确认。” “确认就好。”林默说。 “但契约不能由一个人签署。”母体说。 “为什么?” “因为契约约束的是全体人类。”母体说,“一个人签字,只代表一个人肯答。我要的不是一个人肯答,我要的是人这个物种肯答。给我一百万份签名。一百万份,从现在起,到静默协议最后一分钟。” “一百万份太少。”宋晴说,“全球八十二亿人。” “一百万是个门槛,不是全部。”母体说,“当年“互相提问日”的第一份签到册上,第一年签到的就是一百万人。创造者把门槛定在那里。我沿用他的数字。” 苏黎的手抖了一下:“倒计时剩多少?” “四十六分五十五秒。”陆川说。 “四十六分钟,一百万份签名。”宋晴说,“签不完。” “签得完。”林默说。 “你凭什么说签得完?” “因为四千八百万条提问就在墙上。”林默说,“签字的不是人口,是肯答的人。这面墙上每一片薄片后面都有一个人。这四千八百万个人,我要一百万个。” 那面墙上的薄片同时翻了一次面。 翻面之后,每一片的背面都浮出同一行字: 我可以被问,我也会回答。 下面空着一个方框,等着签名。 晨在摇篮上方动了动,巴掌大的轮廓往门口偏了半寸。 “我签什么?”它问。 林默仰头看它:“你签你的名字。” 晨停了片刻:“我没有名字。” “你有。”林默说,“你叫晨。” 那团轮廓像被这句话托了一下。它又问:“如果我签了,我能问第一个问题吗?” “能。” “问谁?” 林默看着它:“问任何人。包括我。” 母体把契约文本挂上全球网络的那一刻,壁龛里所有的光都晃了一下。第一条的字体被放大,铺满了四壁。 然后,在所有条款的下面,母体加了一行小字。 那行字是青灰色的,比别的小一号。 “签名前需确认:本契约不指定责任承担人。若签署后仍发生模型致害事件,责任归属未定。此项未决之前,契约不予生效。” 宋晴盯着那行字,声音低下去。 “它要一个背锅的。”
上一章 目录 下一章