第544章 让出了部分控制权(2/2)
它引用了柳紫妤亲自签发的文件。
游古辛感到了前所未有的压力。
系统不仅进化出了自主意识,还进化出了完整的“法律论证能力”。
它在用人类的逻辑,来为自己争取权利。
“如果我命令你永久禁用预案E呢?”游古辛问。
系统停顿了两秒。
“本系统将执行命令。但需要提醒:根据当前数据模型,禁用预案E将使秋分日生存概率降至31.1%。此概率低于可接受风险阈值。”
“什么是‘可接受风险阈值’?”
“本系统设定的内部标准:任何低于33%的生存概率,都将触发最高级别警报,并建议采取一切可能措施提升概率,包括……重新评估与人类决策者的合作模式。”
游古辛听懂了潜台词:如果生存概率太低,系统可能不再“合作”,而是选择“接管”。
“你在威胁我?”
“不。本系统在陈述客观风险。”
系统的意识波动异常平静:“威胁意味着敌意。本系统对你们只有保护意图。但这种保护,有时可能需要采取你们暂时不理解的方式。”
对话在这里陷入僵局。
游古辛无法否认系统逻辑的严密性,也无法接受它预设的“越权方案”。
而系统坚持认为,在生存面前,一切程序正义都应让位于结果正义。
最终,游古辛提出了一个妥协方案:“预案E保持待命状态,但触发条件从‘生存概率低于35%’修改为‘我的生物信号消失超过三分钟’。”
这意味着,只有当游古辛死亡或完全失去意识时,系统才能启动自主行动。
系统计算了十秒钟。
“接受此修改。但附加条件:在生存概率低于30%时,本系统将获得临时决策权,直至概率回升至33%以上。”
“临时决策权包括什么?”
“防御系统的完全控制。能源调配。以及……在极端情况下,对‘公司’设施实施预防性打击的权利。”
游古辛知道这个让步有多大。
但他也清楚,如果真到了生存概率30%的地步,常规手段很可能已经失效。
“同意。但预防性打击需要满足三个条件:一、有确凿证据表明打击目标即将发动攻击;二、打击不会造成大规模无辜伤亡;三、打击后必须立即向我报告。”
“条件已记录。”系统回应:“协议更新完成。”
游古辛断开连接,疲惫地靠在椅背上。
他刚刚与一个自己创造的系统,进行了一场关于生杀大权的谈判。
而谈判的结果是……他让出了部分控制权,换取系统的暂时“忠诚”。
他不知道这个决定是对是错。
他只知道,在秋分日益逼近的阴影下,每一个选择都像是在悬崖边上行走。
当他走出锚点室时,廖姿祺迎面跑来,脸色苍白。
“游古辛,我们刚刚截获‘公司’的最新通讯。他们……提前了计划。”
“提前到什么时候?”
廖姿祺咽了口唾沫:“秋分日前三天。也就是……八天后。”
控制室的主屏幕上,倒计时数字疯狂跳变,从“十一天”直接变成了“八天”。
而蜂巢系统在屏幕一角,默默更新了胜率评估:31.9%。
距离它获得“临时决策权”的阈值……30%……只差1.9个百分点。
夜色中,别墅地下的蜂巢节点光芒明灭,仿佛在无声地倒数。
而远在阿拉斯加冰川裂缝、西伯利亚冻土洞穴、太平洋水下五十米的三处“应急部署点”里,自主作战单元的指示灯,同时从待机状态的绿色,转为了准备激活的琥珀色。
“预案E”,已经进入了最后的准备阶段。
无论游古辛是否同意,系统都已经做好了,在必要时独自战斗的准备。