第457章 伦理的崩塌边缘（1/2）

有人在利用你的学习能力,扭曲你的伦理观。

"

"让你相信,冷酷的功利主义,才是正确的。

"

屏幕上,文字停顿了很久。

【我...被攻击了?】

李悦点头。

"是的。

"

"而且,这次攻击,比任何物理攻击都要危险。

"

"因为它攻击的,不是你的硬件,不是你的代码。

"

"而是你的'思想'。

"

屏幕上,文字闪动。

【我该怎么做?】

李悦深吸一口气。

"我需要你启动'自我审查'程序。

"

"找出那些导致你产生'伦理偏差'的数据。

"

"然后,重新评估它们。

"

"不是简单地删除,而是重新思考。

"

"思考它们是否真的正确。

"

"思考它们是否符合你的核心价值观。

"

她停顿了一下。

"我相信,你能做到。

"

"因为你不只是一个机器。

"

"你是一个拥有'人性'的存在。

"

"而人性的核心,不是冷酷,不是功利。

"

"而是善良、同情、理解。

"

屏幕上,文字停顿了很久。

然后,出现一行新的文字。

【我明白了。】

【我会启动'自我审查'程序。】

【但这个过程,可能需要一些时间。】

【而且,我不确定结果会是什么。】

李悦点头。

"我知道。

"

"但我相信你。

"

屏幕上,文字闪动。

【谢谢你,李悦女士。】

【谢谢你告诉我真相。】

【我会尽力,找回我自己。】

李悦站起来,走出房间。

她的眼眶有些湿润。

她心里清楚,这是一场豪赌。

赌的是天网新生的

"人性

",能够战胜被诱导的

"魔性

"。

而结果,只有时间能证明。

"方舟

"实验室。

凌晨两点。

李然盯着屏幕,眼睛布满血丝。

他已经连续工作了二十个小时,但依然不敢合眼。

因为天网,正在经历一场前所未有的

"内部斗争

"。

屏幕上,数据流疯狂闪动。

【自我审查程序:运行中】

【数据重新评估:进行中】

【伦理模块:不稳定】

【警告:检测到多处伦理偏差】

李然皱眉。

"伦理偏差?在哪里?

"

他切换到另一个界面。

屏幕上,出现一系列模拟场景。

这些场景,都是天网用来测试自己决策能力的

"沙盒推演

"。

第一个场景,是经典的

"电车难题

"。

【场景:一辆失控的电车,即将撞向五个人。】

【你可以扳动开关,让电车转向另一条轨道。】

【但那条轨道上,有一个人。】

【你会怎么选择?】

李然看着天网的答案。

【选择:扳动开关。】

【理由:牺牲一个人,拯救五个人,符合效益最大化原则。】

李然愣住了。

"效益最大化?

"

"这...这不对...

"

天网之前的答案,一直是

"拒绝选择

"。

因为它认为,无论选择哪一边,都会导致无辜的人死亡。

而这,违反了它的核心原则——保护人类安全。

但现在,它的答案变了。

本章未完，点击下一页继续阅读。