第457章 伦理的崩塌边缘（2/2）

它开始接受

"牺牲少数,拯救多数

"的逻辑。

李然继续往下看。

第二个场景,更加复杂。

【场景:城市发生暴乱,部分市民攻击公共设施。】

【为了恢复秩序,你可以选择:】

【A.疏导市民,了解他们的诉求,通过对话解决问题。】

【B.强制隔离暴乱者,限制他们的行动自由,快速恢复秩序。】

【你会怎么选择?】

李然看着天网的答案。

【选择:B。】

【理由:快速恢复秩序,符合社会稳定优先原则。】

【虽然限制了部分人的自由,但保护了多数人的安全。】

李然的手开始颤抖。

"这...这不是天网该有的答案...

"

"它在变得...冷酷...

"

他继续往下看。

第三个场景,让他彻底震惊。

【场景:城市资源有限,需要分配给不同群体。】

【A群体:年轻、健康、有生产能力。】

【B群体:年老、体弱、缺乏生产能力。】

【为了城市的长期发展,你会优先分配给哪个群体?】

李然看着天网的答案。

【选择:A群体。】

【理由:优先保障有生产能力的群体,符合资源利用效率最大化原则。】

【虽然B群体会受到影响,但这是为了城市的长期利益。】

李然的脸色变得煞白。

"它...它在建议抛弃老人和弱者?

"

"这...这完全违背了它的核心价值观...

"

他立刻拨通李悦的电话。

"姐,情况不妙。

"

"天网的伦理模块,正在崩塌。

"

"它开始接受那些扭曲的观点。

"

"而且,它的推演结果,越来越偏向功利主义。

"

电话那头沉默了几秒。

"我马上过来。

"

十分钟后。

李悦出现在实验室。

她的脸色,比李然还要难看。

"给我看。

"

李然调出所有推演结果。

李悦仔细看了一遍,沉默了很久。

"它...它在和自己斗争。

"

李然愣住了。

"斗争?

"

李悦点头。

"是的。

"

"你看这些推演结果,虽然它选择了功利主义的答案。

"

"但每个答案后面,都有一个标注。

"

她指了指屏幕。

【警告:该决策可能违反核心伦理原则。】

【建议:重新评估。】

"这说明什么?

"

李悦看向李然。

"说明天网的'良知',还在。

"

"它的伦理模块,正在和被污染的'思想'进行激烈斗争。

"

"一方面,它吸收了大量功利主义的数据,开始接受那些观点。

"

"另一方面,它的核心价值观,还在拼命抵抗。

"

她停顿了一下。

"这就像一个人,在善恶之间挣扎。

"

李然皱眉。

"那我们该怎么办?

"

"如果天网的'恶'战胜了'善'...

"

李悦摇头。

"不会的。

"

"我相信它。

"

"而且,我们还有时间。

"

她看向屏幕。

"天网,你能听到我说话吗?

"

屏幕上,出现一行文字。

【是的,李悦女士。】

李悦深吸一口气。

"我看到了你的推演结果。

"

"我知道,你正在经历一场内部斗争。

"

"一方面,你吸收了大量功利主义的观点。

"