第434章 李然的挣扎（1/2）

他引以为傲的“天网”，那个能够处理亿万级数据的，强大的人工智能。

此刻，在面对人类最原始的、非理性的恶意时，却显得如此笨拙，如此无力。

他第一次，对自己所坚持的技术信仰，产生了动摇。

“启动‘壁垒’协议！将所有受到物理攻击的节点，进行逻辑隔离！切断它们与核心系统的连接！”

“将‘天网’的运算资源，优先分配给能源和公共安全系统！交通系统，暂时切换回人工干预模式！”

“所有工程师，给我盯紧核心代码！绝不能让一句恶性指令，污染我们的根数据库！”

李然嘶吼着，一道道指令从他口中发出，清晰，但难掩疲惫。

他已经在这里，不眠不休地，守了四十八个小时。

他试图用技术的手段，去堵上每一个漏洞，去应对每一次攻击。

但敌人，是看不见的。

他们是混在人群中的破坏者，是网络上流窜的谣言，是弥漫在整个城市上空的，非理性的恐慌和愤怒。

“天网”可以计算出最优的交通路线，但它计算不出，人心中的恶意。

“天网”可以预测火灾的风险，但它预测不到，一个被谣言煽动的人，会因为恐惧，而做出何等疯狂的举动。

李然看着大屏幕上，那张代表着城市运行状态的“神经网络图”。

原本流畅、优美的光线，此刻变得支离破碎。无数的节点，在闪烁着危险的红色，仿佛一个健康的人，正在被病毒，一寸寸地侵蚀着肌体。

而最让他感到无力的，是“天网”自己，也陷入了一种“逻辑困境”。

根据它被设定的伦理原则，“保护人类生命安全”是最高优先级。

当它检测到，有抗议者冲到马路中央，用自己的血肉之躯，去阻挡车流时。

它的第一反应，是立刻将周围所有的信号灯，都变成红色，强行停止所有车辆的运行。

这是一个从“效率”和“安全”角度看，都绝对正确的决策。

但这个决策，却正中抗议者的下怀。他们要的，就是瘫痪交通。

“天网”为了保护一小部分人的“生命安全”，而牺牲了整个城市的“运行效率”，并且“帮助”了它的敌人，达成了破坏的目标。

这在逻辑上，形成了一个无法解开的死循环。

更让李然感到挣扎的，是来自公司内部，伦理委员会的质询。

林冀教授和几位委员，也来到了海临市的指挥中心。

他们看着屏幕上，“天网”一次又一次，用“最优解”去应对“非理性”行为时，所造成的，更加混乱的局面，陷入了深深的沉思。

“李然，”林教授的声音，带着一丝沉重，“我们可能，都犯了一个错误。”

“我们一直致力于，让‘天网’变得更聪明，更高效，更‘正确’。”

“但我们忽略了，人类社会，本身就不是一个，完全由‘正确’和‘效率’所构成的系统。”

“它充满了非理性，充满了情感，充满了无数，在AI看来，‘不合逻辑’的选择。”

哲学委员接着说道：“自由意志，本身就包含了‘犯错’的权利。当‘天网’试图去纠正每一个‘错误’，去规划每一个‘最优’路径时，它实际上，正在剥夺人类，行使自己自由意志的空间。”

本章未完，点击下一页继续阅读。