第436章 天网的“情感学习”（1/2）

萨拉·阿米尔博士拿出了她在海临市，通过观察和访谈，收集到的大量一手资料。

“我们的研究发现，市民对‘天网’产生抵触情绪的核心，并非源于效率本身，而是源于一种‘被剥夺感’。”

她在大屏幕上，放出了一段对一位出租车老司机的访谈。

“以前，哪条路近，哪条路堵，都是我们这些老司机，凭经验说了算。现在呢？一个机器告诉我，你应该左转，你应该右转。它说的是对，是快。但我觉得，我这几十年的经验，变得一文不值了。我感觉自己，不像个司机，像个听指令的机器人。”

萨拉博士分析道：“看到了吗？这位司机失去的，不是时间，而是一种‘专业尊严感’和‘自主掌控感’。”

“所以，我们的第一个课题是，如何让‘天网’在提供‘最优解’的同时，也提供‘次优解’，并将‘选择权’，交还给人类。”

李然的团队，迅速将这个需求，转化为技术语言。

“我们可以设计一个‘选择权重’算法。当‘天网’的建议，与人类用户的习惯或个人偏好，发生冲突时，系统会主动弹出一个提示框。”

工程师在虚拟屏幕上，快速构建出一个模型。

【“天网”建议您左转，预计可节省8分钟。但根据您的驾驶习惯，您似乎更倾向于直行。请问您要遵循哪条路线？】

【A.遵循“天网”建议（推荐）】

【B.保持我的原计划】

“这个‘选择权’的设计，非常重要。”萨拉博士补充道，“它会让用户感觉到，自己仍然是决策的主体，AI只是一个提供参考的助手。这种‘被尊重’的感觉，可以极大地，抵消‘被控制’的不适感。”

接下来，讨论进入了更核心的“边界感”问题。

林冀教授提出了一个尖锐的场景：“当‘天网’检测到，一场大规模的，但定性为‘和平非暴力’的抗议集会，正在堵塞交通时，它应该怎么做？”

按照之前的逻辑，“天网”会为了疏导交通，而将抗议者视为“障碍物”，并规划出最高效的“清理”方案。这正是矛盾激化的根源。

“在这种情况下，‘天网’应该启动‘社会事件’响应模式。”李然提出了新的构想。

“一旦识别到，该事件涉及‘政治、宗教、言论自由’等，高度敏感的社会学范畴。‘天网’的核心决策系统，将主动‘后退’。”

“它会立刻停止对该区域交通的直接干预，并将所有相关数据，以及一个‘风险评估报告’，打包发送给人类的管理者——市政府应急中心、警察指挥部。”

“报告内容可能包括：‘A区域出现大规模人群聚集，已造成交通中断。经模型初步判断，该事件为和平抗议，暴力风险等级低。但存在因人员拥挤，导致踩踏的次生风险。建议派遣警力维持秩序，并开放B、C两条备用通道，作为紧急疏散路线。’”

“看，”李然强调，“它不再是下达‘指令’，而是提供‘建议’。它将自己的身份，从一个‘指挥官’，降级为了一个‘高级参谋’。”

“它学会了，在自己不擅长，或者说，伦理上不应该干预的领域，‘闭嘴’和‘放权’。”

这个“主动后退”的设计，赢得了伦理委员会和心理学家们的一致赞同。

这正是卡特所说的“边界感”。

本章未完，点击下一页继续阅读。