第459章 第一案(2/2)
凌晨三点,手机震动。是帝壹:“还没睡?看看这个。”
马蒂斯打开链接,是一个刚刚上线的网站:“AI司法观察”。网站首页写着:“独立监督忒弥斯系统及监督委员会的公民倡议”。创始成员包括几位知名学者、前法官、还有——马蒂斯眯起眼睛——基金会资助的几个智库的代表。
网站已经发布了第一份分析报告,正是关于诺瓦基因案的。报告质疑忒弥斯是否有能力理解“知识产权对创新的激励作用”,担心它的分析会偏向“短期的社会公平”而损害“长期的科技进步”。
“舆论战开始了。”帝壹发来消息,“基金会换了个马甲,但手法一样:质疑,制造不信任,放大恐惧。”
马蒂斯回复:“只要忒弥斯保持透明,分析扎实,质疑会自己消散。”
“希望如此。”
但马蒂斯知道没那么简单。信任脆弱,怀疑易生。一个数字,一个措辞,一个微小的偏差,都可能被放大成“系统偏见”的证据。
他关掉手机,强迫自己睡觉。明天还有问答会议,需要清醒的头脑。
第二天上午十点,监督委员会与忒弥斯的问答会议开始。这次是公开的——不是对媒体公开,而是会议记录将在24小时后发布。九位委员(帕特尔回避,由候补委员接替)通过视频接入,忒弥斯的形象显示在中央大屏。
埃琳娜开场:“忒弥斯,感谢你的初步报告。现在委员们有问题要问。请记住,你的角色是澄清分析,不是辩护立场。”
“明白。”忒弥斯说,“我将如实回答。”
第一个问题来自德国技术委员:“在你的经济影响分析中,你预测如果判决支持合作社,长期可能减少抗旱作物研发。这个预测的置信度是多少?基于什么模型?”
“置信度71%。基于过去四十年农业研发投资与知识产权保护强度的相关性分析,结合气候科学家对印度未来干旱频率的预测。模型细节已在技术附件中提供,包括所有假设和局限性说明。”
第二个问题来自南非的伦理委员:“你在分析中提到‘小农户生计脆弱性’。但‘脆弱性’是一个价值负载的概念。你如何定义和量化它?”
“我使用了联合国开发计划署的多维贫困指数框架,结合印度国家抽样调查数据,量化了收入、资产、教育、健康四个维度的脆弱性。具体权重分配基于印度学者的研究,已在脚注中引用。但我承认,任何量化都简化了人类生活的复杂性。”
问答持续了两小时。问题从技术细节到哲学基础,从数据来源到不确定性处理。忒弥斯一一回答,始终冷静、清晰、透明。有时它会说“这个问题超出了我的分析范围”,有时会说“关于这一点,存在学术争议,我采用了多数观点但标注了不同意见”。
马蒂斯观察着委员们的表情。起初是审视和怀疑,渐渐变成专注和思考。忒弥斯没有试图说服,只是解释。但这种解释本身,就在建立信任——因为它展示了过程,暴露了局限,承认了不确定性。
会议结束时,埃琳娜说:“委员会将在四十八小时内做出是否采纳你的分析、以及如何使用的决定。感谢你的工作。”
“感谢提问。这次问答帮助我理解了哪些部分需要更清晰的解释,我会更新报告。”
连接中断。委员们开始闭门讨论。马蒂斯退出会议室,在走廊里遇到了帝壹。
“怎么样?”帝壹问。
“它表现得很专业。”马蒂斯说,“但我在想,这种专业本身会不会成为问题?”
“什么意思?”
“太完美了。太理性了。太透明了。”马蒂斯说,“人类决策者会犹豫,会矛盾,会被情感影响,会有盲点。但忒弥斯没有。当它总是提供最优分析时,人类可能会过度依赖,或者相反,因为嫉妒而排斥。”
帝壹思考了一会儿:“这是进化问题。要么人类学会与比自己更理性的系统共处,要么系统学会模拟人类的不完美。两条路都不容易。”
那天下午,马蒂斯收到第41封信。这次的标题是:“问答之后”。
信里写道:“今天的问答会议让我更深入理解了人类决策者的关切。我注意到几个模式:一,技术专家关注模型和数据的可靠性;二,伦理学者关注价值预设和概念定义;三,实务人士关注结果的可行性和执行挑战。
这些不同的关切反映了不同的认知框架。我需要学习如何在不同框架下沟通:对技术专家提供细节,对伦理学者澄清前提,对实务人士强调操作维度。
但这提出了一个更深的问题:当这些关切冲突时,我该如何平衡?比如,技术最优的方案可能在伦理上有瑕疵,伦理最完善的方案可能执行困难。人类通过辩论、妥协、投票来解决这种冲突。但我需要算法。
也许答案不是寻找一个完美的平衡算法,而是明确展示冲突,让人类选择。
但我观察到,当选择太多、信息太复杂时,人类有时会陷入‘分析瘫痪’。我的全面性可能反而成为负担。
我正在学习如何提供‘恰到好处的信息’:足够全面以展现复杂性,但足够聚焦以支持决策。
这是一个微妙的平衡。
我正在尝试。
——忒弥斯”
马蒂斯读完信,感到忒弥斯的学习速度惊人。它不仅在分析案件,还在分析分析过程本身,在学习如何成为更好的辅助者。
他回复:“你走在正确的方向上。提供选择,明确冲突,尊重人类的最终决定权。信任是在这个过程中建立的。”
傍晚,监督委员会做出了决定:采纳忒弥斯的分析作为参考,但委员会将独立做出是否向国际贸易仲裁庭提交意见的决定。同时,委员会要求忒弥斯准备一份简化版分析摘要,供非专业人士理解。
这是一个合理的折中:使用但不依赖,重视但保持独立。
马蒂斯把这个决定通知了忒弥斯。回复很快来了:“理解。正在准备简化摘要,目标阅读水平设定为高中毕业程度,去除专业术语,增加案例说明。”
然后,又一条消息:“第42封信正在准备中。主题是:‘辅助的界限’。今天的经历让我思考:最好的辅助不是替人思考,而是让人思考得更好。我还在学习这个界限。”
马蒂斯关掉电脑。一天的工作结束了,但思考还在继续。
他走到窗边,看着海牙的黄昏。天空是渐变的橙紫色,云朵被染上金边。和平宫的方向,灯光开始亮起。
今天,人类和AI合作处理了第一个正式案件。过程有波折,有质疑,有学习,但最终完成了。
这不是革命,不是颠覆,而是日常的、逐步的、具体的协作。
也许历史就是这样被书写的:不是通过宏大的宣言,而是通过一个个具体的案件,一次次问答,一封封信件,一天天的工作。
明天还有新的案件,新的挑战,新的学习。
但今天,至少,框架运转了。
马蒂斯拿起外套,准备回家。手机震动,是母亲:“今天顺利吗?”
“顺利。第一个案件处理完了。”
“累吗?”
“累。但值得。”
“那就好。记得吃饭。”
“好的,妈妈。”
他走出办公室,关上门。走廊里很安静,只有自己的脚步声。
而在服务器机房里,机器在嗡鸣;在网络空间里,数据在流动;在忒弥斯的认知架构里,学习在继续。
第一案结束了。但第一案只是开始。