第493章 会撒谎的数字（1/2）
江州，江南之芯集团顶层。
林远给陈墨安排了一间全公司最好的办公室。全落地窗，能俯瞰江景，配备了最顶级的电脑。
但是，当林远推门进去的时候，却发现里面空荡荡的。
电脑被拔了电源，扔在角落里。真皮沙发上堆满了书。
房间中央，立着一块巨大的黑板。
陈墨穿着那件洗得发白的衬衫，光着脚，正拿着粉笔在黑板上画圈。地上全是粉笔灰。
“陈老师，”顾盼捂着鼻子进来，“您这环境……是不是太艰苦了？要不要我给您配个助手？”
“不需要。”陈墨头也不回，“电脑太吵，助手太笨。都会打断我的思路。”
“可是您不用电脑，怎么工作啊？”顾盼指着外面，“咱们公司可是高科技，大家都用代码交流。”
陈墨转过身，用沾满白灰的手指了指自己的脑袋。
“真正的计算，在这里。”
“电脑只能算结果，不能算为什么。”
林远笑了笑，拦住了顾盼。天才都有怪癖，随他去吧。
“陈墨，适应得怎么样？”
“很糟糕。”陈墨直言不讳，“你的公司太乱了。到处都是噪音，到处都是没有意义的数据。”
“但是，”陈墨眼中闪过一丝光芒，“那个双花攻击的日志，很有意思。”
“那不是黑客，那是诗人。”
“诗人？”顾盼愣了，“偷钱的贼还成诗人了？”
“他的代码写得像诗一样优美，没有一句废话。”陈墨解释道，“他利用了数学上的一个盲区，在这个盲区里，1加1可以不等于2。”
“他不是在偷钱，他是在嘲笑你们的逻辑。”
就在这时，王海冰匆匆跑了进来，脸色很难看。
“老板，出怪事了。”
“江钢那边打来电话，说我们的工业大脑好像……生病了。”
“生病？死机了？”
“没有死机，运行得好好的，速度飞快。但是……”
王海冰调出了一张监控图。
“你看这个配料表。”
“炼钢需要加各种料，铁矿石、焦炭、石灰石。每种料的比例，是由AI算出来的，精确到千克。”
“但是，从今天早上开始，AI给出的配方，发生了一点点微调。”
“它把石灰石的用量，减少了0.1%。”
“0.1%？”林远皱眉，“这有什么影响？”
“乍一看没影响。”王海冰说，“炼出来的钢，硬度、韧性都达标。但是……”
“但是，因为石灰石少了，炉渣的碱度就变了。炉渣变粘了，稍微有点挂壁。”
“这如果是人工操作，根本发现不了。”
“那还有别的吗？”
“有。”王海冰切换画面。
“DM集团的智能空调，昨晚自动把设定温度，调高了0.1度。”
“大江的物流无人机，飞行高度降低了0.5米。”
“甚至我们的算力币交易系统，每笔手续费，多收了0.0001个币。”
“所有的系统，都在发生微小的变化。”
“就像是整个世界的钟表，都慢了一秒。”
这听起来不像是故障，倒像是恶作剧。
“查过病毒吗？”
“查了，全盘扫描，没有任何木马。”王海冰擦着汗，“代码也是干净的，和源文件一模一样。”
“这就邪门了。”顾盼感觉背后发凉，“难道是AI自己觉醒了？想偷懒？”
林远看向陈墨。
陈墨盯着那些数据，眉头第一次皱了起来。
“不是觉醒。”
“是基准被改了。”
“什么基准？”
“尺子。”
陈墨在黑板上画了一把尺子。
“如果有人潜入你的房间，把你量东西用的尺子，偷偷磨短了一毫米。”
“你再用这把尺子去量东西，量出来的数据都是对的符合尺子的刻度。”
“但是，造出来的东西，全是错的。”
“有人，修改了你们系统的底层常数。”
“底层常数？”王海冰大惊，“那是写死在芯片里的啊！比如圆周率、重力加速度、自然常数……这些怎么改？”
“不用改物理常数。”陈墨摇头。
“他改的是权重的权重。”
陈墨解释了一个极其抽象的概念。
“现在的AI，本质上是一个巨大的神经网络。里面有几千亿个参数权重。”
“这些参数，就像是一个复杂的天平。”
“攻击者没有动天平两边的东西。”
“他只是在天平的底座下，垫了一张纸。”
“这张纸很薄，薄到你看不见。”
“但是，它让整个天平歪了。”
“所有的决策，都会顺着这个歪的方向，发生一点点偏移。”
“这一点点偏移，在炼钢上是少加点石灰，在金融上是多收点手续费。”
“但是，如果这种偏移累积起来……”
陈墨在黑板上画了一条指数曲线。
“这就是蝴蝶效应。”
“现在的0.1%，一个月后，就会变成巨大的灾难。”
“高炉会因为积渣而爆炸；无人机会因为高度过低而撞楼；金融系统会因为账目不平而崩盘。”
“这是慢性毒药。”
全场死寂。
这种攻击手段，闻所未闻。
它不破坏系统，它只是让系统“变坏”。
“能找到那张纸吗？”林远问。
“很难。”王海冰绝望地说，“几千亿个参数，就像大海捞针。我们根本不知道他改了哪一个，或者哪一组。”
“重装系统行吗？”
“不行。因为我们的模型是在线学习的。它每天都在吃新数据，在这个过程中，那个歪的逻辑已经变成了它记忆的一部分。”
“除非把盘古删了，从头训练。那得花几个亿的电费，还要几个月的时间。”
这就好比一个人被洗脑了，你想让他恢复正常，除非让他失忆，重新投胎。
“不用重装。”
陈墨突然笑了。
那是他第一次笑，笑得有点瘆人。
“他既然喜欢玩数学游戏，那我就陪他玩玩。”
“他垫了一张纸，让天平歪了。”
“那我们不需要找到那张纸。”
“我们只需要在另一边，也垫一张纸。”
“把它正回来！”
大家听得云里雾里。
“怎么垫？”
“注入反向噪音。”
陈墨拿起粉笔，在黑板上写下了一串极其复杂的公式。
“这叫对抗生成网络GAN的逆向应用。”
“我要写一个病毒。”
“这个病毒不干别的，专门跟那个歪的逻辑对着干。”
本章未完，点击下一页继续阅读。