完本神战

第1098章 我觉得我们浮空城要完蛋了（第2页）

“可我反倒觉得，尽管机器和人类同样都是黑箱，有时还是前者更值得信任。”

唐晓翼挑了挑眉，没有打断。

“‘蜂群’在正式启用之前，经过了一整套远超常规标准的工程安全测试。”

“极端压力测试、对抗性指令测试、逻辑冲突演练、长时间无人值守的稳定性验证……每一项都有完整记录可查。”

“技术部甚至专门组织过几轮红队攻击，反复尝试诱导它做出越权判断，结果全部以失败告终。”

“在通过全部测试之后，‘蜂群’才获准上线。”

“顺带一提——当初动物园公开竞选主管的时候，‘蜂群’是从一批相当有力的人类竞争者中拔得头筹的。”

“事后，尽管有人怀疑这位全胜的第一名其实是一套ai系统，但直到公示期结束，也没人能找到实锤的证据。”

“不过……”

埃克斯顿了顿，似乎想起了什么颇为有趣的往事，微微扬起嘴角。

“‘新官上任三把火’——‘蜂群’刚上线那阵子，小到走廊上的一张废纸，大到门禁异动，什么鸡毛蒜皮的事它都要逐条上报、逐条归档，把动物园的同事们折腾得够呛。”

“……这哪是主管，这是请了个太上皇回来。”唐晓翼忍不住吐槽。

埃克斯点点头，继续往下说：“后来还出过一次不小的故障，把负责维护的工程师吓了个半死。”

“有天半夜，不知哪里出了岔子，‘蜂群’把自己那些冗余的反馈日志当成了错误数据，开始一条接一条地往下删，要不是被值班的工程师及时发现，差点连核心文件都一并清空。”

“也就是说……”唐晓翼替他翻译道，“这个ai差点把自己删了？”

“对。”

埃克斯再次点头，并回以一个无奈的笑。

“还好有完整备份，技术部开了紧急通道连夜抢修，总算是没造成什么实质损失。”

“事后有人问‘蜂群’为什么要这么做，它的回答是——冗余数据占用运算资源，影响决策效率。”

“所以它并不觉得那是在删除自己，只是在做系统优化。”

“……不优化人，反过来把自己优化掉？”唐晓翼啧了一声，“那可真是个有个性的ai。”

“所以那件事之后，技术部就决定在算法优化、增加核心数据保护、权限审批与系统自检机制的基础上，给‘蜂群’加装一套模拟人格。”

“一来，是希望它能拥有一个相对稳定的行为框架，别没事再冒出那种自毁式的逻辑冲突；”

“二来，也是让它更像人，跟人类同事沟通起来不至于太僵硬。”

“上线之后，磨合情况明显好了很多。”

“现在动物园大多数成员其实并不知道，他们耳机里那个指挥的声音是一套ai系统。”

“他们只当自家主管是个不露面的工作狂——不仅能通过执法记录仪实时掌握现场情况，随时给出战术建议，事后的存档和复盘也比任何人都做得细。”

“虽然偶尔觉得这人太神了点，但时间一长，也就习惯了。”

唐晓翼轻哼一声，评价道：“习惯可真是这个世界上最可怕的东西。”

“确实。”埃克斯表示同意。

——别说那些已经习惯听从“蜂群”调度的动物园成员了，就连他们这群人，不也早就习惯了被各路超自然力量监控、摆布，习惯了身边那个戴着面具、神出鬼没的不明生物么？

或许，“习惯”本就是人类在面对不可知之物时，为了维持自身精神稳定而不得不催生出的、一种危险的自我保护机制。