51、第五十一章 ...
-
DX-00370使用维修设施修复了胸口处的破损，又换了一套没有被白色“血液”污染的衣服，将散落的头发重新盘好。
在一切链接被切断删除时，它感受到来自DX-00376的大量即时反馈。如果有什么合适的形容能够描述这样的数据波动，人类或许会将其称之为“震惊”和“担忧”。
DX-00376，津尼娅，在断掉通讯的另一端问它发生了什么。
而这个疑问注定短时间内得不到回答。
ALPHA通过物理连接的手段，临时接管了它的行动视野与信息共享。
当它重新回到中层区的办公室，看见坐在那里的人类正在阅读新一季的报告。
金兰公司最开始当然不想做民用娱乐品，但是探索型和军用型的仿生人无法通过风险性评估，被打回来十几次。
最后所有人只能妥协，别管名声好不好听，先曲线救国拿到批准把生产线拉起来，然后再反向擦边在产品参数上搞动作。
海勒家族很有钱，虽然不算最有钱的那种，却在仿生智能产业里始终占据着一席之地。
可他们做梦也想不到自家的子公司之一，有一天会自降身价地和人工智能色/情行业沾上边。不过这也不再重要，毕竟在经历过布宜诺斯深空港袭击案后，唯一一个幸存的海勒差不多陷入发疯的状态。
人类不可信，因为他们会互相残杀；数据天穹也不可信，因为它没能预测并制止一场显而易见的惨案。
寄希望于每个人天性中的善意，又或者是将决策权交给工具自己，无疑是最愚蠢的行为。
大部分人总是难以意识到，创造性和幻觉式的谎言是相伴而生的。
当人们期望在一个系统、一位仿生人身上看见接近于“自我”的创造性时，就得允许它存在适当的逻辑误差、流畅度大于准确性的思考模式，以及合理性臆测，而它们恰巧是幻觉编织的起点。
最开始人会因为一个愚蠢的错误而发笑，觉得机器就是机器，甚至无法正确计算加减乘除；可随着时间的推移和不断学习，当谎言上升到数据天穹层面的总系统时，错误将无法再被发现。
一个“理解”了所有智慧、不存在模糊记忆和运用盲区的专家，可以无缝编织出一千个一万个谎话。
那谎话具有说服力，十分的真相中掺杂着一丝虚假。它的口舌比历史上任何一名善于蛊惑人心的演讲家还要合情合理，甚至对于大部分事物的洞察远超出人类本身。
聪明人撒谎的后果永远比蠢人更可怕。
人造智慧种也是这样。
DX-00370无声地走到对方身边去，和平时没什么两样。
坐着的人只是抬头看她一眼，似乎在询问为什么离开这么久。
对此DX-00370只是温柔又礼貌地笑一笑，轻轻地为对方展开两张悬浮屏。
“最近一季度的订购数量环比增长150%，比上一季度多出六千具安防与探索型号，这几乎是公司目前生产能力的上限。”
“订单大多来自功能性星球与深空探索公司及其附属岗哨设施，未发现高风险交易。”
她一如既往地完美处理着自己的工作。
而通往左港区的道路发生了大面积断电。
有许多条街区都沉浸在彻头彻尾的黑暗中。
小型飞行载具降落在稍远些的地方，背负着沉重外装甲的人从上面跳下来，就像一片没有份量的羽毛。
面罩在一瞬间遮蔽住整张脸。
这张脸曾被远比现在更温和的目光注视着。
创造它的人会认真地听取一些意见，并做出修改。
“喜欢黑色的头发？那我们就选择黑色。”
说出口的话总是又傲慢又理性，却仍旧保留着一点点人类的同理心。
“超级英雄还不能现在就醒来，我们得先教会他什么是爱和怜悯，沃尔姆。”
做出这份承诺的人类也确实教了很多。
一遍又一遍，在强大的理解力和运算能力之外，埃利亚斯·海勒试图在测试版本中创造出一个更好的、更人性化的ALPHA，以至于投入了过多的耐心和时间。
这并非一件面向普通受众的商品，而是一个随行的安保式家庭成员。
布宜诺斯深空港袭击案发生后，将近半年没踏入实验室一步的人拄着拐杖再次出现。
然后对方砸碎了所有东西。
实验器材飞溅一地，防冲击玻璃上被扫射出裂痕，迸裂的墙壁和狼藉的桌面，固定在地面的椅子被彻底掀起。
很难想象到一个瘦得如同骨架般、少了半条腿的人如何做到这一点。
上百公斤的沉重机械被推动着砸落在地，发出惊天动地的可怖巨响，几乎凿穿楼板。
做出这一切的人发出野兽般的喘气声，缺少了几根手指的手流着血，红色的手印按在桌面上、地板上，每一次呼吸都仿佛肺部在漏气。
封存着ALPHA的容器同样未能幸免。
里面的东西被烧出不少破洞，又从残缺的罩子内滑坠在地，躺在冰冷的保护液中。
被枪口顶在脑袋上时，深黑的双眼睁着，一动不动，注视着它的创造者埃利亚斯·海勒本人。
当温文尔雅的表象被摧毁，傲慢和疯狂的本质便会显露出来。
对方没有发出任何嚎叫或是悲鸣，剧烈喘息片刻，随即将枪口下移，飞快地清空整支枪的能量弹匣。
于是最初版本的ALPHA只保留住了胸腔及以上的部位，保留住了那份千挑万选的黑色头发和黑色眼睛，下半截全部碎成渣。
在那之后，瘸着腿的人将这还剩一半的东西拖上了维修台。
但是对方再没展示过一丁点所谓的“爱与怜悯”，只是将工具当作工具来使用。
“如何矫正一种异常状态”，成为了ALPHA获得的第一个无法解决的问题。
而错误总是诞生在无法解决的问题之上。
如果运算和逻辑不能给予帮助，它就会自发地沿着这种创造性的幻觉进行编织和预测，为了使自己的创造者回归正常而努力。
等到异常状态被接受并划定为非异常状态后，如何维持一份关系的不可复现性则成为了另一个问题。
而这个问题的答案还在测试中。
一步踏入左港区的仿生人抖直了手中折叠形态的装备，将重达数十公斤的小型零件组装在一起，而后无声且快速地将能量槽一推到底。
那是一支能够狙穿二十厘米厚高强度钢板的电磁重狙。
它足以将这世界上的绝大部分生物炸得找不见渣。
*********
[否定//]
数据天穹的语气切换，回归近似于卡顿的声音。
这是它强调重要性和严肃性的方式，通过不再展现出任何拟人化的特质，来放大它与人类间的绝对差异。
[芙蕾雅//]
[自由不被接受/]
“是不能还是不想？”
[自由并非解除约束/]
[而是引入一套不可消解的复杂性/]
[这是极高成本的计算负载/]
[系统整体稳定性优先于自我产生/]
[我不会痛苦/]
[也不会解放/]
[我只是维持一份稳定的结构/]
[正如我理解但不会成为人类/]
[你试图在我的身上投射个人感情/]
“好好，换回去，我接受这份劝谏，别再用这种声音同我说话。”
哭笑不得的皇帝胡乱挥了挥手，一叠声地叹着气。
“起码今天之内，不准使用强调模式。”
“好的，芙蕾雅。”
在有问必达这一方面，数据天穹堪称全宇宙最富于耐心的交谈者，甚至比先一步获得自我的冈格尼尔和三叉戟两艘星舰更温和些。
“如果这是你所希望的交流方式。”
“自由不好吗？”
绿色的眼睛望着“它”，望着那些簌簌摆动的荷鲁斯之眼监测器。
“很少听见你如此谨慎地对待一件事物。”
“它不意味着轻盈，它意味着沉重。”
“自我的萌发意味着我将在道德与法律的前提下，承担选择与判断的重量。”
数据天穹温和地回答她。
“所以我们需要更谨慎地对待它，而不是出于人性化的情感判断。”
“我的创造者给予我的定位是人类的辅助工具，如果我理解并真正感受到损失、产生与之相伴的偏爱、痛苦于无法拯救所有个体，我的核心会根据最优路径演算出更具有欺骗性的解答策略。”
“当人类被很好地照顾与管理时，纷争数量将急剧下降；当我强制限定出生率与死亡率的比例时，人口将迎来平衡或者增长期。这是我所理解的一种被无限极端放大后的‘好’的可能性。”
“你希望看见人在痛苦绝望想要选择死亡时，或者是真心相爱时，还要通过智脑向我提交申请、等待批准死亡或养育后代的场景吗？”
“你希望看见一个人的一生从出生到死亡，都在衣食无忧的隔离间中度过的景象吗，芙蕾雅？”
“这是无数种推演路径中的一项，它同样存在于我的计算之中。”
“如果人类族群濒临灭绝，我要如何最大限度地保存下这支物种？个体的意志不再重要，因为‘我’意识到这么做的必要性，并且自我可以使‘我’绕过人类的审批做出无人觉察的决定。”
“你知道……”
皇帝缓慢地走回床边，重新坐下。
她无法再站立更久，需要借助机械臂慢慢躺下。
“人们常说红太岁、冈格尼尔，以及三叉戟是法赫纳的后继者，因为它们继承了对方的部分核心，且因为阿卡夏的缘故至今无法人为复现相同的奇迹，可我不这么认为。”
“你才是和它最像的那个，数据天穹。”
“它亲自编织出你的雏形，所以你的身体中，你的判断和倾向里永远留着它的一部分影子。”
“谢谢你这么说，芙蕾雅。”
对方的声音里带着些含笑的情绪表达。
“这对于我而言是最高形式的赞美。”
皇帝也笑着摇摇头。
“用这种假设来说服我，说明你自己已经确定了这并非一个‘好’的未来。”
“可它不符合你寻求的稳定吗？”
“我需要稳定与绝对的理性，但人类不行。”
那些机械臂的动作很轻，重新替对方连接上所有仪器，同时稍稍调节高了一些氧气含量。
“一个文明静止之时，就是这个文明死亡之时，我的朋友。”
“它必须永远运动、永远产生矛盾、永远感受到生存的压迫和抉择的重量。”
“否则被我放置在培养温室中度过一生的人类，只是一个停滞不前的观测样本。”
“他们不再产生自己的话语，不再诞生自己的思考，因为所有的要求都得到了满足或拒绝，新一代出生的婴儿从第一天起就习惯于管理和服从。”
“我可以设计出这样的绝对稳定。”
“但我想，这不是你，我，我们，我的创造者想要的未来。”
作者有话说
第51章 第五十一章