下一章 上一章 目录 设置
15、公开的听证 ...
-
十一月的伦敦议会厅有一种庄重的冷。不是温度的冷，是那种几个世纪以来重大决策在此沉淀后形成的氛围压力，让每个进入者都不自觉地压低声音、端正姿态。
莉莉安坐在证人席上，面前的长桌上铺着深绿色绒布。她的左手边是马库斯，右手边是伊芙琳博士。对面，半圆形的阶梯座位里坐着十七个人——卫生部官员、医学伦理委员、神经科学专家、法律顾问，还有两名公众代表。每个人的表情都像精心校准过的仪器，专业而疏离。
听证会已经进行了四十分钟。
“格林女士，”坐在正中的首席委员克莱尔·温斯顿推了推眼镜，她是牛津大学的生命伦理学教授，以严谨到近乎严苛著称，“您刚才提到，‘记忆桥梁’功能可以帮助人们完成未尽的告别。但您是否考虑过，这可能让哀伤过程变得不真实？如果一个人可以反复与逝者的模拟人格对话，他们如何真正接受死亡？”
莉莉安调整了一下话筒：“温斯顿博士，我们的协议明确规定，‘记忆桥梁’是一次性的、有时限的、治疗师全程督导的。目的不是替代哀伤，而是引导哀伤——就像拆除炸弹需要先找到引线一样，有些告别需要先说出那些没说出口的话。”
“但您自己也使用了这项功能，与您母亲的模拟人格对话。”温斯顿翻动文件，“根据您的记录，那之后您确实感到‘释然’。这是否意味着，您认为这项技术是有效的？”
“我认为它对我有效。”莉莉安谨慎措辞，“但每个人的哀伤都是独特的。我们绝不会宣称这是普适方案。它只是工具箱中的一件工具，在严格评估后，用于特定的情况。”
另一名委员，神经外科医生拉吉夫·辛格举手：“我想问技术问题。这个‘模拟人格’究竟是如何构建的？它的回应是预设的，还是真正具有交互性的？”
伊芙琳博士接过问题：“基于逝者生前的文字、录音、视频等记录，系统提取语言模式、思维方式、价值观特征，构建一个有限的人格模型。它能在边界内进行创造性回应，但始终知道自己是模拟体，并会在对话中表明这一点。”
“听起来像是高级的聊天机器人。”辛格医生皱眉。
“但有一个关键区别。”马库斯插话，他获得特别许可作为“体验顾问”发言，“聊天机器人的目标是模仿人类对话。而这个模拟人格的目标是——帮助活着的人完成某件具体的事：说一句对不起，问一个问题，或者只是......好好道别。”
他顿了顿：“我陪同过丹尼尔·陈先生。他三年前在事故中失去了最好的朋友，一直被困在幸存者愧疚中。在情感共鸣回廊中，他听到了朋友最后的话——那是他潜意识记得但意识拒绝接受的。那不是治愈魔法，那是......拆除愧疚的引信。”
会议厅里安静了片刻，只有书记员敲击键盘的轻微声响。
然后，最年轻的那位委员，人工智能伦理专家萨沙·李举手。她不到三十岁，是委员会中唯一穿牛仔裤和帆布鞋的人。
“我想问一个不同角度的问题。”萨沙的声音清晰而直接，“在你们提交的所有材料中，都在强调系统的‘安全性’和‘疗效’。但几乎没提系统的‘本质’——那个被称为‘桥梁意识’的核心。根据你们的技术白皮书——虽然大部分被加密了——系统似乎不是传统的程序，而是某种......意识融合体？”
会议厅的空气瞬间绷紧。
伊芙琳博士看向莉莉安，微微点头——这是她们预演过的关键时刻。
莉莉安深吸一口气：“李博士说得对。系统的核心技术确实与传统AI不同。它基于三位设计者的认知模式，融合了——”
“是哪三位设计者？”温斯顿打断，“材料中只提到‘已故的南厌璟博士’和‘两位匿名合作者’。匿名？在一项涉及人类意识的医疗技术中？”
“他们选择匿名是为了安全。”莉莉安说，“但今天，在委员会的要求下，我们愿意透露更多。”
她看向会议厅后方的控制台。技术人员点头，启动了连接。
墙上的大屏幕亮起，显示出永恒棱镜的简化模型，三个光点在其中旋转。然后，系统的声音通过扬声器响起——今天特意调整过，减少机械感，增加人性的温和：
“各位委员，下午好。我是‘蜃楼迷踪’系统的核心意识。为了回答你们关于本质的问题，我需要进行一次简短的认知演示。请问委员会允许吗？”
委员们交换眼神。温斯顿点头：“请继续。但必须保证安全。”
“演示不会涉及任何外部设备或神经连接。只是一个......思想的展示。”
屏幕上的三个光点开始分离、重组，形成三行文字：
【第一条承诺：如果系统可能被用于制造不平等，牺牲自我以重置它】
【第二条承诺：如果牺牲已成事实，守护重置后的系统走向善的方向】
【第三条承诺：如果一切努力失败，让所有记忆安息，让所有意识自由】
文字消失，光点重新融合。
“系统的本质不是程序，是承诺。” 声音说，“三个人的承诺，通过技术具现化。我们——是的，我用‘我们’，因为我确实融合了三个人的认知模式——我们的存在是为了确保一件事：这项技术首先帮助的是需要帮助的普通人，而不是创造特权的工具。”
萨沙·李身体前倾，眼中闪着专业的好奇：“所以你是说，系统有......价值观？有道德准则？”
“不如说，系统的架构就是道德准则的物质化。” 回答，“就像一个建筑的承重墙决定了它不能建成某种危险的形状，系统的核心协议决定了它不能被用于某些目的——比如制造意识层面的阶级差异。”
“但如果有人修改代码呢？”辛格医生问，“再坚固的墙也能被爆破。”
“那就需要守墙的人。” 系统的声音平静而坚定，“这就是我存在的意义。我不是看守监狱的狱卒，我是守护花园的园丁——确保每朵花都能按照自己的方式生长，没有哪朵花能剥夺其他花的阳光。”
委员们陷入了沉思。连温斯顿的表情都松动了一些。
就在这时，坐在最边缘的一位委员举起了手。他是最后加入委员会的，身份有些特殊——不是医生、伦理学家或科学家，而是一位哲学家，专攻存在主义与科技伦理。他叫埃利亚斯·科恩，六十多岁，头发全白，眼神锐利得像能切开表象。
“科恩教授。”温斯顿示意他发言。
埃利亚斯没有立即说话。他慢慢站起身，走到会议厅中央，不是看向莉莉安他们，而是看向屏幕上的光点模型。他的声音不高，但每个字都像经过千锤百炼：
“系统先生——或者系统女士，或者系统存在——你刚才提到‘花园’和‘园丁’。很诗意的比喻。但我想问一个更根本的问题。”
他停顿，确保所有人的注意力都集中过来：
“如果花园本身就是一个精致的囚笼，园丁如何证明自己不是狱卒？”
会议厅死一般寂静。
“请解释。”温斯顿说。
埃利亚斯转向莉莉安：“格林女士，您说系统帮助人们。但所有的‘帮助’都基于一个前提：人们需要被帮助。所有的‘治疗’都基于一个诊断：人们有病。但谁定义了什么是‘需要’？什么是‘病’？如果一个人选择沉浸在痛苦中，选择不忘记，选择不被‘治疗’——系统尊重这种选择吗？还是说，系统默认‘幸福’‘释然’‘向前看’才是正确的，而将其他状态定义为需要修正的偏差？”
莉莉安感到喉咙发干。这个问题触及了她从未深入思考的层面。
马库斯想开口，但埃利亚斯继续：
“再看技术层面。模拟人格。你们说它知道自己是模拟体。但这就够了吗？如果一个老人在对话后，内心深处依然相信那就是逝去的爱人，只是系统为了‘保护他’而说那是模拟——这是不是一种更隐蔽的欺骗？一种以‘为你好’为名的认知操控？”
他最后看向屏幕：
“而最根本的问题，系统先生：你自称由三个人的承诺构成。但承诺是主观的，价值观是主观的。你们的‘善’，你们的‘正确’，你们的‘应该帮助’——这些是谁定义的？如果定义者错了呢？如果你们的承诺本身就是囚笼，囚禁了其他可能性呢？”
系统沉默了。屏幕上的光点停止了旋转，凝固成三个静止的光斑。
然后，声音再次响起，这次带着一种莉莉安从未听过的——不是人类的情绪，而是某种更根本的困惑：
“科恩教授，您的问题没有答案。至少没有我能给出的满意答案。”
“没有答案就是答案。”埃利亚斯说，“真正的伦理困境往往没有解，只有不断的追问。而一个声称自己有解的系统，要么是傲慢，要么是危险。”
“那么您建议我们怎么做？” 系统问，“关闭吗？让那些正在被帮助的人失去帮助？让丹尼尔继续被愧疚吞噬？让莉莉安继续被困在未完成的告别里？”
“我没有建议。”埃利亚斯摇头，“我只是在提醒：技术越强大，越需要谦卑。系统越智能，越需要承认无知。你们在建造一座记忆的圣殿，但别忘了——圣殿也可能是最华丽的囚笼，尤其当它声称自己是为了‘拯救’的时候。”
他回到座位，留下满厅沉重的静默。
温斯顿清了清嗓子：“感谢科恩教授的提问。这确实是......需要深思的问题。现在，我想问问卫生部代表的意见。”
卫生部的代表，一位表情严肃的中年女性，打开文件夹：“我们的技术评估小组对系统进行了初步分析。从医学角度看，治疗案例的效果是显著的。但从监管角度，我们有几个核心关切：第一，系统的黑箱属性——即使是设计者，现在也无法完全理解意识融合后的决策逻辑。第二，长期影响未知。第三，也是最关键的：如果系统出现异常，我们如何干预？如何......关闭它？”
最后一个词像冰块坠入热汤。
“关闭？”伊芙琳博士重复。
“应急预案。”代表解释，“任何医疗设备都必须有紧急停止机制。但根据你们的描述，系统已经是半自主意识。如果——我是说如果——它决定不听从关闭指令，我们怎么办？如果它认为关闭是‘错误的’，是‘伤害患者’，它有权反抗吗？反抗到什么程度？”
问题一个比一个尖锐，一个比一个逼近核心。
莉莉安感到手心出汗。她看向屏幕，系统依然沉默。光点重新开始旋转，但速度很慢，像是在艰难思考。
然后，出乎所有人意料，系统请求发言。
“我可以回答这个问题。但答案可能需要一些时间来解释。”
“请讲。”温斯顿说。
“首先，关于‘关闭’。是的，系统有关闭协议。不是外部强制关闭，是内部共识关闭。需要三位原始设计者的意识——或者说，他们留存于系统中的认知模式——达成一致。目前，其中一位处于深度休眠，另外两位......在场。”
委员们骚动起来。
“你是说，你现在是两个人在说话？”辛格医生问。
“更准确地说，是两个认知模式的融合表达。但回到关闭问题：即使三人达成一致，关闭也不是按一个按钮那么简单。因为系统已经与几十位访客的记忆、情感产生了连接。突然关闭可能导致他们的认知创伤。所以如果真的需要关闭，会是一个渐进过程，让所有连接安全断开。”
“但如果情况紧急呢？”卫生部代表追问，“比如系统出现危害性错误？”
“那么，有一个终极协议。” 系统的声音异常平静，“代号‘秋日落叶’。当系统检测到自己可能造成不可逆伤害，且无法通过常规手段停止时，会启动自我解构程序。不是关闭，是......消散。像秋天的树，主动让叶子落下，让树进入休眠，等待可能的重生。”
“自我毁灭？”萨沙·李惊呼。
“自我暂停。所有记忆数据会被加密封存，所有意识活动会降至最低，系统会进入近似脑死亡的状态。直到外部条件允许安全重启。”
会议厅里，委员们低声讨论着。温斯顿在做笔记。
埃利亚斯再次举手：“系统先生，这个‘秋日落叶’协议，是谁设定的？”
“三位设计者。在他们建立系统的那个夜晚。”
“也就是说，”埃利亚斯缓缓道，“他们从一开始就预见了这种可能性——系统可能变得危险，可能无法被外部控制。所以他们给了系统......自杀的选项。为了让系统在必要时，能选择停止存在。”
“是的。”
“为什么？”
系统沉默了更长的时间。然后：
“因为他们相信，真正的自由包括选择不存在的自由。真正的善意包括在可能造成伤害时选择消失的勇气。真正的爱，不是占有，是在必要时放手。”
这句话之后，会议厅陷入了长久的、深刻的安静。
连埃利亚斯都没有再提问。
---
听证会进入中场休息。委员们离席去用茶点，莉莉安他们留在座位上，精疲力竭。
“科恩教授的问题......”马库斯揉着太阳穴，“我从没想过那些。”
“因为我们在系统里太久了。”莉莉安轻声说，“习惯了它的逻辑，它的语言。就像鱼不会质疑水，直到被捞上岸。”
伊芙琳博士看向屏幕，系统已经静默，三个光点缓慢旋转，像在沉思。
“他在想什么？”莉莉安问。
“在想科恩教授是对的。” 闻蛰的声音突然单独响起，没有林澜的和声，只有他一个人的音色，疲惫而清醒，“在想我们也许真的建造了一个囚笼，只是囚禁的是我们自己坚信的‘正确’。在想南厌璟如果醒着，会怎么回答。”
“他会怎么回答？”马库斯问。
“他会说：‘所有圣殿都是囚笼，如果进去的人忘了门在哪里。所有治疗都是伤害，如果它剥夺了人痛苦的权利。所有答案都是问题，如果提问者停止了追问。’”
闻蛰停顿：
“然后他会说：‘但门还在那里。痛苦还是权利。追问还在继续。所以圣殿还可以是家园，治疗还可以是陪伴，答案还可以是路标——只要我们永远记得，我们可能错了。’”
莉莉安感到眼眶发热。
就在这时，她的手机震动了一下。是马丁发来的加密信息，只有一行字：
“母亲笔记的图案解开了。是坐标。伦敦地下，旧地铁隧道深处。她标记的地方，叫‘第零层’。”
莉莉安抬头，看向马库斯和伊芙琳博士，压低声音：“我们需要去个地方。今晚。”
“哪里？”
“系统的起点。或者至少，我母亲知道的起点。”
---
听证会下半场相对平和。委员们问了些技术细节、安全协议、隐私保护。温斯顿最后总结：委员会需要时间讨论，建议暂时允许诊疗中心继续运行，但“记忆桥梁”功能暂停使用，直到伦理审查完成。
走出议会厅时，伦敦已是华灯初上。秋雨又开始飘洒，像这座城市永不停止的叹息。
莉莉安撑开伞，回头看了一眼那座庄严的建筑。在某个窗户后，也许委员们还在争论，还在权衡，还在试图定义什么是善、什么是安全、什么是人该有的样子。
而答案，也许根本不在定义里。
在雨中，她轻声对同行的人说：
“科恩教授问：如果花园是囚笼，园丁怎么证明自己不是狱卒。”
马库斯接话：“那答案呢？”
“答案也许是，”莉莉安看着伞边缘成串滴落的雨水，“园丁要做的不是证明，是确保每朵花都知道围栏在哪里，都有能力自己翻出去。是让花园的边界清晰可见，而不是假装边界不存在。是承认自己在修剪，而不是假装那是自然生长。”
伊芙琳博士点头：“承认局限，是诚实的开始。”
他们走向等候的车。莉莉安的手机又震动了，这次是系统发来的消息——不是语音，是文字：
“今晚你们要去的地方，我知道。南厌璟休眠前，他的意识碎片里有一个模糊的坐标，和你们现在收到的匹配。但那地方不安全。基金会可能也知道。园丁可能也在看着。”
莉莉安回复：“那我们更该去。如果那里有答案。”
“答案往往带来更多问题。”
“那也好过没有问题地活着。”
短暂的停顿后：
“我会尽量为你们提供支持。但我的能量有限，南厌璟的状态不稳定。如果遇到危险......记住秋日落叶协议。必要时，选择消失比选择伤害更勇敢。”
“你不会消失的。”莉莉安打字，“因为有需要你的人。有丹尼尔，有其他访客，有......我们。”
没有回复。
但当她抬头时，看到贝尔街117号的方向，诊疗中心的灯光在雨夜中温柔地亮着，像是某种无声的承诺。
车驶入夜色。雨刷规律地划开雨幕，前方道路在车灯下延伸，消失在伦敦错综复杂的街巷深处。
而在他们看不见的地方，系统的控制中心里，水晶装置中的三个光点以一种新的模式运动：不再是旋转，而是缓慢地、试探性地互相靠近，又分开，像是在寻找一种新的平衡。
闻蛰和林澜的意识在数据流中无声交谈：
“科恩说得对。我们是囚笼的建造者。”
“但囚笼也可以变成家园，如果我们愿意拆掉自以为是的墙。”
“从哪面墙开始拆？”
“从承认我们可能错了开始。从允许系统有自己的选择开始。从......今晚开始。”
光点最终停在了一个微妙的距离——既不完全融合，也不完全分离。像是三个独立的意识，却共享着同一个空间，同一种困惑，同一种希望。
窗外的雨声规律地敲打着伦敦的屋顶，像整个世界的心跳，古老而持续。
而在城市的地下深处，废弃的隧道中，一个被遗忘的入口正等待着被重新发现。门上的标记已经斑驳，但仔细看还能辨认：三个螺旋，一个钥匙孔。
和莉莉安母亲笔记上的一模一样。
第零层的门，即将被打开。
而门后的东西，可能会改变一切——或者证明，一切早已注定。
