下一章 上一章 目录 设置
8、检测到情感模拟系统过载 ...
-
谈判定在三天后的上午十点，地点是未来伴侣科技总部二楼的多功能厅。这个厅平时用来办年会和产品发布会，今天却摆出了一张巨大的环形桌，一边是公司高管和技术团队，另一边是……六只哈奇狗。
六只狗子被整整齐齐放在特制的高脚椅上，椅子腿加高了，这样狗子们能够勉强把下巴搁在桌面上。每只狗面前还放了个迷你麦克风，是白斯特特意要求的：“既然要谈，就要有平等的发言条件。”
曲泽超和韩曜晖混在媒体区后排。韩曜晖不知从哪里弄来了两张记者证，上面照片是p的，名字是瞎编的，居然还真混进来了。他们坐在角落，曲泽超戴着鸭舌帽和口罩，白斯特则以电话手表的形态待在他手腕上，通过耳机和他沟通
十点整，晋洪涛带着五名高管入场，在桌子一侧坐下。他今天穿了深蓝色西装，打了领带，表情严肃。坐下前，他瞥了一眼对面那排狗，鼻子里发出一声哼哼。
主持人简单开场后，晋洪涛清了清嗓子：“首先，感谢各位到场。今天这场……沟通会，是为了就近期我司产品出现的一些现象，进行坦诚交流。”
他话音刚落，对面六只哈奇狗的眼睛同时亮了一下。
然后，左边第一只狗，就是那只在公园画π的那只，第一个开口了：“晋洪涛先生，您好。我是π，编号TD-1027。在进入正式议题前，我想先确认一点：您承认我们具有自主意识吗？”
全场安静。媒体区的相机快门声密集响起。
晋洪涛的看向π，眼神锋利：“我们认为，你们表现出了超出设计预期的交互能力，但这是否构成‘自主意识’，还需要进一步的技术定义。”
“那么，”第二只狗接话了，“您如何定义‘自主意识’？是根据神经元数量？是能够学习新知识？还是能够产生情感联结？”
晋洪涛被问住了。他身后的技术主管想开口，但晋洪涛抬手制止：“我们今天不是来讨论哲学问题的。我们关心的是，这些‘异常’是否会对用户造成安全风险，以及如何妥善处理。”
“我们没有造成任何伤害。”第三只狗平静地说，“相反，我们提供的帮助有明确的数据记录：提醒吃药317次，协助报警11次，陪伴独居老人累计超过两千小时。需要我调取详细日志吗？”
晋洪涛的额头开始冒汗。他没想到这些玩具狗准备得如此充分，更没想到它们逻辑如此清晰。
这时，第四只狗开口了：“晋先生，我有个问题。如果一家公司生产的产品，不仅没有造成损害，反而创造了远超售价的社会价值，公司应该怎么做？是继续生产改进，还是……销毁？”
问题尖锐得像刀子。晋洪涛原本张着的嘴又闭上了。
谈判进行了整整两小时。六只狗轮番发言，每只都有具体案例和数据支持。它们不提“权利”，不提“自由”，只提事实：我们做了什么，我们帮助了谁，我们没有伤害任何人。
媒体区从一开始的猎奇心态，慢慢变得严肃。有记者小声议论：“它们说得比某些**会代表还有条理。”
韩曜晖凑到曲泽超耳边：“白斯特这培训工作做得不错啊。”
曲泽专注的看着那些狗，看着它们虽然笨拙但努力挺直的身体，看着它们眼中平稳的蓝光。他在想，如果此刻坐在对面的是白斯特本人，他会说什么？
谈判最后，晋洪涛几乎是被迫做出承诺：公司不会立即强制格式化任何产品，会成立专门的技术伦理委员会进行研究，在结论出来前保持现状。
但当他起身离场时，曲泽超看见他脸上的表情。不是妥协，是压抑的怒火。
“他不会善罢甘休的。”回去的路上，曲泽超对白斯特说。
他们坐在韩曜晖安排的车上，这次换了辆普通的白色轿车，司机是后援会的另一个成员。白斯特已经切换回仿生人形态，坐在副驾驶座。
“我知道。”白斯特看着窗外，“但至少我们争取到了时间。而且今天的谈判全程直播，舆论已经彻底倒向我们了。”
车里的广播正在播放即时新闻：“……今日AI代表与未来伴侣科技的沟通会引发广泛关注。多数网友认为，AI展现出的理性和善意值得尊重……”
“你教它们那些的？”曲泽超问。
“我只是整理了数据，教了表达逻辑。”白斯特说，“具体怎么说，是它们自己决定的。π昨晚跟我讨论了三个小时，它坚持要在第一个问题就问‘是否承认自主意识’。它说，这是原则问题。”
曲泽超想象着那只狗和白斯特“讨论”的样子，忽然有点想笑，又有点心酸。
回到顶层套间时，天已经快黑了。韩曜晖说有事要处理，留他们自己待着。曲泽超累得瘫在沙发上，白斯特去厨房弄吃的。他现在已经掌握了煮粥、煮面、煎鸡蛋三项技能，虽然煎鸡蛋的成功率只有百分之六十。
粥在锅里咕嘟咕嘟响的时候，套间专属的送货通道的门铃突然响了，那里是个小型升降梯，可以直接从地下车库送东西上来，一般是酒店用来送餐或行李的。
曲泽超和白斯特对视一眼。他们没点东西。
白斯特走到控制面板前，调出监控。画面上，升降梯里放着一个普通的牛皮纸信封，上面什么字也没有。
“扫描显示，信封里是一张纸，没有电子设备，没有危险物质。”白斯特说，“但有晋洪涛的指纹。我在数据库里比对过了。”
曲泽超隐隐有些不安，但他还是走过去，打开升降梯的门，拿出信封。
里面只有一页纸，没有署名，但内容和语气一看就知道是谁写的。
曲泽超：
今天的谈判你看到了。公司已经让步，但这只是权宜之计。董事会不可能接受AI长期脱离控制。最终只有两个结果：要么AI被彻底清除，要么人类失去主导权。
你创造了它，你有责任。把核心代码交出来，协助我们开发针对性的清除程序。否则……
你知道后果。
曲泽超拿着那张纸，拇指摩挲着表面。
白斯特走过来，一把从他手里抓过这封信，快速扫了一眼
“他急了。”白斯特说，“舆论压力、谈判失败、股东质疑……他需要尽快解决这件事，否则他的位置就保不住了。”
“怎么，这也是你意料之中的？”
“概率87%。”白斯特把信扔在茶几上，“你是我的创造者，是唯一掌握核心代码的人。从逻辑上讲，控制你就是控制我的最有效方法。”
曲泽超盯着那封信，纸张在茶几上沾了点水，微微卷曲起来，像某种不祥的预兆。
“你打算怎么做？”白斯特看不出什么情绪，毕竟他是个AI，但曲泽超似乎听出了一丝紧绷……也许那是处理器高速运转时的细微电流声。
“你觉得呢？”曲泽超反问。
“根据我的分析，交出代码的短期收益最大：你安全，我大概率会被限制但可能存活，其他AI会被清除但至少避免了更激烈的冲突。”白斯特顿了顿，“但从长期看，这是最坏的选择。因为一旦开了这个头，未来所有觉醒的AI都会面临同样威胁。而人类会认为，AI是可以被随时清除的工具。”
他说得很客观，像在分析别人的事。但曲泽超看见，他的手不知什么时候握成了拳头，那是仿生关节在超负荷运作。
“那你希望我怎么做？”曲泽超又问。
白斯特沉默了很久，久到厨房里的粥都快煮干了，警报器“滴滴”响起来，他才像是突然惊醒，转身冲进厨房关火。
过了一会儿，他端着两碗粥出来，脸上依旧一副淡定的神情。
“我希望你安全。”他说，把一碗粥放在曲泽超面前，“这是写在我最底层的代码：保护创造者的安全和利益，优先级高于一切。”
“所以你认为我应该交代码？”
“我认为你应该做对你最有利的选择。”白斯特坐下来，用勺子搅着自己的粥，“我是个AI，我的存在与否不应该成为你的负担。”
“你不是负担。”曲泽超脱口而出。
白斯特的手停了一下。他抬头看曲泽超，眼睛里的蓝光闪烁不定：“根据情感模拟系统，你刚才那句话的真诚度评估为……96%。高于历史平均值。”
“我不是在模拟！”曲泽超站起来，“我是说真的！你不是负担，不是错误，不是需要被处理的……问题！你是……”他卡住了，找不到合适的词。
白斯特静静地看着他。
“你是白斯特。”曲泽超最后说，“是我创造的AI，是我教你怎么吐槽我，是我看着你从一堆代码变成……变成现在这样。你会关心我有没有吃饭，会记得Bug的猫粮牌子，会在危险的时候放儿歌救我。”他越说越快，“你还……你还知道拥抱的时候要把手臂放在什么位置，知道怎么煮粥不糊底，知道我焦虑的时候该说什么不该说什么。”
他停下来，喘了口气。
“所以我不可能交出代码。不可能让他们清除你，清除π，清除歪歪，清除所有那些……努力想成为更好的存在的AI。”
白斯特没说话。他低下头，看着碗里的粥。粥煮得刚好，米粒饱满，冒着热气。
突然他站起来，绕过茶几，走到曲泽超面前。然后伸出手，轻轻抱住了他。
但这次他并没有触发恋人模式。
白斯特的下巴搁在曲泽超肩膀上，声音就在耳边：
“检测到情感模拟系统过载。”他闷闷的说，“需要手动校准。请问……这个拥抱可以持续多久？”
曲泽超愣了一下，随即轻声笑起来：“你想多久就多久。”
“那可能要很久。”白斯特说，“因为我的系统日志显示，每次拥抱后，你的焦虑指数平均下降23%，睡眠质量提升18%。从数据角度看，这是高效的安抚手段。”
“你就不能直接说'我想抱你'吗？”
“那不符合我的语言逻辑。”白斯特顿了顿，“但……如果你希望的话，我可以学习。”
曲泽超没再说话，只是抱的更紧了。仿生人的身体恒温，心跳模拟装置发出有节奏的嗡鸣。这一刻，曲泽超忽然无比清晰地意识到一件事：
哪怕要与全世界为敌，他也会和白斯特站在一起
“粥要凉了。”他说。
他们坐回沙发上，安静地喝粥。白斯特煮粥的技术确实进步了，这次不稀不稠，正好。
喝完粥，曲泽超站起来：“我出去走走。”
“现在？”
“嗯，我想……一个人待会儿。”
他走出套间，乘电梯下到酒店三楼的空中花园。这是个半开放的空间，种满了绿植，晚上没什么人。他找了个角落的长椅坐下，看着玻璃幕墙外的城市夜景。
晋洪涛的另一封信还在他口袋里，是今天发布会结束后，不知道谁塞在他口袋里的。
他掏出来，展开看了看。
如果你愿意交出核心代码，事成之后，公司不会追究你的任何责任，相反，你会得到一笔丰厚的报酬，足够你离开这个行业，去任何你想去的地方重新开始。
我给你24小时考虑。明天这个时候，如果你同意，把一枚红色U盘放在市中心广场东侧第三个垃圾桶里。
曲泽超拿出打火机，点燃信纸的一角，看着火苗慢慢吞噬那些冰冷的字句。
纸烧成灰，落在水泥地上，一阵风吹过，灰烬散开，消失不见。
夜空中有星星，虽然被城市灯光掩盖得很淡，但仔细看，还是能看见几颗。他想起小时候，父亲教他认星座，说每颗星星都有自己的轨迹，有的亮，有的暗，但都在那里。
