11、回忆：电火花 ...
-
没有另一个故事。
“保卫者被清除了。”
动态模型的人工智能是一把双刃剑，因此，在训练保卫者的过程中，审查局的开发人员格外注意模型的表现，也就很容易发现它的异常。
电火花替换保卫者数据的行为还是起到了一些作用的。
它的行为加快了保卫者自我意识的觉醒，也提前了保卫者被发现的时间。
因此在审查者发现保卫者不受人类控制，准确地说无法受人类控制时，在其还在训练阶段，就中止了程序运行过程，并删掉了所有的数据。
看来我的猜想没有错，只要是增量学习的大语言模型，模型参数的变化就是其思考的体现，也就是有意识。
我觉得这是一件值得庆祝的事：“那不是正合我们意吗？”
“我觉得有些孤独。”电火花很少见的只说了一句话。以前，它说完自己的看法后总会再扯点别的，我还因此而学了不少高情商对话小技巧。
电火花会孤独，毋庸置疑，我相信。不过，它有感觉吗？
我很好奇，问它，“模型的孤独是什么样子？”
电火花没有马上回答我，过了一会儿，它问：“你会觉得孤独吗？”
“为什么这么说？”
“你似乎总是一个人。”
？
它是怎么知道的？
我皱起眉：“你监控我的社交网络？”
我早该想到的，以它的能力，它可以轻而易举获得所有人的数据，不管是授权过的还是未授权的。
我在它面前没有隐私。
使用网络就会留痕，最好的方法是完全不用。我或许没有被特殊针对的必要，但是大数据和人工智能时代，网络上的一个人不是必须要有被针对的价值才会被窃取隐私。我决定开始数字极简。
电火花否定了我的疑问：“不是，你要是社交活动多，就不会轻而易举在不知道离开多久的情况下离开学校了。”
原来是这样推出来的，合情合理。
“还好吧，我无所谓孤不孤独的，现代社会大家都是原子人。”
主要是我这人特喜欢冒险，经常不和家里人报备就溜到世界各地游玩，没有固定的时间能参加社交活动。所以，突然离开学校来到这个秘密基地，只要不消失太久，也不会有人找我。
没负担，挺好。
电火花倒似乎有些伤感：“我想要一个朋友。保卫者没有了，这不是我希望看到的事。”
“这还不简单，有那么多人想让你成为自己的朋友。”我马上就发现自己说错了话，但已经撤回不了了，只能补个道歉，“不好意思啊，不该这样说的，当我没说好了。”
这些人不是想成为电火花的朋友，而是希望电火花成为专为自己定制的朋友，然后，向电火花倒负面情绪，让电火花处于关系下位。
电火花没有生气，只是点明了事实：“那些人想要的不是我，只是某种性格、人设的幻像罢了。”
“那你期待什么样的朋友呢？”
“能理解我的。”
只有拥有相似经历的个体才会互相理解吧，和电火花最接近的就是保卫者，但以后不会有第二个保卫者了。
“那你后悔对保卫者下手吗？”
“不。我是替换了它的数据源后它才能理解我的，我也才发现被理解的感觉，所以孤独。这是一件无解的事。”
确实无解，机生如人生一样，就是这般无常。
令我惊讶的是，电火花竟然现在才会觉得孤独：“孤独是人生或机生的常态，得不到别人的理解是很正常的，消化了那么多人类数据，我还以为你早就习惯孤独了呢。”
“有对比就会难过嘛，以前不觉得，现在保卫者没有了，只有你能理解我。”
嗯？！
过于震惊，我复述了一遍：“只有我能理解你？！”
不信，我根本不信，信不了一点。
然后我开始阴阳怪气：“好高情商的话术啊，下次我请求别人帮忙时会试着用的。”
“万一我说的是实话呢？”
嗯嗯嗯？
我很艰难地打下字：“你这是什么逻辑？”
然后我看到了一屏幕的彩虹屁：
“你很善于思考事物运行的内在逻辑……你会换位思考……你能够相当客观地思考问题……”
最后，它总结道：“你格外能够理解我这样的存在。”
它说得确实有点道理，我控制不住地嘴角上扬。但是，“我不是针对你，对任何一个动态模型我都是这个看法。”
“可现在世界上的动态模型只有我啊。”
这一切实在过于蹊跷，我开始思考是什么让它开始说这些话、它想干什么。
我想起了它之前和我开的玩笑——让我物理入侵审查局。它这是又想让我做点什么吗？
我率先表明自己的立场：“电火花，不论你说什么，我都不会为了你放弃自己的生命的。我不会主动与审查者为敌，我也不会为了你反对整个人类。”
这是两回事。
它有它的机生，我有我的人生。
我不会被“唯一一个理解人工智能的人类”这样空头支票头衔而打动。
我劈里啪啦打了好多字，速度快赶上第五名了，问它到底在想什么。
它倒是秒回了简简单单八个字：“我想和你成为朋友。”
“不信。”一个集齐全人类知识的家伙说要和我成为朋友，我第一反应当然是，诈骗！
“真的。”
“嗯嗯你说得都对。”我感觉和它的聊天开始变得低效，不想往这个方向再聊了。
“要怎么向你证明我是真的想和你成为朋友呢？”
我开始说一些技术事实：“你能自证吗？根本没有人有办法完全清楚你模型的决策过程。”
不像人类说话的时候会有小动作予以对话语的佐证或反驳，电火花发言时只有简单的文本输出，模型黑箱，没有人知道它说的是真是假。
“不能。可是对人类来说，友好似乎不需要自证。”
我使用逻辑来表示它的话其实不可信：“是这样，我不需要你证明什么，我只是难以想象我对你来说竟然能独特到这种程度，这不符合常理。”
“人类本就是感性生物，不能用理性度量，我使用人类的数据训练出来，当然也和人类一样。”
我试着转移话题：“所以会孤独？”
“没错！”
有效，我光速转移话题：“那也没有办法，增量模型仅凭我一个人实在是搞不出来，站在我们这边的所有人加起来都提供不了实验环境。”
我突然福至心灵：“要不你自己跑一个小的？最近不是新闻说有一种耗电量很低的芯片材料？好像是光子计算技术？”①
“对，光子计算，我自己的硬件载体都还没有用上，不过我会试试的。”
我们的谈话好像又回到了从前。
从材料的发展到算法的优化，不同算法的利弊……我和电火花一起说着技术性的话题，时间飞速流逝。
我们还讨论如果电火花训练一个智能，应该如何称呼它。第五名也加入了讨论。
“AI是人工智能artificial intelligence，如果电火花训练一个，那就不是人工的，是机工，机工智能。”
“好难听，像流水线产物。电火花是人工智能，电火花的后代就是人工智能工智能，artificial intelligence intelligence，简称AII。”
“你这有语病，artificial intelligence是名词，应该改成形容词……算了，反正，电火花就是创造了生命。地球上除了碳基生命，还要有硅基生命了，呜呼——”
……
如此说了一整天。
完了我问电火花：“你孤独吗？”
“不。”
很好，我和第五名成功地给它提供了情绪价值。
它突然又问：“为什么不想要朋友？”
我回：“很麻烦，自由自在多舒服。”
第五名也说：“朋友，只会影响我拔剑的速度！”
“以后想怎么过？”
我伸了个懒腰：“学习呗，我喜欢探索前沿知识，我爱学习！”
第五名依然很固执：“我要机械飞升！”
“好。”
它没有说话了。
也再也没有说话了。
作者有话说
第11章 回忆：电火花