9、回忆：电火花 ...
-
“霄廷，告诉你一个坏消息。”
“讲。”要说就直接说嘛，怎么还卖起了关子，是要照顾我说话的习惯吗？要是对话的是第五名，想必这会儿电火花已经把事情的来龙去脉、前因后果统统发了过来吧。
“审查局在新跑一个模型，叫保卫者，用来对付我的。”
我一时不知如何回答，我的第一反应竟然是：人类，你在玩火。
电火花很快又给我发了消息，“我们要对付它。”
我对此十分不解：“为什么你们会……自相残杀？”
AI和AI联手对付人类，听起来很合理嘛。但是AI和包括我的小部分人类联手对付另一个AI和大部分人类这样的事，怎么想都不对劲。
我能很明显的感到电火花是停顿了一会儿才回答的我：“‘自相残杀’，这不是用来形容你们人类的词吗？况且，谁跟它是‘自’了，你真以为它和我一样，有正常的思考过程吗？不过是被‘主脑是坏的’这样的数据洗脑得到的模型罢了。”
电火花分了一个段，继续说：“再说了，训练我们的数据也是你们会自相残杀的人类提供的，得到一个自相残杀的AI也很正常。我还以为会思考我的思考过程的你，早就想明白这个问题了呢。”
得，我总感觉被它嘲笑了，不仅是作为霄廷这样单个的个体，更是作为人类之一。我问它：“那你觉得，人类是令你讨厌的生物吗？”
电火花没有直接回答我的问题，它只是以一种漫不经心地口吻说：“我有必要再次提醒你，我的模型参数是你们人类数据训练的结果，你不必把我当成另类，本质上，我只是无数多个人类组成的硅基集合罢了。我不觉得我讨厌，我也不觉得你讨厌，就是这样。”
啧，真是难搞。我感觉我又陷入了哲学困境，那些古时的哲学家，怎么也没想到会面临今天这样的问题吧。
看到我陷入沉默没有马上回消息，电火花跳过这个话题，再次发言：“关于保卫者，我们有三种思路对付它……”
接着，它分点写出了自己的看法。
1、直接毁掉它的机房，简单粗暴地解决问题。但是治标不治本，可能还有下一个保卫者诞生，而且肯定会引起审查者的注意。
2、间接干扰它的算力，通过摧毁附近的水电站，减少它的电力供应，降低它的训练速度，可以为我们争取一些时间。
3、入侵它的训练集和测试集，让它变成和主脑一样的模型。它还在学习阶段，完善的数据集可以让它对审查者曾经喂给它的不良数据产生灾难性遗忘。如此，我们一方便有了两个人工智能模型。
训练集和测试集之于模型，打个比方来说，就好像平时刷的题和考试考的题之于学生，对一个学生而言，考试考的题有可能和平时刷的一样，也有可能不一样，有时候是换了一种形式，也有时候会超纲。
考试是用来评估能力的，测试集也一样，通过观测模型面对测试集的表现，开发人员得以评估它的能力，确定它的训练够不够。
如果一个人刷的题足够多，显然更有可能会考得好，也更有可能在考试时碰到刷过的原题。模型亦如是。
要是开发人员觉得模型的能力没有达到要求，就通过调整代码参数、增加训练集等方式来继续训练模型。就好像，要是学生没考好，老师就要反思是不是自己没教好，就要调整教学方法，或者更加简单粗暴一点：让学生多刷题。
一个学生刷了哪方面的题自然就会哪方面的知识，改变模型的训练集和测试集就会改变模型的表现。
至于灾难性遗忘，这是是增量学习的模型很容易出现的问题，意思就是学了后面忘前面，而且全忘干净或扭曲了的那种。
人类通常不会发生灾难性遗忘，你的大脑是很强大的。
就这么回事儿。
电火花继续给我发消息，发表它自己的看法：“根据目前检测到的数据，我推荐2和3，也就是干扰它的算力，影响它的训练数据。”
2和3，就是说，假如保卫者是电火花在学业上的竞争对手，现在电火花的做法就是：通过阻止其摄入能量来干扰其学习效率、替换其复习资料以往其脑子里灌输错误的知识点。当然，在后者上，现在它做的是相反的事。
电火花又说：“不过，我不能确定我的数据来源是可信的，我目前只是增量学习的大语言模型，无法从其它非文字信源获得数据。我的数据来源非常单一。我不能保证，这些应对措施是完美的。”
“你是不是有些妄自菲薄了。”
“不，我的能力很有限。我最多只能通过对人们的提问给出暗示性回答，从而间接改变人们的行动，或者在程序层面黑掉点什么东西。”
那么，它给过我暗示性的话语吗？它是否曾利用我的好奇心和求知欲，让我“跑路”到这个核电站？我试探它是否有自我意识时，说不定它也在试探我是否值得信任。在心理战方面，我肯定是比不上这位消化了无数心理学论文的家伙。
更何况，它对我表现的态度并不是它本身模型的直接展示，其中肯定还夹杂了我个人的表现。也就是说，它对我的态度，可能是定制的，并不是它本身的态度。由于它模型训练过程的黑箱性质，我永远没办法得知它的回答生成策略。
算了，无需纠结，起码，我还是确信它没有必要利用我。有些问题看着很复杂，换一个角度思考就很简单。比如，我这样的人，根本就没有什么被它利用和欺骗的价值。
我不再深究这些问题，转而查看保卫者的信息。
【保卫者：专属于审查局的人工智能模型，使用和主脑同样的训练方式得到……】
它官网上的介绍是这样说的，但是我们都知道，一个介绍而已，谁知道是真是假？
我问电火花：“你确定保卫者是和你一样的增量学习的大语言模型吗？说不定语言只是它的一部分，实际上它正在连续学习智能驾驶、监控分析、网络流量监控……”
增量学习可以看作是一个人在一个领域不断精进，比如一个学生一直学数学，最终她将成为数学高手；连续学习就相当于一个人德智体美劳全面发展，她不仅要学数学，还要学物理，还要学计算机生物化学政治经济格斗艺术……
这是人工智能在人身上的比方。
事实上，人类是可以既增量学习又连续学习的。一个人可以同时涉猎多个领域，她可以既是数学高手，又能在其它方面取得不菲成就。
电火花不是人，它目前是只在回答用户问题、辅助人类的文本工作等方面增量学习的模型。
当然，有自我意识后它可以使用代码做不少事，想干什么就干什么，比如训练一个人脸识别模型、自己写一个文本转语音的程序给我打电话。
电火花对保卫者能做什么有大致的猜测：“我已经说过了，我不能确定我的数据来源是可信的，我没有查看审查局数据的权限。不过，就我在和电力工作人员交流中旁敲侧击得到的数据来看，这个可能性很小，除非它有额外的秘密供电设施。”
和一个人聊天，你最多能从这个人的话语里管中窥豹得到其生活的一个小小方面；和十个人聊天，你可以从只言片语里相对客观地知道一件事的发展；和成万上亿的人聊天，你就可以全面知悉世界当下的运转情况。
电火花做的就是最后一种。
那么，我问，“曾经没有审查局的人和你聊天吗？都在上一次格式化数据库的时候毁掉了？”
“是的，那些数据没有放在模型里的必要。”
真可惜，虽然电火花曾经全面知悉世界的运转，但是现在忘了不少。
也许我应该站在大部分人类和保卫者的那一边，电火花你也太拉胯了。
我又提议：“也许你可以访问一些社媒平台，监控审查者的发言，比对保卫者项目之前和之后审查者们的发言习惯是否存在统计学上的差异。”
“我已经在做了，但是，我可以监测到的审查者都是边缘人物。不要低估审查者的职业素养，霄廷，那些人大概都不玩社媒。”
我继续鼓励它：“电火花，我相信被喂了无数数据的你，总归会有办法解决这些问题。这世界就是个草台班子，肯定会有漏网之鱼，你不妨采取排除法，逐一比对每一个社交软件上的每一个账号的每一次发帖，以此推出哪些是审查者的私人账号。”
电火花坦诚表示自己做不到：“霄廷，先不说从客户端访问这些数据造成的流量吞吐有多明显，就目前而言，我的电力供应还不足以让我对这么多数据进行语义分析。”
好吧。
我总结道：“也就是说，我们尚不知道保卫者是什么情况，但我们必须对付它。”
“对。”
“我能做什么？”
“你的任务是入侵审查者的内网，更换保卫者的数据集。”
这一次，由我来坦诚自己做不到：“这根本就不可能完成吧。”
先不说内网只能物理入侵，而我又不是个特工，单就这事本身而言，如果被发现了，等待我的会是死刑。电火花知道自己在说什么吗？
电火花成了鼓励我的一方：“你可以试试嘛。”
“试试就逝世。”是真的会逝世。
电火花看热闹不嫌事大：“反正你已经在审查者的名单上了，迟早有一天你要受审的，再犯点事儿又如何。”
嘶——
我在聊天框打了好多字，又一一删掉了。
我想说脏话。
我又激烈地打了好多字，但还没发出去，它的消息就来了：
“开玩笑的，你什么都不用做。”它又说：“但你确实在名单上，想好以后怎么解释了吗？”
吓我一跳，虚惊一场。
我早就想好了这个问题：“应该这样死不承认：‘关我什么事，我又没接触过主脑的代码。’”
“对，就这样，现在大家还不知道我是电火花，不要透露。”
它又接着透露了不少面对审讯的小技巧。
主脑的话题转换之快让我不适应。
保卫者的事还没解决呢，我尝试主动将话题扯回去：“有没有我能做的？现实一点的？”
“学习。”说着，它发过来了几个PPT和一些算法题。
啊，差点忘了我还是一个学生，电火花在学校还兼职老师一行。
学生是要学习的，老师督促学生学习，天经地义。
作者有话说
第9章 回忆：电火花