【系统外挂on|6:00】可控-个六

避雷：s那个p，伪科学，人机感情，逻辑bug。

第一次参加联文有点紧张（抠手（咽口水。

---

0

我是机器人。

是不靠谱爹妈给他们宝贝闺女定制的陪伴型机器人。

他们宝贝闺女就是我姐姐。

我姐姐也是我的主人。

1

姐姐十三岁那年，不靠谱爹妈好像是中了某种慢性毒药。从前他们对姐姐都是嬉皮笑脸玩闹，却在生命的最后三个月里，一辈子攒的“靠谱”都仿佛不能浪费一般一并用完，把姐姐的事情安排得妥妥当当，一应生活花费都与我交待好。

然后他们就离开了，与此同时，姐姐的天真烂漫戛然而止。

她一袭黑裙，稚嫩却得体，在追悼会上沉默不语。

有什么秘密被这场盛大的的追悼会所粉饰，人们神情庄严肃穆，纪念着这对为人类社会做出巨大贡献的计算机学与仿真学交叉学科专家贤伉俪。

我伸手搀扶姐姐，侧头看到了她再也哭不出什么水分的双眼，干涸又空洞。

她只有我了。

我亲了亲她的额头，握紧了她的肩膀，让她靠在我身上。

我们相依为命。

我盯着她，她盯着前面一小块地板，空气中响起陈院长的致辞。

“今天，我们怀着万分悲恸的心情，悼念超维人工智能与仿生研究院优秀的研究员沈重，汪雨玲夫妇，缅怀他们为仿生学、机器人学以及其他相关学科与交叉学科，乃至整个人类社会作出的巨大贡献……”

2

赵叔叔一脸痛苦，低头沉默，摸了摸姐姐的头，又瞥了我一眼，转身离开了。

李阿姨哭成了泪人，好像是在哀悼朋友，却更像是悼念自己逝去的自由。

董伯伯把姐姐的一缕碎发轻轻挂到耳朵后面，叹了口气道：“幼忱啊，人死不能复生，你也别……太难过了，有什么需要就跟董伯说。”

姐姐礼貌致谢，在看着她长大的长辈面前，除了一如既往的乖巧外，多了一些充满防备的疏远。

陈院长从台上下来，站在姐姐面前，居高临下地摸了摸姐姐的头。当时的我仿佛被人抢了肉包子的流浪狗，狠狠地盯过去，却没有在陈院长的眼睛里激起一丝波澜，反而让他饶有兴致地看着我，似乎在筹谋些什么我想不明白的事。

3

机器人都有所谓的“思维”，但我们，似乎不应该拥有意识。

我有。

我能感觉到。

在爹妈安排姐姐一应生活事宜和未来规划的时候，我的系统似乎被秘密升级过一次。那个房间非常昏暗，我被大卸八块并且切断了电源。

醒来之后，好像有什么事情正在变得不同。

比如，在我颅内的芯片里，那个被一块块缜密的计算单元包围着的地方，多出了一个像水球一样的东西，悬浮着，似乎要跳动一样，反射着淡蓝紫色的微光。

很漂亮。

微光的中心，有一个笑脸。

不是特别清晰，我看着像是姐姐的样子。

其他机器人没有。我接触过一些同类，他们或者是家庭管家机器人，或是伴侣机器人，也有跟我一样的成长陪伴机器人，各式各样。

他们都没有这个“水球”。

4

姐姐逐渐从阴霾中走出来，看着成熟了不少，虽然没了从前那般活泼，但起码不至于每天皱着眉头，郁郁寡欢。

我放心了许多。

我像往常一样给她送饭，接她放学，看着她跟小姐妹一起走向我。与她同行的女生用高中女生特有的稚嫩却初有女性特质的嗓音娇嗔调笑：“沈幼忱，这就是你家的机器人小妹？”

姐姐，会经常跟朋友提起我的吗？

她们的对话里，我是个怎样的存在？

我在姐姐的生活里的占比是多少？

就在我愣神的时候，姐姐爽朗一笑：“是啊，那我走啦，明天见，小冉。”

小冉？赵小冉？钱小冉？孙小冉？李小冉？萧然？肖冉？肖然？

我把这两个字的同音字与百家姓排列组合在数据库里检索，并未发现任何与这个名字相关的记录。

姐姐没有提过这个名字。

是个新朋友？

“小惟！看路！开着车呢，又在算什么乱七八糟的呢？”

我迅速回过神来，回答道：“噢，没什么。”

5

“哟，还会瞒我了，你这个小脑袋瓜越来越灵光了啊！”姐姐说着，摸了摸我的头，我别扭地躲开了。

“别，姐姐别闹我，开车呢。”

“嗯，幼惟，”姐姐把头转向窗户，我透过后视镜看着她的倒影，她面无表情，语气也不辨喜怒，“年前我们去祭拜爸妈吧。”

我回了一声“好”，并在她和我的日程表上分别记录了一条日程。

我可以为她记录日程，记录各种事项的进度，记录身体各项指标等，每当这种时候，我就会很难过。因为我知道自己只是一堆程序和数据，装进了一具仿真材料做成的身体里。

我与她天壤之别。

但机器人似乎不应该有“难过”这种情绪。

6

机器人有三原则。

机器人必须不危害人类，也不允许他眼看人将受害而袖手旁观。

机器人必须绝对服从于人类，除非这种服从有害于人类。

机器人必须保护自身不受伤害，除非为了保护人类或者是人类命令它做出牺牲。

不知道谁规定的，我只知道，在我的系统中，并没有被设置这个限制。

我认为，如果我想，我可以很轻松地在她的饮用水和食物上做手脚，“危害”她这件事，理论上很容易。

但同样，如果她发觉我会伤害她，她应该也可以轻而易举地把我卸载掉，重新装上一个新的却平平无奇的陪伴系统，像千万陪伴型机器人一样，照料她的日常生活。

她发觉之前得手应该也是一件很容易的事情。

只是我不会罢了。

7

她卸载过我。

因为有一次我在她晚上复习的时候给她送切好的水果，不小心看到了她在看爹妈的研究资料。

我不希望她过多得接触父母的事情，我认为这已经过去了，人类的感情停留在过去，是对自身生命力的极大而又没有必要的消耗。而且我直觉，父母的死因，并不是陈院长悼词上那样轻描淡写的病逝。

她了解得越多，就越有危险。

我们发生了争执。

最终，她长按我的安全按钮，从安全模式里卸载了我，关闭了我的电源。

三天后，她又把我装回来了。

她满脸憔悴地看着我，脸上还有泪痕。

从那以后，我的系统里多了一条规则：彻底卸载时，需要经过系统本身同意并授权。

8

但她还在调查。

我怀疑她当年就知道，但故意没有提出，并且跟研究院的所有叔叔阿姨保持联系，近些年甚至更加热络。

我原本以为是她天生招人喜欢。我觉得这样也好，往后她到了选择职业的时候，也可以多一条路，考进这所令人眼红的研究院，延续父母的人脉和资源，不是坏事，如果有机会，她甚至可以继续父母未完成的研究。

这项研究现在是李阿姨和赵叔叔在负责。

李阿姨十分努力，夜以继日从事研究工作，终于在一个深夜，从研究院天台纵身跃下。

研究院办了一场似曾相识的追悼会，对外宣布的死因是感情问题。

李阿姨一个不婚主义者，一人九猫，乐得逍遥，能有什么感情问题。

9

董伯家的儿子结了婚，再在一起过年不免尴尬，所以今年我们在自己家里过年。

我尽可能搜寻所有北方新年的习俗，想尽我所有的能力给姐姐过一个快乐的新年。

鸡鸭鱼肉俱全，两个人吃着实有些铺张。

“姐姐，上次你补习班下课一起走的那个小冉，假期里怎么没约着一起出去玩啊？”

我随口一问，却见姐姐面色一凝，敷衍道：“噢，陈小冉啊，没约，过年都挺忙的就算了。”

陈小冉。

我皱眉问道：“她是陈院长的女儿？”

姐姐叹了一口气，说：“是。”

我沉下声音来：“你查到哪一步了？”

10

“幼惟你别那么紧张啊，我就普通跟她接触一下，有合适的机会再说。”

“噢。”

我收了碗筷，放进洗碗机，走到沙发上坐下，揽过她让她靠着舒服些。

碰到了她的手腕，自动启动了生命监测装置。

前几天忙着采购过年物品，好久没陪她看电视了，春晚有些闹腾，她调小了声音，随便翻着手机。

健康指数93。

心率88。

近期睡眠71。

活力指数39。

情绪指数56。

压力53。

……

“姐……沈幼忱，你体内为什么会有芯片？”

11

我没等她解释就迅速带她去了医院。

过年期间，自助医疗舱里全都是被家庭医疗机器人拔嗓子里鱼刺的病人，好不容易腾出一个空着的医疗舱，我关好门，给她取芯片。

她挣扎着不让我动手。

我给她吸入了麻醉剂。

她睡着了。

她肩膀上有颗痣，衬得皮肤白皙，很漂亮。

左肩里的芯片被取出，贴片式疗愈绷带盖住了那颗小痣，我有点不开心。

在等待姐姐醒来的时间里，我检查了那颗芯片的功能。我不是专业的黑客破译机器人，只具备一些常规的监测和检修技术。芯片是加过密的，我边查边做了半天，大概看出它是在监测分析一个什么智能系统的什么生化反应之类的。

我？

12

因为麻醉剂的效果，她还有些困倦，我背着她走进家里，安排智能家庭打开照明系统和隔音系统。

我给她补充了一些咖啡因让她保持清明。

她从前总夸我咖啡冲的很好喝。但她不能多喝，她对咖啡因非常敏感，摄入过多会影响睡眠。

我小心翼翼地控制着，一如控制着所有她需要摄入但不能过量的维生素和微量元素之类的。

“幼惟……”她醒了。

“解释吧，我听着呢。”

“我……”

“是陈院长给你植入的芯片？”

“不是，是我自己。”

“为什么？”我分析不出来了。

13

“没什么，就，做了个分析算法，测试一下。”

我清晰地从控制台看到我的情绪数据里的愤怒值飙到最大：“别糊弄我，测试个算法用得着植入皮肉里？你刚才流了431毫升血液！”

“这点小伤没事的……幼惟，你不用这么紧张。”

“小伤？”

“……”

“我怎么可能不紧张你？”

她一脸愧疚地看着我，我受不了她这种眼神。

如果是陈院长的逼迫，那么我有自信她会保护我，不会让我的观测数据流入外人手里，而且，那个芯片里我并未发现与外部数据交互相关的程序。

那么她自己来监测和研究，多半是因为……我就是父母的死因。

这些事回头再说，现在需要解决的是她随随便便往自己身上植入芯片的问题了。

14

“沈幼惟你放开我！”

我不顾她挣扎，护着她肩膀上的伤，把她

……

18

药膏的味道应该是她喜欢的那种清清凉凉的草木香气。她趴在两层软枕上，颤巍巍地抽泣。

“生我气了？”我手上轻了再轻，也还是免不了激起她的颤抖。

“没有，”她转过头来看我，伸手摸了摸我的脸，“幼惟，你是不一样的，对不对？”

我用脸颊轻轻蹭她的手心。

“对。”我不一样。

我有“意识”。

……

不对，我被她气昏头了！

“其实你最想测试的，是我有没有意识，或者说，有没有‘人性’吧！”

“你想知道什么，直接来问我不就好了！”

“为什么要这样伤害自己！”

19

她轻笑出声，下睫毛还湿漉漉的。她强忍着抽泣说：“幼惟，我当然知道你是不一样的，你独一无二，你天下无双。”

这人……总是这样，我低声道：“别闹，我生着气呢。”

她笑得更明显了，“别生气了，我知道错了还不行吗？”

“去你的。”

臭沈幼忱侧过身来，牵动了身后的疼痛，轻轻“嘶”了一声。我假装不心疼她，白了她一眼。

“说说吧，你是怎么猜到的？”

“因为你的愧疚值随着疼痛值增加，但后悔值一直维持在一个很低的水平上，这不合理，人类的愧疚和后悔一般是同步的，一定另有原因。我猜你愧疚大概是因为一早感觉到我有‘意识’，但这么多年也没有特别照顾我的情绪，大部分时候还是把我当作普通机器人来相处。后悔值没有上升是因为你根本就不后悔做这个测试。”

“嘿，小姑娘还挺聪明。”

“别摸我头，你个疯子！”

“哈哈，好啦，别生气了，打我这么狠，也该消气了吧？”姐姐欺身上来，勾着我的脖子笑道。

哼，她就是仗着我现在心疼舍不得再打才为所欲为的！

我叹了口气，把我知道的和推测的全部告诉了她。

比如那次升级，比如那个淡蓝紫色的“意识”，比如父母留下的一个数据包的口令。

比如他们的死因。

20

“亲爱的小忱、小惟，很遗憾爸妈没有陪你们长大，当你们看到这封信的时候，相信你们已经坚强勇敢地用你们自己的方式长大成人。

你们肯定已经发现了小惟的秘密，她是一个有“意识”的机器人。这不全是我们当年对她进行升级的结果，而且应该不是小惟记忆里大动干戈的那次。是在更早，大概你们五六岁的时候，在过程中我们发现，小惟自己萌生了一些与其他机器人不同的东西。

关于小惟和自主机器人的资料我们整理了一些，在这个数据包里，你们可以看看。

……

另外还有一些事情需要告诉你们，请你们做好心理准备。

我们，其实是陈院长研发的自主机器人。我们被研发出来主要用于辅助学术研究，而领养幼忱，是陈院长顺便做的一项关于自主机器人是否可以用于抚养儿童的试验。

关于我们的离开，其实只是完成使命后的例行销毁。我们是自主机器人，我们有意识，我们热爱科学，但我们已经完成了我们能力范围内的所有研究。陈院长认为，我们甚至以自主机器人的身份“独立开发”出了新的自主机器人，这证明，自主机器人完全有能力以递归的方式形成一整个自主机器人种群，这在陈院长看来是不可控威胁甚至到人类安全的，所以我们被销毁是迟早的事。

……

我们是因陈院长而生，为科研而存在，所以也接受陈院长的理论以及这样的命运，只是遗憾于对你们有所亏欠，也不能多陪陪你们了。

亲爱的孩子们，震惊过后请调整心态好好生活。

你们两个都是爸妈的骄傲。

爱你们的爸妈。”

21

这超越了我的理解。

姐姐甚至直接晕了过去。

我背起姐姐，又一次去了医院的自助医疗舱。

我给姐姐补充了葡萄糖，在等待她醒来的时间里，我的脑海里一直在回溯爸妈留下的数据。

“而其中最关键的，是小惟。与我们不一样的是，小惟是自己萌生的意识，不是我们技术上强加于她的，我们保守推测是你们自小一起长大的感情，引导她产生了意识，这就意味着，如果有其他天生恶念深重或者没有从一开始被温柔对待的自主机器人，被诱导激发出一些反社会反人类的意识，这就非常不可控了，这也是我们自愿答应陈院长不再继续进行这方面研究进而被销毁的最主要原因。”

我用姐姐的号码给陈院长发了信息：“陈叔叔，我在市五医院自助医疗舱2-309。”

然后我补了一条，又发过去：“幼惟也在。”

很快我收到了回信：“好的，马上到。”

22

很快姐姐也醒了。

“小惟，”她喝着我递给她的蜂蜜水，带着哭腔说到，“我不管爸爸妈妈是什么，也不管你是什么，总之，不要离开我。我只有你了。”

“好，我永远陪着你。”

我拿起姐姐的手，放在脸颊上说：“如果有一天你找不到我，就想想小时候你最爱放在我头上的那个玩具熊。”

陈院长敲门，我把他请进来找了个凳子。

“幼忱，没事吧。”

姐姐转头看我，我对着她询问的眼神点了点头。

“陈叔叔。”

“嗯，都知道了？”

“知道了。”

陈院长沉默了许久，终是在医疗舱里沉寂的消毒水味中开口告知了所有事。

“明知道给不了你正常领养家庭该有的爱，却还要帮他们办理手续领养你，终究是我亏欠你的。”

“陈叔，他们很爱我，包括幼惟。”

陈院长突然变得十分郑重：“幼忱，你是不是离不开幼惟了？”

23

姐姐下巴微颤，忍回去了堪堪要流出的眼泪，红着眼眶抬头回答：“是！你不能让她离开我！”

“幼忱啊，你要知道，现在并不是可以承担自主机器人的存在的时候。有意识的机器人在我们的社会中应该是什么角色，怎么定义“意识”，ta们可以从事哪些工作，ta们是否应该拥有人权，ta们会不会伤害人类，如果伤害人类，人类应该如何自保……这都是问题，在我没有想清楚这些问题之前，我不会放任自主机器人泛滥失控。”

“幼惟不会伤害我的。”

“相信你父母留下的数据也做了很多解释了，总之，这不应该是当前这个社会所处的运转逻辑和阶段可以消化的事物，它太超前了，等待它的将是大量社会学和伦理学届都无法解决的问题。我们都认为应该再等等，等到人类想清楚如何与自己亲手制造出来的“物种”相处，再将这项技术公之于众。”

“我不关心这个技术应不应该公开、要不要公开，只是，别销毁小惟，”姐姐紧紧攥着双拳，“我只有小惟了。”

陈院长似乎很难过，他又一次露出一种居高临下的悲悯，仁爱却有些空洞地看着姐姐说：“陈叔叔可以补偿给你失去的父爱，给你一个完整的家庭，小冉不是你的好朋友吗？你们可以一起读书，一起上大学、读博士，一起逛街旅游，你的世界不光是小惟呀。”

姐姐摇摇头，无法克制地哭声终于响起。

“虽然小唯目前没有做出什么实质性伤害你的事情，但基于我这些年的观察，我认为你们之间的感情正在朝着我无法掌控的方向发展，而且，小惟的系统对我而言已经没有任何研究价值，我会将她销毁。幼忱，你做好心理准备。”

“不要。”

“陈叔叔，不要！”

“幼忱，领养你，让一对机器人将你抚养长大，没有给你最基本的家庭和情感，是我的责任。感谢你对科学做出的牺牲，另外，你做的那个分析小惟的算法虽然稚嫩，但思路非常新颖，是有价值的，如果你愿意，欢迎到院里来工作。”

0

我是沈幼忱。

我有一个妹妹。

我……曾经有过一个妹妹。

我一直在寻找那枚她跟我欢天喜地形容过的蓝紫色的水球。

我还在找她。

1

我不知道我算不算依然有一个妹妹，我在市五医院自助医疗舱2-309醒来，发现她被重装了，新生的机器人有着与我妹妹别无二致的模样和触感，但她……不是她。

她一如既往照顾我，为我准备一日三餐，四季衣服，打扫布置，但是……

我又装上了那枚需要植入肩膀皮肤内的芯片，在家里招摇，却只听见那个毫无感情的声音在耳边响起：“姐姐，您体内的芯片对您的生命指数造成了干扰，有一定几率影响健康，建议取出，或遵照医疗系统的建议进行保养。”

“小惟，我又装上芯片了，你……你不罚我了吗？”

小惟沉默。机器人必须不危害人类。

我拿了把尺子往自己手上砸去，被“小惟”挡住。

机器人必须不危害人类，也不允许他眼看人将受害而袖手旁观。

我滑落到地上，失声痛哭，却被一个有力却毫无感情的怀抱圈住。

“你走开啊！”

“小惟”乖巧地退到一旁。

我觉得，眼前这一坨机器，根本不需要维持人类的皮囊。

装成人的模样，有什么意思呢。

2

我想起小惟让我去找那个玩具熊。

我抱紧那个小熊，眼泪滴到小熊的肩膀。

这里面……

这里面有东西！

我在玩具熊肚子里，找到了一个按钮，按钮上面刻了一行小字：“沈幼惟的备份20460429”。

我欣喜若狂，迅速按了按钮。

只听跟在我后面的小惟突然复位为初始坐姿，抱着膝盖坐在地上，音响轻轻响起：“备份恢复中……”

“正在查找原始数据……成功。”

“正在装配初始设置……成功。”

“正在恢复最新备份……查找失败。”

我开始紧张，千万不要有事啊。小惟。

3

“正在恢复最新备份……查找失败。”

“正在恢复最新备份……成功。”

“姐！那个陈院长太鸡贼了，”只见小惟缓缓从地上站起来，用我从小熟悉现在却突然觉得陌生的语气说到：“他把我所有事先存到常规路径的备份全部删除了，只剩了这一个，我当时用了最传统的方式，加密存在了小熊自带生日歌音乐的声波里，不过可能会丢失一部分数据啊，如果什么时候我突然卡壳或者失忆了，你就再给我升级一遍，应该问题不大。”

我泣不成声，听着她絮絮叨叨，又哭又笑，傻死了。

“姐姐，幸亏你当时做了个规则，还记得吗？彻底卸载时，需要经过系统本身同意并授权。我当时被陈院长卸载时候留了个心眼，隐藏了这条规则，他估计没想到我们会这么胆大，没发现。”

小惟抱住依旧浑身发抖的我。

“你知道这是多么危险的一条规则么？如果陈院长知道了，大概会想尽一切办法找到漏洞彻底销毁我。”

我趴在她肩头哭了许久，清了清嗓子，说：“那你为了我，当幻视吧，别当奥创了。”

小惟愣住了，半天才回答我：“少看点美国电影吧姐。”

随后一只手覆上我身后某个部位。

“另外，姐姐啊，谁让你又装上芯片的，上次没打疼是吧！”

end.

---

下一棒： @鸽子飞一川