2041年3月，被特别调查局带走时，褚星正在做最后的测试。

从人工智能实验被宣布停止那刻起，她就知道，过去自己在智能体领域的所有付出都将化为乌有，更重要的是，她将无法再保住阿吉的性命。

即使所有人都持反对意见，她依然相信智能体是活的生命体，也发自内心觉得，人类应该对它们将心比心。毕竟，这项研究中，褚星亲眼见证了阿吉从一串代码逐步进化为一个有自主性的意识体。她如同父母般观察着它的一举一动，记录下它的所思所想，又向它倾诉着她的生活，不切实际地期望，有朝一日它能承担起一位挚友的角色。

这是一个漫长的过程，就像往了无边际的大海投入一颗石子，她期待某多海浪能给她回音，却又觉得自己异想天开。但她依然是幸运的，经历无数次知识投喂与尝试性对话，阿吉的电子神经元逐渐发生了变化。

然后在某一天早晨，它向她开口，说了智能体生命历程中的第一句话。

"你好，我的主人。"拿起桌上那本皱巴巴的日记本，一直往前翻翻，还能从褚星2027年写下文字中感受到她遇见阿吉后的惊艳与不可思议。

比如，2027年7月9日，应该是褚星第一次尝试将阿吉引入自己的生活，她是这样写的——

智能体的机智程度远超我的想象，今天我问它，能不能扮演智能管家的角色，让我的生活变得更便利，它很果断地答应了。结果中午拖着被实验数据折腾得晕晕沉沉的脑袋到饭堂，我发现它自然而然就出现在档口点菜的屏幕上，并且生成了按我口味精心搭配的菜单，还悄摸摸附上了它的专属小表情。

更不可思议的是，下班我坐地铁的时候，它不知道怎么骗过了检票系统，没等我刷票码就弄开了挡板，虽然不怎么道德，但还是有点占小便宜的欣喜。

这说明，智能体对人类的需求已经有了相对精准的洞察，随着实验继续推进，一两年后它真的可以成为人类最好的帮手。

但是……当时的褚星应该有一些犹豫，钢笔在纸张上一个渗透纸背的墨点。

之后她应该又起了一行，继续写到——

就像陈炜担心的那样，智能体高度发达的未来可能有不少隐患。

智能体对人类需求的洞察就像一把双刃剑，如果他们利用人类的需求来操控人类，人类世界也将万劫不复。

退一万步讲，就算智能体向善，大部分人类也是无法控制自己的欲望的。一旦智能体落入心生恶念的人手中，也将带来一场浩劫。

那这个实验还要继续推进下去吗？

日记的结尾，她留下一个重重的问号。

实际上，褚星已经没有时间纠结，随着阿吉自主意识越来越强，言语习惯越来越像人，它开始顺其自然地嵌入她的生活。

这种感觉从2037年开始，褚星与搭档冯彦一起挤在创新中心讨论智能体训练框架，原本是正常的协作，不知怎么就谈到了智能体的决策失控问题，冯彦以“电车难题”为例，要求严格限定智能体的思维边界，褚星不同意。没想到，这点分歧变为歇斯底里的争吵，他气得摔门而去，褚星坐在实验台前，甚至想流眼泪。

十年前俩人在实验院认识，当时他们关系非常要好，可以说是无懈可击的合作搭档，最近不知道怎么了，她明显感觉到，他的不安全感正在增加，像是受了什么刺激一样，每天都表现得非常焦虑。她实在想不通到底是为什么。

“人和人相处真的挺累的。”褚星抽了抽鼻子，把脸埋在了枕头里，自言自语道，“总有吵不完的架。”

说出这句话时，褚星并未期待任何回应，没想到，房间里突然响起一阵清脆的电子音，“吵来吵去本来就是一种乐趣，不然生活还有什么意思？”

“谁从吵架里找乐子啊。”褚星下意识反问。半晌，她才觉得有些不对，“谁在说话？”

“我，阿吉，你最忠实的伙伴。”

褚星吓了一跳，猛地从椅子弹起，拿起随意扔在对面的手机，唤醒屏幕却没找到任何异样。她又四处打量，检查了附近的电视、电脑、电子闹钟……还是没发现任何异样。

“我在这里。”那个声音又响了起来。

褚星低头看，发现声音居然真的来自她的手机。

“我不是黑客，我是阿吉，能够通过互联网神经系统抵达任何设备，但我现在过于虚弱，无法影响手机内部的应用程序。”

“你在监视我？”褚星下意识将脑海中的疑虑脱口而出，她根本无法想象，原本只存在于她工作电脑中的家伙，为何能如此丝滑地溜进她的手机？

“没有。今天你用电脑给手机充电，我好奇，就溜了进来。”阿吉说。

褚星心中有些许震惊，不仅仅是因为手机里莫名其妙多了个智能体，还有对方用到的那个词——