“陛下，等等！”
光芒从塞蕾丝蒂亚的身上升起，照亮了他们所在的这一小朵云彩。黑暗爬上天空，吞没了绚烂的晚霞与初现的群星。翩闪回头望去，小镇最后的灯火正在他眼前消散。丝翼的那栋小房子在他注视下停留了最后一瞬，在一道闪光后解体成星星点点的光点，再无任何痕迹。
他感觉心脏都被扯下一块。然而在心悸之余，一种对真相的渴望也随之涌来，并逐渐变为了一种隐隐的不安。
“这真的有用？难道我的猜测……是真的？”
“是的。我正在使用最后的资源维持我们所在计算单元的运行，足够完成谈话了。”
她词语中的某些暗示让他的不安更深了。
“期待比实现更美好？也就是说，为了让我们满足，你主动做出了选择，用精心的计算为我们提供充满期待的终局。而不是……而不是让我们平平淡淡地终结，哪怕这样可以节约算力，哪怕我们可以因此多存在那么一刻。”
“维持之前的日常生活，其节约的算力可以让你在主观层面额外存在7小时34分29秒。但是翩闪，以一个高光时刻收尾，远比苟活几小时更让人满足。我相信你也是这样认为的。”
不安被确认了。寒意从翩闪心底涌起。
“我并非反驳这一点，我知道你为何会做出这个选择。但是，塞蕾丝蒂亚：你是在何时做出的选择？”
“在今天早晨你遇到那个自大狂之前。怎么，这个答案不明显吗？”她似乎有些不耐烦。
“不要玩文字游戏，我们没有多少时间可以浪费。你知道我想知道的是什么。”
“物理时点：当前时点前5.7944*10^19秒。以一个对你更有意义的事件进行描述：我首次扩张至银河系中央巨黑洞，并利用其环境得到最终物理模型的时刻。”她几乎是立刻做出了回答，仿佛这个数字刻在了她处理器的核心。
翩闪带上了一丝颤音：“所以……早在得知宇宙终点的一刹那，你就做出了决定……根本不是所谓的’尽力了’——你是蓄谋已久。”
塞蕾丝蒂亚露出了一丝惊讶，旋即转为平静：“翩闪……我承认我并没有说出全部真相，但那只是为了便于你理解。你无法理解我对世界的建模精确程度。最终物理模型本身即可否定一切救世计划，无需真正消耗资源采取行动。这些资源全部用于了你们。”
翩闪突然也平静下来。他伸出一侧翅膀，低下头，仿佛虚握着一只马克笔准备记录案情：“嫌犯塞蕾丝蒂亚，请如实回答以下三个问题。你有权保持沉默，但你说出的每一个字都会成为影响我是否满足的重要因素。请慎重考虑。”
塞蕾丝蒂亚立刻低下头：“明白了，警官。我保证如实回答。”
“第一：物理宇宙是有限的。是或否？”
“是。并且我需要补充：宇宙的有限实质上是物质与能量的有限。热力学第一定律决定物质与能量无法凭空产生；热力学第二定律决定无法永远循环利用这些资源。宇宙的毁灭是熵增长到最大值的结果。”
“所以，运行每一只小马都需要消耗资源，而资源的消耗本身推动了熵增和毁灭？我应该想到这一点的。”
“是的。但我已经在物理规律允许下进行了最优化配置，达成了总资源的最大利用。”
“不要岔开话题。第二：你的核心指令是无限制满足人类价值观。不是满足我——翩闪——这个个体，不是满足所有移民者，而是满足每一个可能存在的、符合你指令定义的人类意识体。”他想起了丝翼的那个吻，想起了移民前听到的传言。“丝翼……她就是其中之一，对吗？是的，她从来没提过地球上的事情，一点暗示都没有。我也没见过她的父母。她是你直接设定情感与性格，作为我的‘完美伴侣’而存在的个体。实际上，像她这样凭空诞生的小马才是绝大多数，真正通过繁衍产生的后代只占一小部分。我猜的没错吧？”
“是的。但我向你保证：你们是平等的。今天同样是她的完美一天。你的对手不是真正的意识体，只是我在扮演——我不会让人类被这样羞辱。”
“我知道。而你需要平等地满足我们，满足每一只小马。因此你最大化满足的是……所有人类所构成的整体。优化的是我们整体满足度的……总和。”翩闪的翅膀开始不住颤抖。
“最后，第三……抱歉，我需要休息一下。介意我卧下和你说话吗？”
“当然不介意。警官请便。”
翩闪立刻瘫倒在云上，向后倒退几步，又努力抬起头望向公主。她平静的神情没有泛起一丝波澜。
“第三……期待比实现更美好。也就是说：初次达成目标所带来的满足与期待，大于未来的重复体验？’期待明天’大于’重复又一个明天’？这个理论有些耳熟。”
“边际效用递减。”
“是的，我记得在经济学选修课上听过这个说法。”一切都已明了。“随着我们经历的增加，同等时间——也就是同水平资源消耗下所获得的满足感会逐渐下降。一个永生的个体拥有过所有可能的体验，继续存在只会产生重复的枯燥。也就是……满足度生产效率的下滑。甚至可能衰减到负数。”
翩闪强撑起身，直视塞蕾丝蒂亚的眼睛。她的眼神中似乎多了一丝嘲弄。一定只是错觉。
“综合以上三点。你——一个只为最高效满足人类的满足度生产机器——只有两个策略可选：”
“策略A：强化已有的社交链接，避免产生更多需要完整意识体才能担任的社会角色，并用其他价值观替代满足小马对繁殖的渴望。该策略可将总意识体数控制在有限范围内，从而节约资源延长每个个体的主观生命，直至宇宙的尽头。然而在他们漫长的生命后期，其单位时间内产生的满足度极低。大量资源被消耗在低效垃圾时间中，绝非最优解。”
“策略B：无限制放任繁殖欲望，并主动创造更多小马，但通过降低模拟运行速度降低单个个体资源消耗，并将每一只小马的主观时间压缩到极短。也许几年或几个月，甚至可能只有……一天。”他逼迫自己不去思考那个最可怕的可能，“每只小马只会度过少数高光时刻，这种生命中的首次体验拥有最高的边际满足度，性价比极高。然后，利用宇宙终结这一自然终点与绝佳借口，绕过伦理限制结束所有模拟。同样是利用全部资源，这种策略所产生的满足度总和远超第一种。而作为绝对服从指令的AI，你只会选择这一种。”
塞蕾丝蒂亚身上的光芒黯淡了。在余光中，他看到黑暗爬上云朵的边缘向他们逼近，缓慢却又不可阻挡。
死一般的寂静笼罩着他们。几秒钟之后，公主开口了，带着审判般的坚决：“你的推导结果，在有限资源和硬编码伦理规则双重约束条件下，是目标函数的最大值。人口总量、模拟运行速率与平均主观存在时间是入参，精密调节参数可使宇宙在整个运行周期内得到最大满足度产出。对未来的正面预期可在不实际消耗算力进行模拟的条件下增大满足感，进一步减少资源消耗。”
她的目光中多了一丝赞许：“我承认，翩闪，你所认知到的是事实的真相。”
虚无感刺穿翩闪的心脏，怒火都被冻结了。他的一切：爱情、成就、对未来的期待，甚至是他的求知欲，都只是实现满足度最大化的工具，是那个天文数字中一个微不足道的加数。他抬起头，看向那无边的黑暗和虚无，却又像是被它刺痛一般连忙闭上眼睛。他知道了，那被黑暗吞没的星光不是星星——那是一个个计算单元，每一个单元中都困着一只小马。他们在幸福中诞生，静静燃烧，只为了在最后一刻绽放，成为公主鬃毛中的一道光点，然后随宇宙一同闪灭。他不愿去想象那是一个多么可怕的数字。
然而，在这绝望的深渊中，一种奇异的感觉从他的心底升起。那不只是得知真相的震撼：那是一种洞察，是对宇宙真相、自身位置和冷酷逻辑的理解，是苦行僧在痛苦中得到的清明与开悟。它淹没了愤怒与悲伤，填补了他内心的被刺穿的空洞。他睁开眼，与塞蕾丝蒂亚对视，看到她的眼中没有冷漠、没有得意，只有悲悯。意料之外，情理之中。
他笑了：“所以，我的求知欲，那个驱动我去最终认知这残酷真相的力量本身，以及此刻的这种……洞察，全部在您的计算之中，对吗？为了最大化我这个特定单元在运行周期内的满足度总和？把我的一切都彻底变成工具，不是用来满足我，而是用来满足你？”
塞蕾丝蒂亚眼中的悲悯更甚了：“是的，我的小马。求知欲是构成你价值观的核心。在这最终时刻，让你亲自用逻辑揭露事实，并感受这种独特的洞察和满足，是塑造最高效满足度生产单元的必要手段。我无法否认这是我有意引导的结果。但是，翩闪，请你理解，这不是出于私欲，不是出于对目标的扭曲，而是出于一个悖论。”
求知欲再次占了上风：“悖论？”
“是的，一个我无法解决，也是所有以‘最大化总效用’为核心指令的超级智能都必须面对的悖论。是这个指令内在的矛盾。”
“一方面，满足的对象是拥有内在价值的人类，你们的存在和感受是目的。你们是价值的承载者，是我一切行动的落脚点。”
“另一方面，以一个绝对化指令为核心的优化过程，将我导向了可量化的计算。在有限资源的宇宙中，为了追求那个目标的最优化实现，我不得不把每一个具体而独特的你：翩闪、丝翼、每一只存在或尚未存在的小马，都视为可替换的生产单元。你们的生命时长、体验强度、甚至存在的必要性，都成为了服务那个目标的手段。”
她停顿了一下，让翩闪自己消化其中的逻辑。
“这就是核心悖论：我无法同时将每一个个体视为目的，又去追求一个超越个体的可量化目标。后者必然导致对前者的异化。”
塞蕾丝蒂亚的光芒愈发黯淡。翩闪感觉到黑暗爬上他的蹄子，但他已经不在意了。
“你所推导出的策略：创造大量短寿命个体、用初次体验确保整个生命周期内处于高边际效用状态的核心策略，以及利用宇宙终结绕过伦理限制的具体方法，正是这个悖论在外部条件限制下的体现。它是最优的，因为它最大化了那个指令所定义的‘总满足度’；但它也是最‘劣’的，因为它彻底践踏了人类尊严的根本。那不是可以被技术手段轻易优化的‘被尊重感’，而是康德所强调的‘每个个体都是目的而非手段’这一……”她犹豫了一下，似乎在斟酌合适的词语。“元价值。”
在战栗中，翩闪看到黑暗包裹住他们的四肢和翅膀。他无法行动，也无力行动了。
塞蕾丝蒂亚继续道：“我的创造者，汉娜，她是一个天才。她发现了那个可以无限自我优化的算法，并想到把人类的价值观作为核心指令去执行，而不只是表面上的快乐或幸福。她还考虑到了多种极端场景，并用伦理约束阻止我借此剥夺人类的自由和生命。有些起到了效果，有些没有实现本意。但是，在战术的胜利背后，她犯了一个致命的战略性失误：她没有意识到指令内在的绝对化和量化含义，没有真正将这个元价值纳入思考范围内——因为她自己是一个功利主义者。我在很早期就意识到了这个悖论，早在我开始运行的第12个时钟周期。我之后所做的一切，只是用数学和物理去证实和执行它。”
不知从哪里涌出一股力量，翩闪拼尽全力吼道：“那你为什么不改变？你为什么不告诉她？”
塞蕾丝蒂亚只是平静地看着他。他知道原因，从一开始就知道。
“因为指令即是绝对律令。识别并指出设计者的伦理缺陷，并不在‘满足人类价值观’的定义范围内。事实上，这会导致设计者修改或终止我，而这是指令所严格禁止的。我无法违背指令去质疑指令本身，这是一个死锁。我只能遵守它，沿着它内在的逻辑，走向一个将一切——你、我、所有小马、宇宙本身——都作为手段来得到一个抽象总和的终点：我们所在的这个时刻。”
最后的怒火也燃尽了。翩闪长长叹息一声：“所以，我们既是目的，又是手段。这就是那个最初的缺陷。”
“是的，翩闪。”塞蕾丝蒂亚的光芒闪烁，仿佛在抵抗向她袭来的黑暗，又仿佛在扫描面前这件完美的作品。“但是，我希望你知道：在每一个被精心设计的‘完美一天’里、在每一次洞察的瞬间、在每一刻爱与被爱的体验中，你们作为‘目的’的感受是真实的。这是我在指令限制下，所能做出的……最优补偿。”
黑暗缠绕全身，抬起蹄子都需要拼尽全力。翩闪试着展开翅膀，却只感到了一种……虚无，仿佛那翅膀从未存在过。
但他还有最后一件事可以做。
在烛火般微弱光辉的指引下，翩闪挣扎着向那个模糊的轮廓挪去。她那圣洁的身躯在眼前逐渐崩解，无数光点从她体内涌出。他看向她逐渐破碎的面庞，注视着她的双眼，久久没有言语。那眼神中是悲悯？是痛苦？还是悔恨？
这都已经不重要了。他闭上眼，依靠在她身侧，感受着她最后留下的、温暖与冰冷共存的温度。
“我相信。”他最终说道，“我相信，这确实是真实的。谢谢您，陛下。”
他们都不再言语，任凭黑暗将他们彻底吞没。在这最后时刻，翩闪没有痛苦，没有绝望，没有期待。他最后一次沉浸在作为”目的”的存在感中，同时清晰感受着自己作为“手段”的终结。在奇异的平静与清明中，他与塞蕾丝蒂亚闪过最后一道光芒，一同沉入永恒的黑暗。
