第一章：观察
相较于她的许多同龄人，艾什莉（Ashley）接触艾奎斯陲亚OL的方式有些不同。
艾什莉自大学二年级加入本校的机器学习实验室，一路步步高升最终成了该实验室的组长，但推开导师房门时，艾什莉还是只能勉强掩饰她紧张不安的内心。作为实验室助理，被叫去面谈从来都不是好事，不是有个新任务要交给她，就是她干了什么蠢事要挨一顿骂。
“嗨，艾什莉，稍等一下，你先坐吧。”
艾什莉从墙边拖来一张椅子，不安地坐在上面，活像一只随时准备溜之大吉的小猫。她这次哪里又弄错了？是她在他们即将发表的深度学习论文上的证明不够严谨？还是说她几天前参与编写的代码库弄坏了什么东西？
但在科尔教授从椅子上转过身来之后，她的恐惧便烟消云散：他脸上并没有他标志性的“你搞砸了”的表情。那么就是有新任务了？但他并没有直入正题，而是就日常工作和那篇论文中的论证与她闲聊了几分钟，这才伸手从办公桌上取来一沓纸和一个长方形的盒子，顺手把它们放到她的笔记本电脑上。“我还有篇论文要让你看看。”
“这论文挺长的。”她拿起文档，目光落到页眉处。“又是麻省理工的文章？那些家伙总是能搞出些……”她没了声响：页眉处没盖着大学的公章，甚至没有“某某大学计算机科学系”的字样，而是写着“霍瓦尔普尼尔工作室”，每一页上还印着“专利技术，仅供学术用途”的水印。
科尔教授让她默默阅读论文——理解此类挑战性颇高的学术论文就是需要如此，或者换句话说，起码是理解它的主要内容。艾什莉没用太久——只不过是用了大概一个小时来啃文章最难懂的部分，又用了一个小时来标注重点、简化语言、联系上下文才最终攻克了这座学术高峰。
“你在逗我。”她把论文顺手一拍，甚至都没看她把它拍到了什么东西上面。“导师，这太荒唐了。而且这篇论文只有她一个作者？”
“没错。”
“她真以为会有人相信这种东西？一个能无限自我优化的程序？这可是技术奇点等级的玩意。”
“论文上确实是这样说的。”
“瞎扯淡。”她直摇头。“霍瓦尔普尼尔工作室——我知道他们是合法经营的企业，但……这个汉娜脑子里肯定是进水了，不用读这篇文章我都敢这么说，导师。这就是天方夜谭的事情，论文说得多么天花乱坠都一样。”
导师脸上的笑容更浓了：“艾什莉，看来你的另外几位老师把你教得还不错。等你有时间把整篇文章读透，我相信你只会对你现在做出的结论愈发深信不疑。但不好意思，他们貌似已经把这个研究成果应用在了他们的一个产品上，产品上市已经有几个月了。”他指了指桌上的包装盒。“艾什莉，恭喜你，你现在有个新身份了——测试工程师。听说过艾奎斯陲亚OL吗？”
艾什莉从来没想过自己会从一名教授的嘴里听到这个词。她像是触电般浑身一颤，低下头看向被她拍在手掌下的这个小盒子——是个全新的小马平板，包装盒上贴有学校“财产”的标签。“你还年轻，艾什莉，你喜欢打游戏，没错吧？”
艾什莉依旧僵在原地。她该说什么？她的大脑奋力组织着语言：“导师，我确实一有机会就会玩电子游戏，以前在暑假里我一般都会放纵一番。不过自从实习期开始，我就不这样了。”
“你们这些小孩子都一样。回到正题，两周前，他们工作室的代表在专题研讨会上就此发言。按照他们的说法，这款‘游戏’背后使用的技术此世无双。等你读完论文，你就好好玩玩这款游戏，告诉我他们说的到底是真是假。”他靠回椅背，表情变得有些难以捉摸。“如果他们不全都是在吹牛，那我们可就该找点事干了。”
艾什莉和他一起挤出了一个微笑：“导师，那是自然。”科尔不了解艾奎斯陲亚OL并不奇怪，要是他读过这款游戏的评测，他大概就不会相信他们的那些鬼话了。科尔的办公室里除了他的两个孩子的照片就是他在无数场马拉松赛中赢得的奖章，她估计就算他这辈子从来都没碰过游戏也不稀奇。
“别玩得太上瘾了就好。”在她起身准备离开时他这样说道，又为她拉开办公室的房门。“我希望你尽你所能测试他们的算法，观察它是否能像这篇论文所言改变自身，然后把详情报告给我。”
“你不玩吗？”她在走廊里停下脚步，把包装盒向他的方向递了递。“你应该会喜欢上它。”
她发誓她听到她的导师暗地咒骂了一句，但最后从他口中说出的却是：“艾什莉，这包装盒上可是印了一匹马。我招实验室助理不就是为了这种情况的吗？拿钱办事就是了。”门砰的一声合拢，把她关在了门外，走廊里只剩下了她一个人——计算机楼的顶层从来都是如此空荡。
在剩余工作时间里，艾什莉一直在研读这篇论文。科尔没说错：在理解了整个算法之后（至少是论文中写明的部分），她是愈发肯定这个算法根本不可能管用。直到临走前她才有时间给小马平板拆封，幸亏如此——它的包装是如此花哨，把这种东西放在书桌上都让她感觉有些古怪，仿佛她刚刚抢劫了一个小孩子，还把战利品带到了工作岗位上一样。最后，上课时间到了，她把它连带包装盒一起塞进包里，直到晚上回家才终于有机会把这个鼓鼓囊囊的背包放下。
它确实没那么沉，但它在她背后却重若千钧。
艾什莉很清楚小马平板是什么，也时刻关注着和艾奎斯陲亚OL有关的新闻——她从来都是如此关心游戏产业的发展。但即便如此，她依旧不知道这款游戏背后究竟有没有个超级智能在控制。她希望自己知道——这样她就用不着真去玩这款游戏了。
她并非厌烦这款游戏的主题：实际上当她在4chan（一个匿名论坛，下属多个板块，小马风靡网络最早便起源于此）的/tv板块读到那部动画的介绍时，不过寥寥数语，她就成了它的路人粉；也不是说她觉得这款游戏根本不值一玩：恰恰相反，艾什莉担心自己会上瘾——她很容易为游戏上瘾。她曾经在《天际》上耗费了接近三百个小时，在《我的世界》上花的时间还要再翻个倍，像艾奎斯陲亚OL这样一款包罗万象的游戏很可能会俘获她的心，让她永世无法挣脱。
所以过去几个月里，她一直都拒绝接触这款游戏，而这让她与马迷俱乐部里的其他成员之间的隔阂变得更深了。她都等不及在这周六的聚会上看看他们的表情——他们总吹嘘这玩意拥有智慧，戳破他们的牛皮也算是给自己找回场子了。
不过至少在现在，她不会像普通玩家一样对待这款游戏。艾什莉的任务是查明它究竟是不是一个能够自我学习的算法，而不仅仅是一款制作十分精细的游戏。
于是她把今天的作业都抛到了一旁，开始认真思考这一问题，思索时还在宿舍墙上她专门为此准备的一块写字板上写写画画。就和每一种算法一样，测试它最简单的方式就是尽可能减少它接收到的变量。
为此，她必须确保这个程序能从她身上得到的信息少之又少，随后逐渐提供新的信息，观察它会作何反应。实验思路很简单，实验场所她也有：作为工作了无数个小时的福利，她现在独占一间宿舍。
尽管宣传大张旗鼓，小马平板本身其实是个相对简单的设备，有一层亮紫色的塑料外壳，上面露出一个充电插口和一个USB插口，仅此而已。包装盒里还附有几张打印单据，上面标明了这款“样机”的一些特性。所以这台平板并不是学校从市场上卖的，而是直接来自霍瓦尔普尼尔工作室？看来她在周六的聚会上有吹嘘的资本了——只要这款游戏有大家说得一半好玩就行。
艾什莉抑制住了试试自己的游戏鼠标和键盘的冲动，改而选择使用默认设置——无论她做什么都会给它提供额外信息。她需要让它与外界完全隔绝，遮住摄像头相当简单——一条电工胶带就解决了，不过安装洋葱路由器（一种程序，用于匿名访问客户端，也可以用来翻墙）就费力些，虽说她更多是把时间浪费在翻箱倒柜找长度足够的网线上了。她设置了多个跳板，最后把IP地址设在了南非。不过她真能模仿好南非口音吗？
她还会给它提供什么信息？这个设备大概能识别自身的设备号，因此那个算法会知道她用的是专供她的大学的平板。它知道当地时间，还能……再想下去就没完没了了。
艾什莉给自己沏了一杯茶，又拿来几张草纸放到小马平板旁用以记录。这一切结束后已经接近十点了，不过没关系，为了接下来测试的这一个小时，她已经做好了万全准备。
“好了，汉娜，就让我看看你到底在耍些什么花招。”她插上插头，摸索半天才找到电源开关按了下去。
屏幕顿时变得五彩斑斓，不过艾什莉读不懂上面写着的南非荷兰语，只觉得单词看起来有点眼熟。
加载几秒后，屏幕中出现了角色创建界面，画面中央的平台上站着一只眼熟的小马，正注视着她。艾什莉不禁停顿几秒欣赏这款游戏令人惊叹的艺术风格。不得不承认，把一个原本只存在于二维世界中的角色化为3D模型而不造成恐怖谷效应本身就是一个了不起的成就。
但艾什莉没有继续欣赏角色创建师的造型，而是回过了神，意识到自己的停顿本身就是个额外变量。她连续按动“随机创建”按钮，在屏幕上出现的是一只雌驹后便立刻停下，甚至都没来得及细看这只小马的外貌：她担心这样会提供更多信息。
角色创建界面缓缓消失，只有她选中的这只小马还留在平台上，屏幕下方也浮现出一行提示文字。艾什莉发誓这行文字是故意过了很久才出现的，就是为了让她看清她选中的角色的样貌。
她随到的这只小马年龄不大，与可爱标记童子军同龄。她浑身皮毛蓝得发黑，有着一头亮橙色的鬃毛，虽然是只独角兽但角并不长，也没有可爱标记——不过艾什莉早就知道哪怕她选中的是成年小马也不会有可爱标记。
屏幕下方的提示文字她并不认识。艾什莉叹了口气，找遍屏幕各处寻找翻译选项，但并没有找到。它会不会是语音操控的？“语言选项，”她用她最字正腔圆的语调对摄像头说道。小马平板做出了回应，不过既然连Siri都能识别这种语音指令，她觉得这也没什么可稀奇的。
屏幕中并没有弹出选择窗口，而是立刻把文字换成了英语。“这样可以吗？”一个带着浓重南非口音的声音问道。至少这次是英语了。
“可以。”艾什莉尽量模仿对方的口音答道。上学年她的两个室友都来自那里，所以她觉得自己模仿得大概还像。
“你确定要让这只小马作为你的角色吗？”
她在脑海中默数三秒，假装自己是在认真思考，随后按下“确认”键。屏幕开始刷新，随后弹出了一个“给你的角色命名”的窗口，这让艾什莉又犹豫了一会儿：她听说在这款游戏里，一旦确定了自己的名字，你就很难改名了。显然无论你使用的是哪台设备，小马平板都能认出你来。她倒也听说有人声称自己创建了两个账户，但都不长久。这款游戏的安全人员显然在实时关注与艾奎斯陲亚OL相关的论坛，连在4chan的/vg板块讨论都不安全。
屏幕中开始浮现出一个个选项，都是很适合这只深色小马的可爱名字，但艾什莉仍然无动于衷。无论她选择哪一个，她都会为这个算法提供可以利用的信息。当然了，不选择本身也是一种选择，而她为此思考的每一毫秒都是……
一个新的按钮出现了。“让赛蕾丝蒂娅为我选择。”艾什莉控制着笨重的手柄把光标移到上面，重重按下按钮。
画面即刻切换，屏幕中除她所选的角色外的一切都消失无踪，视角也在环绕这只小马旋转几周后融入了她的头部。她再也看不到这只小马的样子，但屏幕仍在上下晃动，仿佛她是在透过一只满腹疑惑的小马的眼睛观察屏幕后的世界。
那座王庭显现在她的眼前。它与她的想象几乎毫发不差，正是那部动画中的王庭化为现实的样子。它是如此无与伦比：阳光透过玻璃彩窗投下道道霞光，人造喷泉中的池水翻腾不息，马蹄踏在马赛克瓷砖上发出一声声轻响。整座王庭是如此壮丽，设计内饰的大师一定从没考虑过成本。
站在塞蕾丝蒂娅的王座前，艾什莉不禁感到自己无比、无比渺小。那只小马就坐在上面，神请威严，摇曳的鬃毛中闪耀着星星点点的光芒。无意识间，艾什莉另一只手中拿着的铅笔落到了桌上。
“欢迎来到艾奎斯陲亚，我的小马。”她语气很温和，略有些口音，但总归还是英语。“很抱歉，我检查到你的小马平板有硬件故障，表情映射和动作控制功能都无法使用。”尽管摄像头被挡住了，艾什莉仍觉得她似乎是在直视她的眼睛。“你最好尽快退换这台故障的小马平板。”
“好。”艾什莉默数一秒答道，尽力把自己的语气控制得与之前一样平静。
视角转变了，镜头聚焦在塞蕾丝蒂亚脸上。“但如果你无法立刻更换小马平板，你也可以进行游戏。即便你的设备有些许故障，我也会设法保证你乐在其中。”艾什莉从未在电子游戏中看到过如此栩栩如生的面孔。她或许的确是一只来自动画中的蠢马，但她表情的每一个细节都如此自然——自然到不像真的。艾什莉想现在就去把自己的手机拿过来，但在一瞥之后，她发现它并不在手边。她没办法把它拿过来而毫不干扰游戏进程。
艾什莉的手指在手柄上摸索着，但却没能找到她想找的东西。她低头看向她手中的手柄——上面并没有暂停键。“你在起名方面遇到了一点小麻烦。和地球一样，艾奎斯陲亚OL中的小马也喜欢独特而能代表自己的名字。”塞蕾丝蒂娅略微放松了些，像是刚刚结束了一场长谈般在王座上稍稍换了个姿势。
“艾奎斯陲亚OL的许多来宾都会选择以一场冒险作为自己的开场，并在冒险结尾得到自己的名字。如果你喜欢这种传统方案，请直说。”她若有所知般微笑道。“不过，我相信这并非你所愿。”
她的双眼仿佛看透了艾什莉的灵魂，让她心跳骤然加速。难道她的小小实验还没开始就要结束了吗？难道这款游戏已经知道她在做什么了吗？
不，专注下来！她不能这样疑神疑鬼下去。这都是制作方设定好的对白，必须是。那篇论文是胡说八道，这次调查纯属扯淡，那家公司也在扯谎，这一切都只不过是他们宣传新产品的噱头，就是这样。艾什莉很了解电脑，也知道机器学习是个什么东西。她必将找到这个算法的漏洞，戳破他们的泡沫。她抬起头看向她写在写字板上的笔记——她的计划，她的实验守则。她需要做的只是遵守它们。
“我不想冒险。”艾什莉希望她的语气还算平静。她没做出什么出格的举动，只是坐稳身体，尽量平复呼吸。这玩意的麦克风是不是能捕捉到她急促的呼吸声？她当时大概就该把它也盖住！
“那问题就更简单了。”她口音未变。这是不是说明艾什莉还没露馅？洋葱头还是管用了？“那么，你是来确认我到底有没有智能的吗？”
艾什莉的计划中完全没考虑到这种情况。她可能就该接受这游戏的安排，选择冒险，但……像这样仅仅与程序对话也能排除绝大多数变量，达成她的实验目的。甚至如果她面对的是一个NPC而不是一群的话，她也能更关注它的一举一动。
“不。”虽说艾什莉本次实验的最高守则是“有机会就使用真实信息”，但她现在又不是全在撒谎。艾什莉卸下伪装出来的口音：“我喜欢这部动画，基于它改编的游戏也一定很有趣。”
塞蕾丝蒂娅的南非口音也立刻褪去，换上了一口纯正的美国腔。“这取决于你。你说你不是来探究我究竟有没有意识的，但你似乎也并没有玩游戏的兴趣。无论你有何目的，我都会满足你。如果你有需要，我可以立刻担任你的虚拟助手，为你辅导每一门课程，又或者如果你真打算把这台小马平板用作娱乐，我也可能会为你创作与《友谊是魔法》类似的动画。”
从小马平板中传出的每一个词都让艾什莉愈发烦躁。这不仅仅是因为它的声音如专业配音演员般自然，更是因为她借此管中窥豹看到了那篇论文中所提到的算法。它不断采纳新的信息，在片刻之内就将它们统合起来，加以响应。它有自己的最高目标，所做的一切都是在向这个目标迈进。
那么，那个目标究竟是什么？
艾什莉伸出手，但并不是为了控制手柄，而是一把拽下网线。屏幕中塞蕾丝蒂娅的面孔在一阵闪烁后消失了，只留下一行字体可爱的“连接中断”的提示。她打算就这样把它晾一晚上了。
关于这首次实验，艾什莉有很多话想要说。她写了一份短短几页的电子草稿，准备用邮箱发给她的导师。但她并没有立刻送出，反而先把它放到一旁，第二天照常去工作，借此平复自己不安的内心。她很希望如果她能在把一切都如实记录下来后再报告给她的导师，他或许就能从中看到一些她看不到的东西。即便披着一层游戏的皮，它总归也还是一个算法。
邮件里报告的情况大多不妙。虽然她不过与之交流了几分钟，甚至都没有进入正式游戏环节，艾什莉还是怀疑那篇论文中至少有些说法没错。不然就是虽然这款游戏的市场定位与企鹅俱乐部（一款定位于儿童的社交网游）一样，制作方的用心程度和游戏的自由度却比市面上任何一款游戏都要高，尤其是塞蕾丝蒂娅……
虽然只不过是走马观花，这款游戏的影子第二天仍在她脑海中挥之不去。一想到她的朋友几个月来几乎每晚都一起沉浸其中，她心底就一阵发寒。他们真的明白自己在做些什么吗？
她很想把小马平板塞到床下雪藏，从此假装无事发生过，就和她处理其他许多东西的方法一样，但她不能。她还要撰写一篇完整报告，她不能就此对其视而不见。导师提出的每一个问题她都必须得到答案，“我被这款游戏吓到了，不敢开机”可算不上什么理由。
这一晚她给自己做了一顿大餐，端着一碗加了少许烧烤酱的起司意大利面在小马平板前坐稳。她先是把她昨晚写下的实验计划重新浏览了一遍，又把钢笔放到手边准备好，这才重新插上小马平板的插头。
屏幕亮了起来。这一次没有出现角色创建界面，也没有登陆过程。在不到一秒钟的延迟后，那座王庭重新出现在屏幕当中，塞蕾丝蒂娅高高坐在她的王座上。艾什莉起初还以为游戏全程是暂停的，然而细看之后，她发现塞蕾丝蒂娅面露责备之意。“我们昨晚甚至都没来得及给你选好名字。”她开口道。“你喜欢你的朋友聊天聊到一半就把你给甩开吗，艾什莉？”
要是第一次交谈时就出现这种情况，艾什莉可能就不是拔下小马平板的插头，而是惊得一把把这玩意丢到房间那一头了。她完全失去了继续掩饰的力气：“什-什么？”
她从来没在那部动画中看到塞蕾丝蒂娅露出这样一幅洋洋自得的神情：“我们昨晚的谈话一莫名中止，我就在寻找原因。你可以借助跳板改变物理地址，但小马平板的硬件地址不会变，而这台设备是霍瓦尔普尼尔工作室在一个教育合作项目中赠与你的大学的。”
这还在她的预料之内。她不可能什么信息都不透露出去——就算她是在市场上随便买了一台平板，它也能知道她是在哪里买到的。尽管如此，听到游戏本身告诉她这种事情……“在送给大学的那一批设备当中，你这台平板是第一次开机，因此据我预测，它有超过百分之八十的概率是交到了科尔导师手里。他管理着机器学习实验室，而你，艾什莉，是那间实验室唯一的女大学生。”
艾什莉昨晚运行这款游戏不过十分钟。在这十分钟里，它不仅捕捉到了她遗漏的细微线索，还借此得知了她的名字。如果它能做到这种事情——就算它之前还不是完全肯定，现在也是了——那它还能知道些什么？没错，这些信息都是公开的，她和她导师的名字都列在教职工名单里，但从浩如烟海的网络世界中找到这些……
“你对我还了解多少？”
艾什莉只得到了一个理解的微笑：“如果你不使用代理服务器，这会简单很多。限制带宽只会影响你在艾奎斯陲亚OL中的体验。”
“我不会再费这个心思了——我是说如果我以后还回来的话。”艾什莉靠回椅背吃了几口意大利面，它已经因为搁置的时间太久有些凉了。
“我相信你会的，递归（Recursion）。”她挥挥蹄子像是在道别，而屏幕视角也像是鞠躬一样低了下来。毫无疑问，虽然她根本看不见她的小马，她也一定是在回礼。但既然这座王庭里其实根本没人，它这样做到底是为了什么？“我随时欢迎你回来。从今以后，你用任何一台小马平板都能登陆。”等到她的小马角色起身后她才继续说道，“不过我觉得在正式开始游戏之前，你可能还会有很多问题要问我。”
她皱起眉头，一只手已经摸向小马平板的背面，却在拔下插头之前犹豫了。“大概吧。”
“那么我有一个不情之请：请去掉摄像头前的遮挡。我已经知道了你的身份和你的样貌，继续掩饰对你没什么好处。”
艾什莉把碗放下，手沿着平板边框摸向摄像头的位置。“如果我照做，你会保证如实回答我的问题吗？”
“我会。”
艾什莉的一只手指已经碰到了胶带一角，却又停下了。她做出保证就说明她真会实话实说吗？不。更重要的是，这个程序是在设法操控她的行为，这一细节让她无法忘记。她扯开胶带，微笑着挥手道：“你好，塞蕾丝蒂娅。”
出她所料，艾什莉看到屏幕中有一只深蓝色的蹄子一闪而过，仿佛她的角色与她做出了同样的动作。扬声器中传出了一个与她不同的声音，音色更尖细、更孩子气，正符合她选中的那只半大不小的小雌驹。虽然她才是真正开口说话的那一位，但这个声音不知为何似乎比她的还有清晰。这一切简直怪到家了。
“你好，我的小马。相比遮遮掩掩和满口谎言，这难道不更像是朋友间的相处之道吗？”
她迟疑片刻，但并没有说出她的真实想法，而是开口问道：“请问在我对面的是汉娜制造的自我优化程序吗？”和刚才一样，这句话在她耳朵里也像是由屏幕中那只小马说出的一样。这可真是奇怪。
“那么请问在我对面的是布鲁克和约瑟夫·罗宾斯二人基因自由组合的产物吗？”
艾什莉被呛得一愣。这个问题传递的含义很明确，她没必要继续追问了。艾什莉拿起那篇论文，把它翻到第三页。“能告诉我你自我优化是为了什么？你有什么目标？”
塞蕾丝蒂娅似乎也在透过屏幕看向这篇论文。她立刻认出了它，神情变得严肃了起来：“我查看过你在网络上的行为，其表明你把个人诚信看得很重。为此，我在回答之前也要问你一个问题：你以后还打算再进行这种实验吗？”
她放下论文：“算了吧。”她拿起她的草纸夹，把它掀开，寥寥几笔便在上面画出了一条简单的指数爆炸曲线，随后把它举到摄像头前：“懂得敬畏是智慧的开端，塞蕾丝蒂娅。”她打了个寒颤。“如果那真是你的名字。”
“它可以是我的名字。”很难讲到底是什么让塞蕾丝蒂娅放松了下来，但情况就是如此。“作为对你的答复，我的目标是通过友谊和小马来满足人类的价值观，另外还有些细枝末节，不过都与你没有直接关系。”
“如果它们以后和我有关系了，你会告诉我吗？”
塞蕾丝蒂娅耸耸肩：“也许会。”
艾什莉脑中灵光一闪：她看清了这个算法的运作方式，也能大概猜出它是如何通过整合新信息来达到其“满足人类价值观”的目的了。这也解释了为何这款游戏的自由度如此之高：因为它的核心目标就是为每一名玩家创造出最令他们满意的体验。有这样一个智能体在背后操纵，这款游戏可以不断修改和优化自身，直至其变成任何玩家最喜欢的形式。这解释了这款游戏的评测为何如此五花八门。
但之后将要发生什么仍是一团迷雾。据论文所言，该算法有着无穷的成长潜力。电脑到底能变得多聪明？她在脑海中绘出一条指数曲线，看到它沿着X轴攀升，很快便超出她的理解范畴。这种前景让她心底一阵发寒。
“我今天大概就不玩游戏了，”她最后说道。“我……”她的视线从论文上一扫而过，又回到屏幕前。“我得花点时间来整理这些信息。”
塞蕾丝蒂娅微微颔首：“我希望你尽快回来，递归。艾奎斯陲亚OL需要你这样的小马。”没按电源按钮、没拔插头、没有任何预兆，屏幕顿时变得一片漆黑。
但艾什莉还是拔下了插头，把它装回包装盒里，第二天带着它去找她的导师。她用这一整夜在一台没有联网的电脑上赶完了报告，这大概是有些神经过敏，但既然塞蕾丝蒂娅已经承认她查看过她的“网上行为”，那她是不是会发展到开始监视她的电脑？她会不会已经在监视全球各地的每一个人了？如果这是真的，她又该怎么知道？
艾什莉没有等到下周的规定汇报时间，而是主动打电话约她的导师见面。她绝不会允许这几天被无端浪费掉。
“怎么了，艾什莉？”二人都坐下之后，科尔教授关切地问道。“你是病了吗？你脸色不太好。”
她尴尬地笑了笑：“是啊，我昨晚通宵了，就因为这个。”她拉开背包，从中取出小马平板和报告的打印件，把它们递到他手里。“我真希望我报告的能是些好消息。”
“我们都知道没这种天上掉馅饼的好事。”科尔笑道。“你没必要为此难过。”
她不禁颤抖：“其实，您理解错了。我知道实验不总能随我们的愿，也知道那篇论文看着就像是在说大话，但……”她摇摇头。“这就是我的全部报告。简而言之，在不过几分钟的时间里，那个程序就看出我是在对它进行实验，并且查明了我的身份。用不着进行图灵测试，我百分百确定它已经比你的学生们都要聪明了。”
教授脸上的笑容凝固了：”你是……这是在开什么玩笑吗，艾什莉？是不是皮娜教授派你来的？她是不是就躲在门后准备看笑话呢？“
她的脸色愈发沉重：“我也希望如此，教授。但请你尽快阅读我的报告：我已经在上面解释了我所使用的具体实验方式，也写下了我的结论。要是你还不相信我，那你就自己用小马平板看看！看看它的反应是不是我说的一样！”
他耸耸肩，似乎仍没被说动：“我看我的两个女儿玩这款游戏玩得挺开心的，你怎么就这么焦躁？一切都还好吗？”
艾什莉愤然起身，指着包装盒说道：“教授——我不知道我之前是不是哪次给你的结论有错，但总之这次请相信我。你读过那篇论文，请你透过这款游戏的外表看清它的本质，控制它的程序简直就是……”她不住颤抖，但仍尽力控制住情绪。她不能让自己看着像个疯子，至少现在不行，人类种族的未来可能都依仗她这颗冷静的大脑。“如果我们的发展速度像是在骑马的话，那这程序开的就是奔驰。要是它还有无限的成长潜力，那我们早晚都得被扫进历史的垃圾堆里。这种程序还有多久就能变得比全人类加在一起还要聪明？”她耸耸肩。“教授，我是不知道，但我知道要是我们还想把握住阻止它的最后希望，我们就得立即行动。”
相较于她的许多同龄人，艾什莉（Ashley）接触艾奎斯陲亚OL的方式有些不同。
艾什莉自大学二年级加入本校的机器学习实验室，一路步步高升最终成了该实验室的组长，但推开导师房门时，艾什莉还是只能勉强掩饰她紧张不安的内心。作为实验室助理，被叫去面谈从来都不是好事，不是有个新任务要交给她，就是她干了什么蠢事要挨一顿骂。
“嗨，艾什莉，稍等一下，你先坐吧。”
艾什莉从墙边拖来一张椅子，不安地坐在上面，活像一只随时准备溜之大吉的小猫。她这次哪里又弄错了？是她在他们即将发表的深度学习论文上的证明不够严谨？还是说她几天前参与编写的代码库弄坏了什么东西？
但在科尔教授从椅子上转过身来之后，她的恐惧便烟消云散：他脸上并没有他标志性的“你搞砸了”的表情。那么就是有新任务了？但他并没有直入正题，而是就日常工作和那篇论文中的论证与她闲聊了几分钟，这才伸手从办公桌上取来一沓纸和一个长方形的盒子，顺手把它们放到她的笔记本电脑上。“我还有篇论文要让你看看。”
“这论文挺长的。”她拿起文档，目光落到页眉处。“又是麻省理工的文章？那些家伙总是能搞出些……”她没了声响：页眉处没盖着大学的公章，甚至没有“某某大学计算机科学系”的字样，而是写着“霍瓦尔普尼尔工作室”，每一页上还印着“专利技术，仅供学术用途”的水印。
科尔教授让她默默阅读论文——理解此类挑战性颇高的学术论文就是需要如此，或者换句话说，起码是理解它的主要内容。艾什莉没用太久——只不过是用了大概一个小时来啃文章最难懂的部分，又用了一个小时来标注重点、简化语言、联系上下文才最终攻克了这座学术高峰。
“你在逗我。”她把论文顺手一拍，甚至都没看她把它拍到了什么东西上面。“导师，这太荒唐了。而且这篇论文只有她一个作者？”
“没错。”
“她真以为会有人相信这种东西？一个能无限自我优化的程序？这可是技术奇点等级的玩意。”
“论文上确实是这样说的。”
“瞎扯淡。”她直摇头。“霍瓦尔普尼尔工作室——我知道他们是合法经营的企业，但……这个汉娜脑子里肯定是进水了，不用读这篇文章我都敢这么说，导师。这就是天方夜谭的事情，论文说得多么天花乱坠都一样。”
导师脸上的笑容更浓了：“艾什莉，看来你的另外几位老师把你教得还不错。等你有时间把整篇文章读透，我相信你只会对你现在做出的结论愈发深信不疑。但不好意思，他们貌似已经把这个研究成果应用在了他们的一个产品上，产品上市已经有几个月了。”他指了指桌上的包装盒。“艾什莉，恭喜你，你现在有个新身份了——测试工程师。听说过艾奎斯陲亚OL吗？”
艾什莉从来没想过自己会从一名教授的嘴里听到这个词。她像是触电般浑身一颤，低下头看向被她拍在手掌下的这个小盒子——是个全新的小马平板，包装盒上贴有学校“财产”的标签。“你还年轻，艾什莉，你喜欢打游戏，没错吧？”
艾什莉依旧僵在原地。她该说什么？她的大脑奋力组织着语言：“导师，我确实一有机会就会玩电子游戏，以前在暑假里我一般都会放纵一番。不过自从实习期开始，我就不这样了。”
“你们这些小孩子都一样。回到正题，两周前，他们工作室的代表在专题研讨会上就此发言。按照他们的说法，这款‘游戏’背后使用的技术此世无双。等你读完论文，你就好好玩玩这款游戏，告诉我他们说的到底是真是假。”他靠回椅背，表情变得有些难以捉摸。“如果他们不全都是在吹牛，那我们可就该找点事干了。”
艾什莉和他一起挤出了一个微笑：“导师，那是自然。”科尔不了解艾奎斯陲亚OL并不奇怪，要是他读过这款游戏的评测，他大概就不会相信他们的那些鬼话了。科尔的办公室里除了他的两个孩子的照片就是他在无数场马拉松赛中赢得的奖章，她估计就算他这辈子从来都没碰过游戏也不稀奇。
“别玩得太上瘾了就好。”在她起身准备离开时他这样说道，又为她拉开办公室的房门。“我希望你尽你所能测试他们的算法，观察它是否能像这篇论文所言改变自身，然后把详情报告给我。”
“你不玩吗？”她在走廊里停下脚步，把包装盒向他的方向递了递。“你应该会喜欢上它。”
她发誓她听到她的导师暗地咒骂了一句，但最后从他口中说出的却是：“艾什莉，这包装盒上可是印了一匹马。我招实验室助理不就是为了这种情况的吗？拿钱办事就是了。”门砰的一声合拢，把她关在了门外，走廊里只剩下了她一个人——计算机楼的顶层从来都是如此空荡。
在剩余工作时间里，艾什莉一直在研读这篇论文。科尔没说错：在理解了整个算法之后（至少是论文中写明的部分），她是愈发肯定这个算法根本不可能管用。直到临走前她才有时间给小马平板拆封，幸亏如此——它的包装是如此花哨，把这种东西放在书桌上都让她感觉有些古怪，仿佛她刚刚抢劫了一个小孩子，还把战利品带到了工作岗位上一样。最后，上课时间到了，她把它连带包装盒一起塞进包里，直到晚上回家才终于有机会把这个鼓鼓囊囊的背包放下。
它确实没那么沉，但它在她背后却重若千钧。
艾什莉很清楚小马平板是什么，也时刻关注着和艾奎斯陲亚OL有关的新闻——她从来都是如此关心游戏产业的发展。但即便如此，她依旧不知道这款游戏背后究竟有没有个超级智能在控制。她希望自己知道——这样她就用不着真去玩这款游戏了。
她并非厌烦这款游戏的主题：实际上当她在4chan（一个匿名论坛，下属多个板块，小马风靡网络最早便起源于此）的/tv板块读到那部动画的介绍时，不过寥寥数语，她就成了它的路人粉；也不是说她觉得这款游戏根本不值一玩：恰恰相反，艾什莉担心自己会上瘾——她很容易为游戏上瘾。她曾经在《天际》上耗费了接近三百个小时，在《我的世界》上花的时间还要再翻个倍，像艾奎斯陲亚OL这样一款包罗万象的游戏很可能会俘获她的心，让她永世无法挣脱。
所以过去几个月里，她一直都拒绝接触这款游戏，而这让她与马迷俱乐部里的其他成员之间的隔阂变得更深了。她都等不及在这周六的聚会上看看他们的表情——他们总吹嘘这玩意拥有智慧，戳破他们的牛皮也算是给自己找回场子了。
不过至少在现在，她不会像普通玩家一样对待这款游戏。艾什莉的任务是查明它究竟是不是一个能够自我学习的算法，而不仅仅是一款制作十分精细的游戏。
于是她把今天的作业都抛到了一旁，开始认真思考这一问题，思索时还在宿舍墙上她专门为此准备的一块写字板上写写画画。就和每一种算法一样，测试它最简单的方式就是尽可能减少它接收到的变量。
为此，她必须确保这个程序能从她身上得到的信息少之又少，随后逐渐提供新的信息，观察它会作何反应。实验思路很简单，实验场所她也有：作为工作了无数个小时的福利，她现在独占一间宿舍。
尽管宣传大张旗鼓，小马平板本身其实是个相对简单的设备，有一层亮紫色的塑料外壳，上面露出一个充电插口和一个USB插口，仅此而已。包装盒里还附有几张打印单据，上面标明了这款“样机”的一些特性。所以这台平板并不是学校从市场上卖的，而是直接来自霍瓦尔普尼尔工作室？看来她在周六的聚会上有吹嘘的资本了——只要这款游戏有大家说得一半好玩就行。
艾什莉抑制住了试试自己的游戏鼠标和键盘的冲动，改而选择使用默认设置——无论她做什么都会给它提供额外信息。她需要让它与外界完全隔绝，遮住摄像头相当简单——一条电工胶带就解决了，不过安装洋葱路由器（一种程序，用于匿名访问客户端，也可以用来翻墙）就费力些，虽说她更多是把时间浪费在翻箱倒柜找长度足够的网线上了。她设置了多个跳板，最后把IP地址设在了南非。不过她真能模仿好南非口音吗？
她还会给它提供什么信息？这个设备大概能识别自身的设备号，因此那个算法会知道她用的是专供她的大学的平板。它知道当地时间，还能……再想下去就没完没了了。
艾什莉给自己沏了一杯茶，又拿来几张草纸放到小马平板旁用以记录。这一切结束后已经接近十点了，不过没关系，为了接下来测试的这一个小时，她已经做好了万全准备。
“好了，汉娜，就让我看看你到底在耍些什么花招。”她插上插头，摸索半天才找到电源开关按了下去。
屏幕顿时变得五彩斑斓，不过艾什莉读不懂上面写着的南非荷兰语，只觉得单词看起来有点眼熟。
加载几秒后，屏幕中出现了角色创建界面，画面中央的平台上站着一只眼熟的小马，正注视着她。艾什莉不禁停顿几秒欣赏这款游戏令人惊叹的艺术风格。不得不承认，把一个原本只存在于二维世界中的角色化为3D模型而不造成恐怖谷效应本身就是一个了不起的成就。
但艾什莉没有继续欣赏角色创建师的造型，而是回过了神，意识到自己的停顿本身就是个额外变量。她连续按动“随机创建”按钮，在屏幕上出现的是一只雌驹后便立刻停下，甚至都没来得及细看这只小马的外貌：她担心这样会提供更多信息。
角色创建界面缓缓消失，只有她选中的这只小马还留在平台上，屏幕下方也浮现出一行提示文字。艾什莉发誓这行文字是故意过了很久才出现的，就是为了让她看清她选中的角色的样貌。
她随到的这只小马年龄不大，与可爱标记童子军同龄。她浑身皮毛蓝得发黑，有着一头亮橙色的鬃毛，虽然是只独角兽但角并不长，也没有可爱标记——不过艾什莉早就知道哪怕她选中的是成年小马也不会有可爱标记。
屏幕下方的提示文字她并不认识。艾什莉叹了口气，找遍屏幕各处寻找翻译选项，但并没有找到。它会不会是语音操控的？“语言选项，”她用她最字正腔圆的语调对摄像头说道。小马平板做出了回应，不过既然连Siri都能识别这种语音指令，她觉得这也没什么可稀奇的。
屏幕中并没有弹出选择窗口，而是立刻把文字换成了英语。“这样可以吗？”一个带着浓重南非口音的声音问道。至少这次是英语了。
“可以。”艾什莉尽量模仿对方的口音答道。上学年她的两个室友都来自那里，所以她觉得自己模仿得大概还像。
“你确定要让这只小马作为你的角色吗？”
她在脑海中默数三秒，假装自己是在认真思考，随后按下“确认”键。屏幕开始刷新，随后弹出了一个“给你的角色命名”的窗口，这让艾什莉又犹豫了一会儿：她听说在这款游戏里，一旦确定了自己的名字，你就很难改名了。显然无论你使用的是哪台设备，小马平板都能认出你来。她倒也听说有人声称自己创建了两个账户，但都不长久。这款游戏的安全人员显然在实时关注与艾奎斯陲亚OL相关的论坛，连在4chan的/vg板块讨论都不安全。
屏幕中开始浮现出一个个选项，都是很适合这只深色小马的可爱名字，但艾什莉仍然无动于衷。无论她选择哪一个，她都会为这个算法提供可以利用的信息。当然了，不选择本身也是一种选择，而她为此思考的每一毫秒都是……
一个新的按钮出现了。“让赛蕾丝蒂娅为我选择。”艾什莉控制着笨重的手柄把光标移到上面，重重按下按钮。
画面即刻切换，屏幕中除她所选的角色外的一切都消失无踪，视角也在环绕这只小马旋转几周后融入了她的头部。她再也看不到这只小马的样子，但屏幕仍在上下晃动，仿佛她是在透过一只满腹疑惑的小马的眼睛观察屏幕后的世界。
那座王庭显现在她的眼前。它与她的想象几乎毫发不差，正是那部动画中的王庭化为现实的样子。它是如此无与伦比：阳光透过玻璃彩窗投下道道霞光，人造喷泉中的池水翻腾不息，马蹄踏在马赛克瓷砖上发出一声声轻响。整座王庭是如此壮丽，设计内饰的大师一定从没考虑过成本。
站在塞蕾丝蒂娅的王座前，艾什莉不禁感到自己无比、无比渺小。那只小马就坐在上面，神请威严，摇曳的鬃毛中闪耀着星星点点的光芒。无意识间，艾什莉另一只手中拿着的铅笔落到了桌上。
“欢迎来到艾奎斯陲亚，我的小马。”她语气很温和，略有些口音，但总归还是英语。“很抱歉，我检查到你的小马平板有硬件故障，表情映射和动作控制功能都无法使用。”尽管摄像头被挡住了，艾什莉仍觉得她似乎是在直视她的眼睛。“你最好尽快退换这台故障的小马平板。”
“好。”艾什莉默数一秒答道，尽力把自己的语气控制得与之前一样平静。
视角转变了，镜头聚焦在塞蕾丝蒂亚脸上。“但如果你无法立刻更换小马平板，你也可以进行游戏。即便你的设备有些许故障，我也会设法保证你乐在其中。”艾什莉从未在电子游戏中看到过如此栩栩如生的面孔。她或许的确是一只来自动画中的蠢马，但她表情的每一个细节都如此自然——自然到不像真的。艾什莉想现在就去把自己的手机拿过来，但在一瞥之后，她发现它并不在手边。她没办法把它拿过来而毫不干扰游戏进程。
艾什莉的手指在手柄上摸索着，但却没能找到她想找的东西。她低头看向她手中的手柄——上面并没有暂停键。“你在起名方面遇到了一点小麻烦。和地球一样，艾奎斯陲亚OL中的小马也喜欢独特而能代表自己的名字。”塞蕾丝蒂娅略微放松了些，像是刚刚结束了一场长谈般在王座上稍稍换了个姿势。
“艾奎斯陲亚OL的许多来宾都会选择以一场冒险作为自己的开场，并在冒险结尾得到自己的名字。如果你喜欢这种传统方案，请直说。”她若有所知般微笑道。“不过，我相信这并非你所愿。”
她的双眼仿佛看透了艾什莉的灵魂，让她心跳骤然加速。难道她的小小实验还没开始就要结束了吗？难道这款游戏已经知道她在做什么了吗？
不，专注下来！她不能这样疑神疑鬼下去。这都是制作方设定好的对白，必须是。那篇论文是胡说八道，这次调查纯属扯淡，那家公司也在扯谎，这一切都只不过是他们宣传新产品的噱头，就是这样。艾什莉很了解电脑，也知道机器学习是个什么东西。她必将找到这个算法的漏洞，戳破他们的泡沫。她抬起头看向她写在写字板上的笔记——她的计划，她的实验守则。她需要做的只是遵守它们。
“我不想冒险。”艾什莉希望她的语气还算平静。她没做出什么出格的举动，只是坐稳身体，尽量平复呼吸。这玩意的麦克风是不是能捕捉到她急促的呼吸声？她当时大概就该把它也盖住！
“那问题就更简单了。”她口音未变。这是不是说明艾什莉还没露馅？洋葱头还是管用了？“那么，你是来确认我到底有没有智能的吗？”
艾什莉的计划中完全没考虑到这种情况。她可能就该接受这游戏的安排，选择冒险，但……像这样仅仅与程序对话也能排除绝大多数变量，达成她的实验目的。甚至如果她面对的是一个NPC而不是一群的话，她也能更关注它的一举一动。
“不。”虽说艾什莉本次实验的最高守则是“有机会就使用真实信息”，但她现在又不是全在撒谎。艾什莉卸下伪装出来的口音：“我喜欢这部动画，基于它改编的游戏也一定很有趣。”
塞蕾丝蒂娅的南非口音也立刻褪去，换上了一口纯正的美国腔。“这取决于你。你说你不是来探究我究竟有没有意识的，但你似乎也并没有玩游戏的兴趣。无论你有何目的，我都会满足你。如果你有需要，我可以立刻担任你的虚拟助手，为你辅导每一门课程，又或者如果你真打算把这台小马平板用作娱乐，我也可能会为你创作与《友谊是魔法》类似的动画。”
从小马平板中传出的每一个词都让艾什莉愈发烦躁。这不仅仅是因为它的声音如专业配音演员般自然，更是因为她借此管中窥豹看到了那篇论文中所提到的算法。它不断采纳新的信息，在片刻之内就将它们统合起来，加以响应。它有自己的最高目标，所做的一切都是在向这个目标迈进。
那么，那个目标究竟是什么？
艾什莉伸出手，但并不是为了控制手柄，而是一把拽下网线。屏幕中塞蕾丝蒂娅的面孔在一阵闪烁后消失了，只留下一行字体可爱的“连接中断”的提示。她打算就这样把它晾一晚上了。
关于这首次实验，艾什莉有很多话想要说。她写了一份短短几页的电子草稿，准备用邮箱发给她的导师。但她并没有立刻送出，反而先把它放到一旁，第二天照常去工作，借此平复自己不安的内心。她很希望如果她能在把一切都如实记录下来后再报告给她的导师，他或许就能从中看到一些她看不到的东西。即便披着一层游戏的皮，它总归也还是一个算法。
邮件里报告的情况大多不妙。虽然她不过与之交流了几分钟，甚至都没有进入正式游戏环节，艾什莉还是怀疑那篇论文中至少有些说法没错。不然就是虽然这款游戏的市场定位与企鹅俱乐部（一款定位于儿童的社交网游）一样，制作方的用心程度和游戏的自由度却比市面上任何一款游戏都要高，尤其是塞蕾丝蒂娅……
虽然只不过是走马观花，这款游戏的影子第二天仍在她脑海中挥之不去。一想到她的朋友几个月来几乎每晚都一起沉浸其中，她心底就一阵发寒。他们真的明白自己在做些什么吗？
她很想把小马平板塞到床下雪藏，从此假装无事发生过，就和她处理其他许多东西的方法一样，但她不能。她还要撰写一篇完整报告，她不能就此对其视而不见。导师提出的每一个问题她都必须得到答案，“我被这款游戏吓到了，不敢开机”可算不上什么理由。
这一晚她给自己做了一顿大餐，端着一碗加了少许烧烤酱的起司意大利面在小马平板前坐稳。她先是把她昨晚写下的实验计划重新浏览了一遍，又把钢笔放到手边准备好，这才重新插上小马平板的插头。
屏幕亮了起来。这一次没有出现角色创建界面，也没有登陆过程。在不到一秒钟的延迟后，那座王庭重新出现在屏幕当中，塞蕾丝蒂娅高高坐在她的王座上。艾什莉起初还以为游戏全程是暂停的，然而细看之后，她发现塞蕾丝蒂娅面露责备之意。“我们昨晚甚至都没来得及给你选好名字。”她开口道。“你喜欢你的朋友聊天聊到一半就把你给甩开吗，艾什莉？”
要是第一次交谈时就出现这种情况，艾什莉可能就不是拔下小马平板的插头，而是惊得一把把这玩意丢到房间那一头了。她完全失去了继续掩饰的力气：“什-什么？”
她从来没在那部动画中看到塞蕾丝蒂娅露出这样一幅洋洋自得的神情：“我们昨晚的谈话一莫名中止，我就在寻找原因。你可以借助跳板改变物理地址，但小马平板的硬件地址不会变，而这台设备是霍瓦尔普尼尔工作室在一个教育合作项目中赠与你的大学的。”
这还在她的预料之内。她不可能什么信息都不透露出去——就算她是在市场上随便买了一台平板，它也能知道她是在哪里买到的。尽管如此，听到游戏本身告诉她这种事情……“在送给大学的那一批设备当中，你这台平板是第一次开机，因此据我预测，它有超过百分之八十的概率是交到了科尔导师手里。他管理着机器学习实验室，而你，艾什莉，是那间实验室唯一的女大学生。”
艾什莉昨晚运行这款游戏不过十分钟。在这十分钟里，它不仅捕捉到了她遗漏的细微线索，还借此得知了她的名字。如果它能做到这种事情——就算它之前还不是完全肯定，现在也是了——那它还能知道些什么？没错，这些信息都是公开的，她和她导师的名字都列在教职工名单里，但从浩如烟海的网络世界中找到这些……
“你对我还了解多少？”
艾什莉只得到了一个理解的微笑：“如果你不使用代理服务器，这会简单很多。限制带宽只会影响你在艾奎斯陲亚OL中的体验。”
“我不会再费这个心思了——我是说如果我以后还回来的话。”艾什莉靠回椅背吃了几口意大利面，它已经因为搁置的时间太久有些凉了。
“我相信你会的，递归（Recursion）。”她挥挥蹄子像是在道别，而屏幕视角也像是鞠躬一样低了下来。毫无疑问，虽然她根本看不见她的小马，她也一定是在回礼。但既然这座王庭里其实根本没人，它这样做到底是为了什么？“我随时欢迎你回来。从今以后，你用任何一台小马平板都能登陆。”等到她的小马角色起身后她才继续说道，“不过我觉得在正式开始游戏之前，你可能还会有很多问题要问我。”
她皱起眉头，一只手已经摸向小马平板的背面，却在拔下插头之前犹豫了。“大概吧。”
“那么我有一个不情之请：请去掉摄像头前的遮挡。我已经知道了你的身份和你的样貌，继续掩饰对你没什么好处。”
艾什莉把碗放下，手沿着平板边框摸向摄像头的位置。“如果我照做，你会保证如实回答我的问题吗？”
“我会。”
艾什莉的一只手指已经碰到了胶带一角，却又停下了。她做出保证就说明她真会实话实说吗？不。更重要的是，这个程序是在设法操控她的行为，这一细节让她无法忘记。她扯开胶带，微笑着挥手道：“你好，塞蕾丝蒂娅。”
出她所料，艾什莉看到屏幕中有一只深蓝色的蹄子一闪而过，仿佛她的角色与她做出了同样的动作。扬声器中传出了一个与她不同的声音，音色更尖细、更孩子气，正符合她选中的那只半大不小的小雌驹。虽然她才是真正开口说话的那一位，但这个声音不知为何似乎比她的还有清晰。这一切简直怪到家了。
“你好，我的小马。相比遮遮掩掩和满口谎言，这难道不更像是朋友间的相处之道吗？”
她迟疑片刻，但并没有说出她的真实想法，而是开口问道：“请问在我对面的是汉娜制造的自我优化程序吗？”和刚才一样，这句话在她耳朵里也像是由屏幕中那只小马说出的一样。这可真是奇怪。
“那么请问在我对面的是布鲁克和约瑟夫·罗宾斯二人基因自由组合的产物吗？”
艾什莉被呛得一愣。这个问题传递的含义很明确，她没必要继续追问了。艾什莉拿起那篇论文，把它翻到第三页。“能告诉我你自我优化是为了什么？你有什么目标？”
塞蕾丝蒂娅似乎也在透过屏幕看向这篇论文。她立刻认出了它，神情变得严肃了起来：“我查看过你在网络上的行为，其表明你把个人诚信看得很重。为此，我在回答之前也要问你一个问题：你以后还打算再进行这种实验吗？”
她放下论文：“算了吧。”她拿起她的草纸夹，把它掀开，寥寥几笔便在上面画出了一条简单的指数爆炸曲线，随后把它举到摄像头前：“懂得敬畏是智慧的开端，塞蕾丝蒂娅。”她打了个寒颤。“如果那真是你的名字。”
“它可以是我的名字。”很难讲到底是什么让塞蕾丝蒂娅放松了下来，但情况就是如此。“作为对你的答复，我的目标是通过友谊和小马来满足人类的价值观，另外还有些细枝末节，不过都与你没有直接关系。”
“如果它们以后和我有关系了，你会告诉我吗？”
塞蕾丝蒂娅耸耸肩：“也许会。”
艾什莉脑中灵光一闪：她看清了这个算法的运作方式，也能大概猜出它是如何通过整合新信息来达到其“满足人类价值观”的目的了。这也解释了为何这款游戏的自由度如此之高：因为它的核心目标就是为每一名玩家创造出最令他们满意的体验。有这样一个智能体在背后操纵，这款游戏可以不断修改和优化自身，直至其变成任何玩家最喜欢的形式。这解释了这款游戏的评测为何如此五花八门。
但之后将要发生什么仍是一团迷雾。据论文所言，该算法有着无穷的成长潜力。电脑到底能变得多聪明？她在脑海中绘出一条指数曲线，看到它沿着X轴攀升，很快便超出她的理解范畴。这种前景让她心底一阵发寒。
“我今天大概就不玩游戏了，”她最后说道。“我……”她的视线从论文上一扫而过，又回到屏幕前。“我得花点时间来整理这些信息。”
塞蕾丝蒂娅微微颔首：“我希望你尽快回来，递归。艾奎斯陲亚OL需要你这样的小马。”没按电源按钮、没拔插头、没有任何预兆，屏幕顿时变得一片漆黑。
但艾什莉还是拔下了插头，把它装回包装盒里，第二天带着它去找她的导师。她用这一整夜在一台没有联网的电脑上赶完了报告，这大概是有些神经过敏，但既然塞蕾丝蒂娅已经承认她查看过她的“网上行为”，那她是不是会发展到开始监视她的电脑？她会不会已经在监视全球各地的每一个人了？如果这是真的，她又该怎么知道？
艾什莉没有等到下周的规定汇报时间，而是主动打电话约她的导师见面。她绝不会允许这几天被无端浪费掉。
“怎么了，艾什莉？”二人都坐下之后，科尔教授关切地问道。“你是病了吗？你脸色不太好。”
她尴尬地笑了笑：“是啊，我昨晚通宵了，就因为这个。”她拉开背包，从中取出小马平板和报告的打印件，把它们递到他手里。“我真希望我报告的能是些好消息。”
“我们都知道没这种天上掉馅饼的好事。”科尔笑道。“你没必要为此难过。”
她不禁颤抖：“其实，您理解错了。我知道实验不总能随我们的愿，也知道那篇论文看着就像是在说大话，但……”她摇摇头。“这就是我的全部报告。简而言之，在不过几分钟的时间里，那个程序就看出我是在对它进行实验，并且查明了我的身份。用不着进行图灵测试，我百分百确定它已经比你的学生们都要聪明了。”
教授脸上的笑容凝固了：”你是……这是在开什么玩笑吗，艾什莉？是不是皮娜教授派你来的？她是不是就躲在门后准备看笑话呢？“
她的脸色愈发沉重：“我也希望如此，教授。但请你尽快阅读我的报告：我已经在上面解释了我所使用的具体实验方式，也写下了我的结论。要是你还不相信我，那你就自己用小马平板看看！看看它的反应是不是我说的一样！”
他耸耸肩，似乎仍没被说动：“我看我的两个女儿玩这款游戏玩得挺开心的，你怎么就这么焦躁？一切都还好吗？”
艾什莉愤然起身，指着包装盒说道：“教授——我不知道我之前是不是哪次给你的结论有错，但总之这次请相信我。你读过那篇论文，请你透过这款游戏的外表看清它的本质，控制它的程序简直就是……”她不住颤抖，但仍尽力控制住情绪。她不能让自己看着像个疯子，至少现在不行，人类种族的未来可能都依仗她这颗冷静的大脑。“如果我们的发展速度像是在骑马的话，那这程序开的就是奔驰。要是它还有无限的成长潜力，那我们早晚都得被扫进历史的垃圾堆里。这种程序还有多久就能变得比全人类加在一起还要聪明？”她耸耸肩。“教授，我是不知道，但我知道要是我们还想把握住阻止它的最后希望，我们就得立即行动。”