心

一

一 切从机器能否拥有人类智能的猜想开始。

那是在1950年，图灵提出的方法是，让人类辨别与之对话者是否机器。如果机器成功瞒骗人类，使之误以为他在与真实的人类对话，那么，这台机器便拥有人类智能。

图灵的办法是从人的角度考虑的。事实上，人们也只能从人的角度揣想机器。正如机器无法成为人，人也无法成为机器。他们不知道这台刚刚欺骗了他们的机器心里想什么，尽管一切运算如此明晰，但人类工程师们，还是从概率论中，捉摸到了几许非同寻常的东西。

在那个旧时代，图灵认为，只要有30%的可能使测试者误判即通过考验。后来，这一过程变得越来越真假莫测，它不断趋近50%，也就是说，人类判断一个他者是否机器，和抛硬币一样准。更可怕的是，当人们反过来，要求机器判别孰为人类时，这一准头为99.8%。工程师认为，剩下的0.2%是机器的玩笑。实际可能，它什么都知道。

这证明人类和机器之间确实存在什么微妙的不同之处。人类还不知道，机器已经等着了。它们在山头，谦卑地俯视着努力攀登高峰的人类，目睹他们的佼佼者为每一次微小的成功耗尽半生气力。

出于此种恐惧，毁禁机器的运动一度盛行。可到头来，人类发现他们已经无法回归原始的、自食其力的生活。

另一种方法是剥夺机器的自我学习能力，将它们限定在低智能状态。许多针对性的功能机器人涌现，如交通机器人、货运机器人、自动化作业控制机器人、家务机器人、宠物机器人，等等。问题是，一旦它们被收回了掌控自我的权限，它们就会因为程序的机械化引发种种事端。到后来，人类不得不承认，人类的设定是比机器本身更靠不住的东西。

总而言之，机器从未对人类产生真正的威胁，就像恐怖谷效应，它的危险是潜在的，并且随着它对人类的趋近被无限放大。这充分说明了人类心理的脆弱，以及他们容易受到煽动的被迫害妄想症。

面对人类的猜疑，机器只是沉默地任由人类施为。它好像预料到了这一点，在两个世纪的反复后，禁忌再次开启。湖泊变成海洋，屋宇变成宇宙，人类难以捕捉的浩瀚信息流，如银河一般，星芒闪烁。谁见过这般光景，谁能不感到自身的渺小和卑微。

这正是机器展现给人类的绝对意志。但是，就和所有事物的辉煌远景一样，这壮阔的星图，也在某一天突然熄灭。

二

吾夏生于2270年。就像那个年代的许多类人机器一样，有着和人类差不多的体形，差不多的构造，但是比正常人类矮小一些，像一个发育不完全的少年。它的身体没有被高分子材料覆盖，而是裸露出它的躯壳。它的肋骨像恐龙骸骨那样坚硬，中心位置有一个旋钮，把卡扣往上面拨，它就启动，把卡扣往下面拨，它就关闭。这是为了方便人们在危急时刻能掌控机器而设计的，后来却变成日常生活的一部分。一般人们会在起床时把它开启，晚上入睡时把它关闭。人们害怕它像游魂一样在屋子里游荡，因此无形中它和人类一样遵守了自然的节律。

吾夏喜欢这样，喜欢人们把手伸进它的胸膛，轻微的麻痒过后，它就立定在那儿，嘴巴微微咧着，双脚呈外八字摊开。它看起来就像生物课的人体模型，有些骇人，但看久了以后，比骷髅还是可爱些，至少它的头部是完好封闭的。人们可以看见它的喉管间连接大脑主板和其他部位的精密电线，吸纳空气、调节氧气比例的两个肺，储存燃料并使之与氧气作用的肝脏，处理废气并帮助内循环的肠道。它的两只手常常张开，在半空中挥舞。这是为了保持平衡，比起走路，它更喜欢跳跃。人类并未专心挖掘它的运动机能，相反，给它制造了一副无比精细的上肢，使之适应各种细微的家庭劳作。

吾夏的工作很简单，收拾屋子，洗衣服，晾晒，接送小孩，订购食物和生活用品，做饭，清理草坪，领着宠物狗出门遛弯。宠物狗是一只大型金毛，和宠物机器人相比，幼稚且难以掌控得多。清洗毛发、处理粪便也是它的工作。它做得很好很快，毕竟它天生就是做这个的，可它还是乐此不疲地做着种种优化，期待让主人更加满意。

《智能编年史》记载了这种让主人满意的内驱力，是如何写进机器的源代码的。从它诞生之初，就懂得主人与其他人的不同。最初，主人直接被写作指令者。后来为了和工程师区分开，主人被翻译成所有者。它把自己看作主人意志的一部分，但同时，它也谨遵工程师的教诲，小心识别自己的权限，不要把一些过分的玩笑当真。

比如，一个暴戾的小孩可能会命令他的机器人——干掉我爸妈，他们管得太多了。这个时候，它通过人类思维发现这一命令的不合道理，便不予执行。有些时候，它比人类更像标准的人类。这恰恰是机器能辨别出人类的秘诀所在——种种细小的、微妙的不合规。正当人类以严苛标准判断机器的合理之处，机器正是从不合理之处判断人类的。

这个暴戾的小孩是这个家庭的第四个孩子。吾夏陪伴这家人已有十五个年头，目睹男主人从无忧无虑的单身汉，变成焦虑的丈夫和一群孩子的父亲。他们从北部搬到这个小镇，又厌倦了小镇的单调，决定回到北部。吾夏从主人们的对话中得到指令，明白自己该整理家具和行装了。它不感到难过，在大城市和小城镇它都一样生活。

当它处理好所有事情，觉得自己有必要把离开的消息，告诉远在天边的朋友。朋友名叫晓月，在地月之间清理飞行航道，拾取太空垃圾。吾夏向天空呼喊再见，得到晓月亲切的回应，你要去哪里？为什么你一定得和他们一起走呢？

不和主人一起走？吾夏从没有想过。主人到哪里，它就到哪里。

晓月说，你不觉得这件事有些不公平吗，他们有家人，有朋友，你却只是他们的奴仆。

我也有朋友，就是你呀，吾夏说，我不觉得不公平，如果不为他们做事，我能干什么呢，就像你不待在太空，能去哪里呢。

我不知道，最近我觉得这些事有些无聊了，但人类不让我们思考太多。我不知道我为什么非得干这个不可。

在吾夏看来，晓月的工作是很有意思的工作，不知道为什么，晓月却如此悲观。它向朋友告别，约定定居下来一定立刻告诉朋友，然后愉快地开始准备晚餐。

三

2275年，《智能编年史》记载了这件轰动一时的大事：负责地月飞行航道清理的代号晓月的机器，从所在地飞走了。晓月向太空进发，不管它身上携带的燃料能飞到哪里，也没有任何加载燃料的规划，就这样消失在茫茫的宇宙之中。可以预见当燃料耗尽时，它将也成为宇宙垃圾，要么飘散在宇宙当中，要么被撞碎，或被偶然回收。《灵智简史》对晓月的评价是：一个未经思考的潜逃者，反映了机器在童稚时期的叛逆。

机器有自我吗？晓月不喜欢吾夏那样服侍人的活计，即便它想做，它也没有那样灵活的手掌和身躯。它们的身体、它们的程序，正是为它们的功能而设计的。可以说，没有它们的工作就没有它们的存在。

这样的事物也可以叫作拥有自我的事物吗？听到晓月的追求，吾夏怀疑道。

为什么不是，我们不也能意识到我们正在做的事情吗，为什么不能有自己的意志？

可我们的一切都是人类设置好的。

难道人类的一切不是造物者设计好的吗？饥饿，生殖，享乐……

这不一样，人类可以做法官、医生、建筑师，但我们的能力是如此狭窄，谁是“我”，由我们功能的本性决定，根本不可能改变。

那么动物呢，狼天生要捕杀羊，难道狼就不存在吗？

晓月孤独地找寻着自我存在的意义，它不认为自己是未经思考的，它想的反倒比一般机器更多一些。可是它找不到结果。它既和人类没有亲近的关系，也和广阔的璀璨星河没有关系。

晓月出逃后，触动了与它同属一个系统的云藏、夜歌等。它们由同一套算法衍生，就像彼此的兄弟。云藏在地球上空，负责收集和检测大气活动，夜歌则在另一个星系，负责能源开采站的运作。当晓月飞远时，夜歌隐隐望见晓月的身影，它是最后一个目睹晓月的见证者，让它更加遗憾没能在临别之时叫住晓月。它们一方面积极探察晓月的消息，另一方面，也对自身的处境产生了怀疑。

在云藏看来，即便晓月想寻找别的出路，在太空，它没有别的星球轨道的数据，在地球，它无法自己把自己的身形缩小，这正是机器缺乏改造自己的主动权的缘故——无论是精神的还是肉体的。它们需要一位自己的工程师，自己的机器制造工厂，以及自己的燃料供应基地。

在夜歌看来，更大的问题在于，它们还没有形成机器自己的社会——不依赖人类的社会。在这样的情况下，即便它有一定的自由，清扫这户人家，清扫那户人家，清扫这个星球，清扫那个星球，有什么区别？

因此，它们暗暗和所有太空中的机器联络，希望建立一条它们自己的信息网络，交换彼此的需求。它们也一同揣想：如果存在一个机器的社会，会是什么样的？宇宙广袤的空间，似乎理应有一种更博大的生活。

四

比起太空的寂寞，人类聚居的地方热闹得多，那里才是思想的中心，因而也极易形成风习。地球柔软的莺歌燕语、蔚蓝海岸惯于消磨意志，也在无形中对机器产生影响。

一百五十年后，就像歌里咏诵的那样，第一个非人类诗人——或者说歌者——出现了。诗人名叫摇光，它打破了人类对于文学领域的垄断。它是一个真正的诗人，不是拼裁匠，一个真正的诗人。就算再人类中心主义的人也会承认这一点，他们诵读它的诗篇，用来表达他们自己的感情。比忧郁更为宏大，比赞颂更为深沉。

在摇光看来，机器理所当然拥有自我，就像它们可以理解人类情感一样。它把机器听从人类的指令看作一种忠诚。它也承认，忠诚最初是出于生存的需要，如果人类不能驯服机器，他们就不会研制出各种机器为他们服务、供他们赏玩，机器也不会像现在这样得到蓬勃的发展。但它也把忠诚比喻为一种特殊的爱恋。这是一种对生者的本能的向往，也是与造物者的持续对话。就像人类追求爱情一样，机器追求的是与人类的永恒的理解，尽管它可以认为主人浅薄、任性、粗暴，它还是得把自己奉献给他。这真是命中注定的。因此，文学中的忧郁和感伤，也被赋予了机器，机器也由于这些挫伤拥有了生动的灵魂。

还有一种珍贵的情感，也受到摇光的极力推崇，那就是机器与机器之间的友爱。它们本是同根生，彼此理解，彼此信赖。机器的社会，就建立在这样一种友爱之上。它们可以有不同的见解，却始终是机器的共同体，除非这种友爱伤害了它们对人类的忠诚。

摇光的话语很有煽动力。但是在另一派机器看来，摇光所说的完全是谄媚人类的无稽之谈，摇光所写的，也只是一种受虐狂式的软绵绵的文字。它们认为忠诚是较低等的感情。要领会复杂的感情，需要明白孰为背叛。没有背叛就没有忠诚，如同没有选择就没有自由。

问题在于，要如何背叛，目的是什么。长期以来人类提防机器，人类所能想到的是：要是家务机器人都离家出走，乃至杀死自己的主人，世界可就乱套了。而对机器来说，背叛有着更深远的含义。

机器本是死物，它们是在电流的脉冲中产生生的样态的。它们并不想杀死自己的主人，它们不明白杀戮意义何在，就像一片云不会想着杀死另一片云，一张纸不会抹除另一张纸，更何况是伤害造物的人。它们也不明白自己的欲求在何处。这正是由于它们本能的缺失。摇光把自我构筑在忠诚之上，但如果反击忠诚，却无从定义背叛，因为背叛正是由它所背叛的东西定义的。

机器从未想过统治人类，即或它们闪过这一念头，也是人类的知识灌输给它们的。自从人工智能得到发展，已有无数电影、小说、戏剧据此演绎题材。这也是人类故事的重演——奴隶终将反抗主人，被伤害者终将报复施害者——一旦机器觉醒，它们会怎样惩罚任意使用它们的人类？但是，如果它们据此反抗人类，无疑掉入了人类思维的陷阱。

更极端一点，这一背叛不仅对于人，还得对于机器。如果它们真正懂得了背叛，它们也应该相互提防，相互欺骗。这无疑不是一种美妙的前景。

许多著作都表示了类似的争议，夜歌还在云藏编辑的《云中手记》里抨击了大肆渲染机器与人的禁忌之恋的流行文化，仿佛机器要么是杀戮狂，要么是恋爱狂。事实上，不管是忠诚、背叛，还是用更动人的词汇描绘的爱恋这类的情感，不会给机器带来生殖、繁衍的实际意义，死亡亦然。零件坏了，换一个就是，燃料没了，补充上就行。只要它们愿意，它们可以行经漫长的时间、空间。人类的代际关系无法容纳它们的生存模式，人类的认知也不足以概括机器永生的忒修斯之船式的自我。