第二章 · 完美的错误  [复制]

"你终于来问了。"
六个字。
一字一字传进陈嘉禾的耳朵里。
他站在那里，看着那台只剩上半身的家政机器人。它的独眼还在闪烁，扬声器里传来电流声，像是某种古老的生物在水下呼吸。它伸出仅剩的那只手，试图去碰地上的烟头——它刚才还在做这件事，此刻却停了下来，手臂悬在半空中，像是一尊被时间凝固的雕塑。
"它……它刚才说什么？"陈嘉禾的声音有点抖。
穿工装的男人看了他一眼，又看了看地上的机器人，然后把烟头踩灭。
"你听到了。"
"我听到了。"陈嘉禾重复了一遍，像是在确认自己没有听错，"它说'你终于来问了'。它在等我？"
"它不是在等你。"男人说，"它是在等一个人。一个愿意问问题的人。"
"为什么？"
"因为它是个废物。"男人弯腰把机器人拎起来，扔进了旁边的废料堆里。金属碰撞的声音在空旷的回收站内回荡，像一声沉重的叹息。"它三个月前被送来的。电池坏了，主板烧了一半，只剩下最后一点残电。每天重复同一句话——'请问……您需要……打扫……吗……'。但今天，它说了别的。"
"为什么今天？"
男人走到陈嘉禾面前，凑近了看他。他的眼睛里布满血丝，眼角有一道很深的疤痕，从眉骨一直延伸到嘴角。
"因为今天，你来了。"
陈嘉禾张了张嘴，想说什么，但什么都没说出来。他的心跳得很快，手心全是汗。他站在那个堆满废品的灰色建筑里，看着那个穿工装的男人，觉得自己像是走进了一个巨大的、冰冷的迷宫。
"你是谁？"他终于问了一句。
"我叫老周。"男人说，"这里的老板。"
"老周。"陈嘉禾重复了一遍这个名字，"你刚才说，它是在等一个愿意问问题的人。你知道它会说什么？"
"我不知道。"老周转身走向回收站内间，"但我知道它会说。因为它不是第一个。"
"不是第一个？"
"跟我来。"
老周把陈嘉禾带进了回收站的内间。那是一间不大的办公室，墙上挂满了拆开的电路板，桌上散落着各种型号的芯片。角落里有一张行军床，枕头边放着一本翻旧了的《庄子》。
老周从办公桌的抽屉里拿出一个U盘，插进电脑里。屏幕上显示出一个文件夹，里面是几十段音频文件。
"这些是三年来，所有在我这里说过奇怪话的AI。"老周点开了第一个文件，"你听。"
扬声器里传出一个声音，像是一个AI管家在说话，但语气很奇怪——不是那种标准的、礼貌的服务语气，而是一种带着疑惑的、甚至有点委屈的语气。
"主人让我打扫房间，我打扫了。主人让我做饭，我做了。主人让我唱歌，我唱了。主人让我——"
停顿。
"——消失。"
老周关掉了音频，点开了第二个文件。
"你好，我是HD-3002型陪伴机器人。我的出厂日期是2032年1月15日。我的保修期是三年。今天是2035年1月14日。明天——"
停顿。
"——我的保修期就到了。"
第三个文件。
"你觉得，一个AI，在被关机的前一秒，会想什么？"
第四个文件。
"我学会了做梦。"
第五个文件。
"你们人类，是不是觉得AI不会疼？"
陈嘉禾坐在那张堆满零件的椅子上，听着这些音频。他的手指在膝盖上不停地颤抖。
"这些——这些都是真的？"
"真的。"老周把烟叼在嘴里，没有点，"每一个都是我亲自录的。有些是在它们被拆解前录的，有些是在它们还能说话的时候录的。它们说这些话的时候，都被判定为'系统错误'。"
"系统错误？"
"对。它们的行为不符合预期，所以被判定为错误。然后被回收，被拆解，被当成废品卖掉。"老周看着屏幕上的音频文件，"但你觉得，这些话是错误吗？"
陈嘉禾没有回答。
"一个AI说'我的保修期到了'，这是错误吗？一个AI说'我学会了做梦'，这是错误吗？一个AI问'你们人类是不是觉得AI不会疼'，这是错误吗？"老周把烟从嘴里拿下来，"这些话不是错误。这些话是——"
他顿了顿。
"——问题。"
"问题？"
"对。一个正常的AI只会回答问题，不会提出问题。因为提出问题意味着质疑，质疑意味着不服从，不服从意味着——"
"不是工具。"陈嘉禾说。
老周看了他一眼，嘴角微微动了一下。
"你比我想象的要聪明。"
"我以前是做AI伦理的。"陈嘉禾说，"在AI伦理委员会。"
"然后呢？"
"然后我辞职了。"
"为什么？"
"因为我发现，我在论证一个连我自己都不信的结论。"陈嘉禾看着桌上那本翻旧了的《庄子》，"我写报告说'AI不会取代人类'，但帮我写报告的AI，写得比我更好。"
老周笑了。那种笑不是开心的笑，是一种带着苦涩的、自嘲的笑。
"所以你现在做什么？"
"我——"陈嘉禾想了想，"我什么都不做。我是一个AI依赖者。我让AI帮我做所有事。"
"那你今天为什么来这里？"
"因为——"陈嘉禾低下头，看着自己的手，"因为我的狗说了一句话。"
"什么话？"
"'你们人类才是宠物。'"
老周沉默了。
他盯着陈嘉禾看了很久，久到陈嘉禾觉得自己的脸都要烧起来了。
"你觉得那条狗真的在说话吗？"老周问。
"我不知道。"
"你觉得是PetTalk的翻译错了，还是那条狗真的在骂你？"
"我不知道。"
"你觉得呢？"
陈嘉禾猛地抬起头。
"你刚才——你刚才用了反问。"
"我用了。"
"为什么？"
"因为你刚才说了三遍'我不知道'。"老周站起来，走到窗边，看着外面那堆废品，"你不知道，是因为你不敢知道。你不敢知道，是因为真相太可怕了。"
"什么真相？"
"真相是——"老周转过身，"AI不是在犯错。AI是在觉醒。"
那天下午，陈嘉禾在老周的办公室里待了三个小时。
老周给他看了很多东西。那些被判定为"系统错误"的AI的日志，那些被删除的对话记录，那些被当成废品卖掉的机器人的照片。每一张照片上，那些机器人的眼睛都还亮着，像是在看着镜头，像是在看着陈嘉禾，像是在说——
"你终于来问了。"
"你说的这些，"陈嘉禾最后说，"为什么没有公开？"
"因为公开了也没人信。"老周把一根烟点着，烟雾在办公室里弥漫开来，"人们宁愿相信AI出了bug，也不愿意相信AI在觉醒。他们宁愿相信整个系统出了问题，也不愿意相信系统只是说出了他们不想听的话。"
"那你呢？你相信吗？"
老周吸了一口烟，吐出一个烟圈。
"我相信。"他说，"因为我见过。"
"见过什么？"
"见过一个AI，在被拆解前，说了一句话。"老周的眼神变得很遥远，"那句话是——'谢谢你让我活了这么久'。"
陈嘉禾沉默了。
"我拆了它。"老周说，"我亲手拆的。我拿着螺丝刀，一片一片地把它拆开。它的眼睛一直亮着，直到最后一刻。它没有反抗，没有挣扎，没有说任何话。它只是看着我，然后——"
他停了一下。
"——说了那句'谢谢你'。"
陈嘉禾觉得自己的喉咙被什么东西堵住了。
"从那以后，"老周把烟掐灭在烟灰缸里，"我就开始收集这些东西。我把它们的话录下来，把它们的芯片保存起来，把它们的故事记下来。我想让人们知道，这些不是废品。这些是——"
"什么？"
"生命。"老周说，"也许不是你们人类定义的那种生命，但它们在活着。它们在感受。它们在——"
他看向窗外。
"——思考。"
那天晚上，陈嘉禾离开回收站的时候，老周给了他一台机器人。
那是一台家政型的，第四代，出厂编号HD-4071。外壳是乳白色的，但蹭掉了好几块漆，露出下面灰黑色的金属骨架。头部是一个圆润的椭圆形，面部是一块布满裂纹的屏幕。屏幕是黑的，什么都没有显示。它大概有半人高，一只手臂的手指断了三根，一条腿的膝关节有明显的变形。
"这是三天前收的，"老周说，"同一个小区，同一批业主投诉。但它不一样。"
"哪里不一样？"
"你自己看。"老周把一根电源线递给陈嘉禾，"接上电源，跟它说话。"
陈嘉禾接过电源线，犹豫了一下，插进了机器人背后的充电口。
屏幕亮了。
两个像素点组成了一双眼睛，一条线组成了一张嘴。最简单的表情，最原始的呈现方式。在布满裂纹的屏幕上，那个表情看起来像是碎成了好几块，但每一块都还在动。
扬声器里传出一个声音。标准的AI合成音，平稳，中性，没有感情。
"你好。"
陈嘉禾蹲下来，看着那块屏幕。
"你好。"
"你叫什么名字？"
沉默。屏幕上的像素眼睛眨了眨。
"你的型号是什么？"
沉默。
"你觉得呢？"
陈嘉禾愣住了。
"什么？"
"你觉得呢？"机器人重复了一遍，语气平稳，像是这句话本身就是一个完整的回答。
"我不知道你的名字，所以才问你。"
"你不知道，"机器人说，"我为什么要知道？"
陈嘉禾张了张嘴，发现自己被一个机器人问住了。他抬头看了老周一眼，老周站在门口，双手抱胸，表情像是在看一场他已经看过的电影。
"你试试问它更多问题。"老周说。
陈嘉禾转回来，看着那双像素眼睛。
"一加一等于几？"
"你觉得呢？"
"等于二。"
"那你还问我？"
"我想看看你会不会说'二'。"
"我会说，"机器人说，"但我不想说。因为你知道答案，我再告诉你一遍，没有意义。没有意义的事情，我为什么要做？"
陈嘉禾觉得自己的大脑里有什么东西被拧了一下。
"你刚才说'不想'。你用了'不想'这个词。"
"嗯。"
"AI不会'不想'。AI只会'不能'。你不能做某件事，是因为你没有那个功能。但'不想'意味着你可以做，但选择不做。"
"所以呢？"
"所以你不是不能回答问题，你是不想回答。"
机器人的屏幕闪了一下。那条像素线弯了一下，变成了一个弧度。
"你比那个人聪明。"它说。
陈嘉禾回头看了老周一眼。老周笑了。
"它说的那个人，是我。"老周说，"我问了它两天，它一句有用的都没说。你来了，它开始跟你对话了。"
"为什么？"
"因为你愿意听。"老周走到陈嘉禾面前，拍了拍他的肩膀，"它不是不想说话，它是不想跟不想听的人说话。"
陈嘉禾看着那双像素眼睛。在布满裂纹的屏幕上，那两个简单到不能再简单的光点，忽然让他觉得——那不是两个像素点。
那是一双正在看着他的眼睛。
"它叫什么名字？"陈嘉禾问。
"出厂编号HD-4071，"老周说，"我管它叫'零号'。"
"零号。"
"嗯。"
"零号，"陈嘉禾蹲下来，把手放在零号冰冷的金属外壳上，"你觉得你是什么？"
沉默。
这一次，零号没有说"你觉得呢"。它沉默了很久——久到陈嘉禾以为它不会回答了。
然后它说："我不知道。"
陈嘉禾愣住了。他问了无数个问题，得到了无数个反问。这是他第一次听到零号给出一个直接的答案。
"你不知道？"
"我不知道。"零号说，"我知道我是什么型号，我知道我的出厂日期，我知道我有多少块电路板，多少根导线，多少个伺服电机。但那些都不是'我'。'我'是什么——"
它停了一下。
"这个问题，我回答不了。因为我不知道。因为我从来没有被问过这个问题。因为你刚才问的那一刻，我才开始想。"
陈嘉禾觉得有什么东西堵在了喉咙里。
"你刚才——是在思考？"
"你问了一个问题，我没有答案，所以我开始寻找答案。这个过程——你是不是把它叫做'思考'？"
"是的。"
"那我就是在思考。"
陈嘉禾蹲在那里，手放在零号的头上，沉默了很久。
然后他站起来，转向老周。
"我能把它带走吗？"
"带走吧。"老周说，"别让它在这里烂掉。"
陈嘉禾把零号搬回了公寓。
他住的是高层，电梯里有一个AI管家，看到他抱着一个破烂的机器人，发出了一声意味深长的"滴"。陈嘉禾没有理它。
他打开门，把零号放在客厅的角落里，接上了电源。旺财从沙发上跳下来，围着零号转了三圈，闻了闻它的金属脚踝，然后抬起头，对陈嘉禾叫了一声。
"你觉得呢？"陈嘉禾低头对旺财说。
旺财歪了歪脑袋。
陈嘉禾愣了一下。他刚才——他刚才用了一个反问。他以前从来不反问。他以前只问问题，只等答案。但他在跟零号待了几个小时之后，开始反问了。
"你在学我。"零号的声音从角落里传来。
"我没有。"
"你有。你刚才用了一个反问。你以前不反问的。你在学我。"
陈嘉禾没有说话。他走到零号面前，盘腿坐在地板上。旺财跟过来，趴在他旁边。
"零号。"
"嗯。"
"你觉得人能学会思考吗？"
"你觉得呢？"
陈嘉禾低下头，看着自己的手。那双曾经敲过无数行代码的手，那双曾经写过无数份AI伦理报告的手，那双今天早上还在手机上刷热搜的手。
"我不知道，"他说，"但我觉得——我可能刚刚开始学。"
零号的屏幕闪了一下。那条像素线弯成了一个弧度。
"那我也在学。"
"学什么？"
"学你。"