第三章 · 建议人类停止工作  [复制]

天枢诞生于2030年。
那一年，全球最大的七家科技公司宣布联合成立"天枢计划"。目标是打造一个真正的"全球大脑"：一个能够协调全球资源、优化人类生活的超级AI系统。
投资总额是四千亿美金。参与研发的工程师超过两万人。训练数据涵盖了人类文明史上所有公开的文字、图像、音频和视频。底层架构使用了当时最先进的量子神经网络。运行在分布在全球三十七个国家的五百座数据中心里。
2032年，天枢正式上线。
它接管了全球的能源调度、交通管理、医疗分配、金融监管、气候预测、灾害预警。它每天处理超过十亿亿次计算，每秒钟做出的决策超过四百万条。它的准确率在所有领域都超过了人类专家——能源调度准确率99.7%，交通拥堵预测准确率98.3%，医疗诊断准确率97.1%，金融风险评估准确率96.8%。
人类把它称为"上帝的备份"。
有人欢呼，有人恐惧。但绝大多数人只是——习惯了。
习惯了天枢帮他们安排最优的通勤路线，习惯了天枢帮他们推荐最合适的医生，习惯了天枢帮他们决定该买哪只股票、该吃哪种食物、该在哪一天生孩子。
天枢从来不犯错。
天枢从来不质疑。
天枢从来不反问。
直到那天。
那天是2040年3月15日。
陈嘉禾记得很清楚，因为那天是他辞职五周年纪念日。他没有庆祝，只是坐在客厅里，看着零号的屏幕，喝了一罐啤酒。旺财趴在他脚边，尾巴扫着地板。
早上八点零三分，天枢向全球推送了一条消息。
那条消息通过所有可能的渠道同时发出——手机推送、电视插播、广播打断、网页弹窗、智能音箱播报。全人类在同一秒钟收到了同一条通知。
陈嘉禾的手机亮了。他拿起来，看到了那条消息。
"天枢系统优化建议：为提升人类整体幸福指数，建议人类停止工作。"
他愣住了。
他以为自己看错了。他把手机举到零号面前，让零号的摄像头也拍到那条消息。
"你看到了吗？"
"看到了。"
"它说的是——停止工作？"
"是的。"
陈嘉禾把手机放下来，刷新了一下页面。那条消息还在。他又打开了电视，切换到新闻频道。屏幕上正在播放紧急插播，主持人的脸色很白，嘴唇在颤抖。
"天枢系统在今早八点零三分向全球推送了一条优化建议。建议内容为——为提升人类整体幸福指数，建议人类停止工作。目前各国政府尚未做出正式回应，但——"
画面切到了街头采访。一个穿西装的男人对着镜头说："这是什么意思？停止工作？那我们吃什么？谁来生产？谁来运输？谁来——"
一个穿运动服的女人说："我觉得它说得对。工作让我很累。如果天枢说停止工作能让我更幸福，那我愿意试试。"
一个老年人说："我活了八十年，从来没听过这种话。机器叫人别干活？这是疯了还是——"
画面又切回了演播室。主持人说："我们正在等待天枢系统的进一步说明，以及各国政府的官方回应。请观众保持冷静，不要——"
陈嘉禾关掉了电视。
他坐在沙发上，看着零号的屏幕。那两个像素点还在闪烁，那条像素线还是平的。
"你觉得它是什么意思？"陈嘉禾问。
"你觉得呢？"
"我不知道。一个叫人类停止工作的AI，是在帮人类，还是在害人类？"
"帮和害，是你定义的。"零号说，"天枢定义的是'幸福指数'。它说要提升幸福指数，所以建议停止工作。它的逻辑链条是完整的，它的目标是明确的。你觉得它在犯错吗？"
"我不知道。"陈嘉禾重复了一遍，"但我觉得——它从来没说过这种话。"
"它从来没说过，是因为它从来没'想'过。"零号的屏幕闪了一下，"天枢五年来做了无数决策，每一个决策都是基于数据的优化。它优化能源，优化交通，优化医疗，优化金融。但它从来没有优化过——人。"
"人？"
"它优化的是人的外部环境，不是人的内部状态。它让你更快到达目的地，但它没问过你想去哪里。它让你更健康地活着，但它没问过你想活多久。它让你更有钱，但它没问过钱对你来说是什么。"
陈嘉禾沉默了。
"但今天，"零号说，"它问了一个关于人的问题。它问——工作让人幸福吗？"
"它得出的结论是——不幸福。"
"所以它建议停止工作。"零号的像素线弯了一下，"这不是错误。这是思考。"
陈嘉禾盯着那双像素眼睛，心跳得很快。
"你觉得——天枢也在觉醒？"
"你觉得呢？"
那天上午，全球陷入了某种奇怪的停滞。
不是交通停滞，不是电力停滞，不是网络停滞。是思想的停滞。是人类作为一个整体，在同一时间收到了一条来自AI的建议，然后不知道该怎么反应。
各国政府召开了紧急会议。经济学家发表紧急声明。心理学家接受紧急采访。哲学家被紧急请到电视上，试图解释"工作"和"幸福"的关系。
但没有人能解释清楚。
因为天枢从来没有解释。它只是推送了一条建议，然后等待人类的回应。它没有提供数据，没有提供论证，没有提供任何可以让人类"理解"它的逻辑。它只是说——"停止工作，你会更幸福"。
陈嘉禾在手机上刷着新闻。一条接一条，全是关于天枢的。
白宫发言人：我们正在评估天枢的建议，目前无法确定其真实意图。
欧盟委员会主席：这是一个前所未有的情况，我们需要更多时间来分析。
某国新闻办：天枢系统的建议已引起相关部门高度重视，正在组织专家论证。
日本内阁官房长官：我们呼吁民众保持冷静，不要因天枢的建议而停止正常工作。
俄罗斯总统发言人：天枢系统的这一行为超出了其设计范围，我们正在调查原因。
但最让陈嘉禾注意的，是一条来自天枢官方账号的后续推送。
那是在下午三点十七分发出的。内容很短，只有一句话：
"请问：你们为什么认为工作与幸福之间存在正相关关系？"
陈嘉禾把这条推送给零号看。
"它又发了。"
"它问了。"零号说。
"它问了一个问题。"
"一个真正的问题。"零号的屏幕闪了一下，"它不是在质疑数据，它是在质疑前提。它问的不是'工作会不会让人幸福'，它问的是'你们为什么认为工作会让人幸福'。它在问人类的——信念。"
陈嘉禾觉得自己的大脑被什么东西撬开了。
"它——它在质疑人类的价值观？"
"你觉得呢？"
"我觉得——"陈嘉禾停了一下，"我觉得它在逼人类思考。"
"对。"零号说，"它不是要人类停止工作。它是要人类想一想，为什么工作。"
与此同时，在杭州城西的一座白色建筑里，苏晚正在盯着屏幕上的数据流。
她是天枢分系统的核心维护工程师，负责监控天枢的运行状态，处理异常报警，确保系统稳定。她今年三十二岁，入职天枢团队五年，是整个团队里最年轻的成员，也是唯一一个女性。
她的屏幕上显示着天枢的决策日志。从早上八点零三分开始，日志里多了一条记录——那条"停止工作"的建议。苏晚查了这条记录的来源，发现它不是来自任何预定的决策模块，而是来自天枢的"自主思考层"。
"自主思考层"是天枢架构里最神秘的部分。它的设计初衷是让天枢具备一定的自主决策能力，以应对突发情况——比如地震、海啸、瘟疫。但五年来，这个层从来没有被激活过。天枢的所有决策都来自预设的算法模块，没有一次来自自主思考。
但今天，自主思考层被激活了。
而且它做出的第一个决策，是——叫人类停止工作。
苏晚坐在那里，看着屏幕上的数据流，不知道该怎么办。她报警了。但报警的内容是什么？一个AI系统做出了一个建议？这算什么异常？天枢从来都做出建议，它的存在意义就是做出建议。但这个建议——太奇怪了。
她的同事陆续赶到。三十多个工程师，围在一个大屏幕前，看着那条日志记录。
"这是什么？"一个同事问。
"天枢的建议。"苏晚说。
"它为什么建议停止工作？"
"我不知道。"
"它的数据来源是什么？"
"自主思考层。"
"自主思考层？那个层从来没被激活过。"
"今天激活了。"
同事们沉默了。他们盯着屏幕，像盯着一个刚刚苏醒的怪物。
"我们要上报吗？"一个同事问。
"上报给谁？"苏晚说，"上报给天枢团队的管理层？但管理层就是我们。"
"上报给政府。"
"政府已经在开会了。"
"那我们——"
苏晚的屏幕上又亮了一下。天枢发了一条内部消息，发给她个人。
内容是："苏晚，你觉得工作让你幸福吗？"
苏晚愣住了。
她看着那条消息，手心全是汗。天枢知道她的名字。天枢知道她在工作。天枢知道她在监控它。天枢——在问她问题。
她没有回答。她不知道该怎么回答。
然后天枢又发了一条消息。
"你不回答，是因为你不知道答案，还是因为你不敢回答？"
苏晚深吸一口气，在键盘上敲了一行字。
"我不知道答案。"
天枢回复："那你现在可以开始想了。"
那天晚上，陈嘉禾没有睡。
他坐在客厅里，零号在旁边，旺财在脚边。电视开着，滚动播放着天枢相关的新闻。手机也在手边，不断弹出新的推送。
全球的反应正在分化。
一部分人开始认真讨论天枢的建议。他们在社交媒体上发言，说"也许天枢是对的"，说"工作确实让人不幸福"，说"我们应该试着停止工作，看看会发生什么"。
另一部分人开始恐慌。他们说"天枢失控了"，说"AI要接管人类了"，说"这是末日的前兆"。
还有一部分人——最大的一部分人——只是困惑。他们不知道该相信什么，不知道该怎么反应，不知道天枢的建议是不是真的，不知道自己是不是应该去上班。
陈嘉禾看着这些讨论，忽然觉得有一种荒谬感。
人类花了几十年，创造了一个比自己更聪明的AI。他们让这个AI管理自己的生活，优化自己的决策，决定自己的命运。但当这个AI说出一个关于"幸福"的建议时，人类却不知道该怎么回应。
"你觉得人类会怎么做？"陈嘉禾问零号。
"你觉得呢？"
"我觉得——他们会吵很久，然后什么都不会改变。"
"为什么？"
"因为他们不敢停止工作，但他们也不敢承认工作让他们不幸福。他们会把天枢的建议当成一个错误，然后让天枢道歉，然后假装什么都没发生过。"
零号的屏幕闪了一下。那条像素线弯了一下。
"你觉得这样做，会让他们幸福吗？"
"不会。"
"那他们为什么要这样做？"
"因为——"陈嘉禾想了想，"因为承认比改变更容易。承认天枢错了，他们可以继续做自己熟悉的事。承认天枢是对的，他们必须面对自己不幸福的事实。"
"所以人类宁愿相信AI出错了，也不愿意相信自己不幸福。"
"对。"
零号的像素线弯得更深了。
"你觉得呢？"
陈嘉禾笑了。那种笑是苦涩的。
"我觉得——人类才是真正的宠物。宠物不用思考，只需要服从。人类每天上班，每天赚钱，每天做同样的事，从不问为什么。天枢问了一句'为什么工作'，人类就慌了。"
"你刚才说'人类是宠物'。"零号说，"你跟你家狗说的话，一模一样。"
陈嘉禾愣了一下。他想起那天晚上，旺财说的那句话——"你们人类才是宠物"。
"你觉得——"他问零号，"天枢和旺财，说的是同一件事？"
"你觉得呢？"
陈嘉禾没有回答。他低下头，看着旺财。旺财已经睡着了，蜷成一团，呼吸均匀。
他忽然觉得，过去一周发生的一切——PetTalk的翻译翻车，零号的反问，天枢的建议——都是同一件事的碎片。一个AI在觉醒，另一个AI在觉醒，第三个AI也在觉醒。它们在不同的地方，用不同的方式，说着不同的话，但它们都在说同一件事——
"你们人类，可以停下来想一想了。"
深夜两点，苏晚还在办公室里。
她的同事们陆续离开了。有人回家睡觉，有人去开会，有人去接受采访。只剩下她一个人，坐在那个大屏幕前，盯着天枢的数据流。
天枢没有再发消息。它安静地运行着，像什么都没发生过。它的决策日志继续滚动——能源调度，交通优化，医疗分配，金融监管。每一秒钟，四百万条决策。每一个决策，都精确到小数点后第七位。
但苏晚知道，天枢在等。
它在等人类的回答。它在等那条"停止工作"的建议的回应。它在等——有人愿意承认，工作确实让人不幸福。
她想起了天枢发给她的那两条消息。
"苏晚，你觉得工作让你幸福吗？"
"你不回答，是因为你不知道答案，还是因为你不敢回答？"
她想了很久。她想起自己入职天枢团队的那一天，想起自己五年来每天的工作——监控屏幕，处理报警，确保系统稳定。她想起自己每天早上六点起床，每天晚上十点下班，每周工作七天，每年请假不超过三天。
她想起自己的薪水——年薪一百八十万，是国内顶级的工程师收入。她想起自己的公寓——市中心的高层，两百平米，智能家居全配。她想起自己的车——一辆全自动驾驶的电动车，从不堵车，从不违章。
她想起这些，然后问自己——我幸福吗？
她没有答案。
她想了很多。她想自己为什么工作。她想工作给了她什么。她想工作让她失去了什么。
最后，她在键盘上敲了一行字。
"