上一问说，媒介为每个人生成一个世界。生成它的那样东西，是一种被造成机器的推理能力。这一问要退回推理本身。

人类很早就相信一件事：理性能够让我们获得自由。我们用理性理解自然，于是可以不再恐惧雷电；用理性制定法律，于是权力不必完全依赖君王的意志；用理性建立科学，于是知识不必只依赖传统和权威；用理性计算，于是可以建造桥梁、预测天气、治疗疾病、规划城市。从这个意义上说，现代文明本身就是一场不断扩大理性边界的工程。

但理性还有另一面。当它越来越擅长计算，我们就开始把越来越多的问题交给它计算：什么方案成本最低，什么路径最快，什么人最值得录用，什么广告最有效，什么价格最合理，什么内容最容易传播，什么行为最值得奖励。到最后，一个更令人不安的问题出现了：如果理性能够替我们计算越来越多的事情，那么谁来决定哪些事情值得计算？这就是工具理性真正令人不安的地方。问题并不在于理性变得太强，而在于我们会不会渐渐只相信那些能够被理性计算的东西。

一把混乱变成步骤

回到十七世纪。传统权威受到挑战，宗教战争留下创伤，旧的知识体系开始动摇，人们越来越需要一种新的标准：如果传统不能保证真理，我们凭什么相信一件事情？

笛卡尔在《谈谈方法》（1637）里给出了一个极具现代性的答案。他要找一种能够抵抗怀疑的方法：把复杂的问题拆开，逐步分析，从清楚、明确的东西开始，然后一步一步建立知识。现代理性的一个重要特征在这里已经出现，它把混乱变成结构，把复杂变成步骤，把不确定的问题转化为可以处理的问题。这种能力后来改变了整个世界，科学需要它，工程需要它，现代医学需要它，现代组织需要它，现代计算机更需要它。理性第一次如此强大地进入人的生活，因为它承诺了一件事：只要我们能够正确地思考，就可以减少任意性。

二敢于知道

1784 年，康德发表《答复这个问题：什么是启蒙？》，给出了后来极其著名的一句话：敢于运用你自己的理智。对他而言，启蒙意味着不要永远让别人替你判断，不要因为权威说某件事情正确就停止思考，不要因为传统如此就认为它必须如此。理性的价值首先在于，一个人能够成为自己判断的主体。

这也是现代自由观念的一个根基。自由不只是我可以做什么，还包括我能够自己判断什么值得做。所以理性最初与自由之间有非常深的关系：它帮人摆脱迷信，摆脱专断，摆脱传统的绝对权威，摆脱未经反思的习惯，也摆脱别人替我决定什么是真的那种状态。如果有人问理性会不会控制我们，一个历史性的回答是，当然会有这种危险，但在理性诞生为现代解放力量的那一刻，它恰恰首先是在帮我们摆脱控制。真正的问题因此不是理性会不会控制人，而是：什么时候，解放人的理性开始获得了控制人的能力？

三从认识世界到管理世界

变化也许就发生在我们开始要求理性做另一件事的时候：不仅告诉我们什么是真的，还告诉我们怎么做最有效。这两个要求看起来很接近，其实完全不同。这件事情是真的吗，需要证据；这件事情怎么做最有效，需要计算。前者是判断，后者是优化。

于是理性逐渐从一种认识世界的方法，变成一种管理世界的方法。工厂需要计算生产效率，公司需要计算成本，政府需要计算人口、税收、交通和资源，军队需要计算后勤和风险，医院需要计算床位，学校需要计算成绩和升学率。现代社会开始越来越依赖一种能力：把现实转换成变量，然后对变量进行计算。这使复杂社会第一次变得可管理，同时也留下了一个问题：当一个东西无法进入计算，它还算不算重要？

四韦伯：铁笼

马克斯·韦伯在二十世纪初对现代社会做了非常深刻的分析。在《经济与社会》里，他区分了不同类型的社会行动，并特别关注现代社会不断扩张的理性化。现代组织越来越依赖规则、程序、职位、记录、计算、专业化与预测。一个现代官僚机构不需要知道你是谁，它只需要知道你属于哪个类别，你符合哪条规则，你提交了哪些材料，你是否满足条件。

从组织效率的角度看，这是一项巨大进步，它减少了个人任性，同样的规则可以适用于不同的人，现代行政、企业和大型组织因此获得了前所未有的协调能力。可是韦伯也看见了另一面：当整个社会越来越依赖这种形式的理性，人就可能被锁进一个由规则、程序和效率组成的结构。后来人们常用一个形象描述他的担忧，铁笼。最初我们制造规则，是为了让社会更加理性；最后，我们自己开始按照规则生活。

五谁定义了「好员工」

想象一家企业招聘。过去，招聘者可能看学历、经验、作品，也会通过面谈形成判断。后来公司建立评分体系，学历占两成，经验占三成，技能和面试各占两成半，这样看起来更公平，因为个人偏见被减少了。然后系统进一步优化，它开始根据历史数据预测，什么样的人最有可能在这个岗位上表现良好，这听起来更理性。再往后，系统开始自动筛选：简历被解析，候选人被评分，名单被排序，最终人只需要确认系统给出的结果。

每一步单独看都有合理性，但把整个过程放在一起，一个奇怪的问题出现了：谁定义了好员工？如果历史上被录用的人普遍具有某种特征，系统就会把这种特征视为成功信号。于是过去的选择变成今天的数据，今天的数据变成明天的预测，明天的预测又影响下一轮选择。最终，系统看起来越来越客观，却可能只是把过去的制度偏好变成了一套更难察觉的计算规则。这时候理性已经不再只是帮助人判断，它开始参与决定，什么算作一个合理的人。

六霍克海默：只问怎么做

1947 年，马克斯·霍克海默出版《工具理性批判》，他关注的正是现代社会中的这个变化：理性越来越擅长回答怎样达到一个目标，却越来越少追问这个目标为什么值得追求。

这一区分非常重要。假设我们决定提高生产效率，理性可以告诉我们怎样减少浪费，怎样优化流程，怎样配置人员，怎样提高机器利用率，怎样降低成本，但理性本身无法仅凭效率这个指标回答，为什么效率值得成为最高目标。如果目标已经确定，工具理性会变得极其强大；如果目标本身需要被质疑，计算就突然失去了方向。于是现代社会出现了一种危险的结构：目标越来越像既定事实，理性只负责寻找最有效的路径。为什么工作八小时，为什么城市必须这样运转，为什么增长必须持续，为什么教育必须这样评价，为什么人的价值需要通过绩效表达，这些问题逐渐退出计算系统，留下来的只有怎样做得更快。

七理性不止一种

如果把理性理解得足够宽，它其实包含很多不同的能力。逻辑推理是一种理性，证据判断是一种理性，道德审议也是一种理性，实践判断也是一种理性，反思自己的前提同样是一种理性。一个医生面对病人时不只是计算治疗成功率，一个法官面对案件时不只是匹配法律条文，一对父母面对孩子时不会只计算投入产出，一个人决定是否原谅另一个人，也很难写成一个优化函数。这些活动并非不理性，它们只是无法被压缩成单一的计算程序。

所以真正值得警惕的是另一件事：当工具理性的成功，让我们开始把其他形式的判断都看成不够科学。如果一切都必须证明回报，友谊就显得低效；如果一切都必须量化，尊严就显得模糊；如果一切都必须优化，停留就显得浪费；如果一切都必须预测，偶然就显得错误；如果一切都必须产生结果，无目的的思考就显得没有价值。理性的胜利，最终有可能把理性本身变窄。

八海德格尔：世界以可储备的方式显现

马丁·海德格尔在《技术的问题》（1954）里提出了一个更深的观察。现代技术的危险，不只在于机器越来越强，而在于世界越来越以可利用、可计算、可储备的形式向我们显现。河流首先成为水力资源，森林首先成为木材储备，土地首先成为开发空间，人首先成为劳动力。

到了数字社会，这份清单继续变长：人变成数据，兴趣变成标签，能力变成分数，风险变成概率，注意力变成流量，关系变成网络，生活变成行为记录。于是一个非常重要的变化发生了，我们开始用系统能够处理的方式理解自己。这件事情非常方便，因为数据能够帮助我们发现自己看不到的模式；但它也有一个代价：如果一个人越来越习惯从数据里认识自己，那么那些无法进入数据的部分，会不会逐渐变得不真实？

九算得越好，问得越少

把前面几节放在一起，这一问的形状就出来了。康德说理性解放人，因为它让人自己思考。此后每一位思想家都在说同一件事的不同侧面：理性有两种，一种问怎么做，一种问为什么做，而理性化的历史，是前者不断吞掉后者的历史。韦伯说价值理性算不出来，所以被放弃；霍克海默说工具理性可以为任何目的服务，包括最野蛮的目的，而且它做得极好；海德格尔说世界先被转换成储备，才被处理。

这不是说计算错了。错的是一种替换：可计算的容易被看见，可比较的容易被管理，可优化的容易获得资源，难以测量的逐渐退到背景，最后可计算性开始悄悄接近重要性。两百年的答案可以压成一句话：理性解放人，是在它问目的的时候；控制人，是在它只剩下手段的时候。而算得越好，问得越少。

十外包出去的不再只是计算

过去，工具理性的结构是人思考、工具计算。计算器替我们算数字，搜索引擎替我们找资料，表格软件替我们处理数据，统计软件替我们做分析。生成式 AI 开始改变这个关系：现在可以让它总结，让它比较，让它推理，让它写作，让它规划，让它提出方案，让它模拟不同观点，甚至让它替我们形成一个初步判断。结构于是变成人提出问题、AI 生成推理、人确认结果；再进一步，变成 AI 理解任务、拆解任务、调用工具、执行任务，人查看结果。

这里出现了一个极其重要的转折。过去我们把计算外包给机器，现在我们开始把一部分判断过程外包给机器，而判断与计算之间原本存在一条边界。计算可以告诉我们两个方案哪个成本更低，判断需要问，成本为什么应该成为这里的主要标准；AI 可以告诉我们哪个候选人成功概率更高，判断需要问，我们真正想要的成功是什么；AI 可以预测某种内容更容易获得点击，但它无法仅凭点击率证明，值得传播的东西就应该是更容易获得点击的东西。工具理性在 AI 时代的新问题正是这一条：当机器越来越擅长回答怎么做，人类是否还愿意认真回答为什么做。

十一我怎么思考，还是我该怎么问

假设过去我们要写一份研究报告，需要寻找资料、阅读、比较、形成结构、写出观点、检查漏洞、修改。现在 AI 可以在几分钟内完成其中大量工作，这显然释放了人的时间，一个人可以把精力放在更高层次的问题上。这是理性工具真正具有解放力量的一面：把机械的认知劳动交给机器，让人去处理更复杂的问题。

但另一条路径同样存在。如果一个人长期把搜索交给 AI，把总结交给 AI，把结构交给 AI，把表达交给 AI，把判断也逐渐交给 AI，那么有一天他面对一个问题时，首先想到的也许已经不是我怎么思考，而是我应该怎么问 AI。这两个动作非常不同：前者要求一个人形成判断，后者首先要求一个人学会调用系统。所以 AI 可以同时产生两种完全相反的结果，它可以扩大人的思考能力，也可以让人越来越习惯于接受已经生成好的思考。真正决定结果的，不只是模型有多强，而是人是否仍然保留拒绝、质疑、重构问题的能力。

十二人在回路中的什么位置

今天很多 AI 系统都强调人在回路中：系统生成结果，人检查，人批准，人负责。听起来很安全。但这里有一个很容易被忽略的问题，人在回路中的什么位置？

如果系统已经定义问题、选择数据、建立标准、生成候选答案、排序选项、预测结果，然后人只负责点同意或拒绝，那么人确实还在回路中，但他的角色已经发生了变化：他不再是提出目标的人，也不再是定义标准的人，甚至不再是主要的判断者，他更像是系统最后一道确认程序。这就是为什么人类监督本身并不足够。真正需要问的是：人能不能改变目标，能不能质疑指标，能不能看到替代方案，能不能拒绝系统，能不能解释为什么拒绝，能不能承担自己的判断。如果这些权力都不存在，那么人在回路中可能只是形式上的参与。

十三不禁止，只是让另一些选择更难看见

传统意义上的控制很容易被识别。有人告诉你必须这样做，不能那样做，这是命令。但现代系统可以采用一种更柔软的方式，它不告诉你你必须选择 A，它只告诉你 A 是最推荐的，A 的成功率最高，A 的风险最低，A 最符合你的历史行为，A 是大多数与你相似的人选择的。

于是你仍然可以选择 B，没有人禁止你，但选择 B 开始需要额外的解释。这是一种非常重要的变化：控制可以从禁止选择，转向塑造选择的环境。推荐系统如此，信用系统如此，绩效系统如此，算法招聘如此，导航系统也如此，AI 决策系统更是如此。系统不必夺走你的选择权，它只需要让某些选择更容易出现、更容易相信、更容易执行，而另一些选择越来越难看见。

十四福柯：把自己也算进去

米歇尔·福柯在《规训与惩罚》（1975）中讨论了现代权力的一种重要变化：它并不总是通过公开暴力运行，也可以通过观察、记录、分类、比较、规范、训练来塑造人的行为。一个人知道自己正在被观察，就可能开始主动调整自己；更进一步，当这种标准进入人的内心，他甚至不再需要别人提醒，他开始自己监督自己。

今天的数据社会把这套机制推进得更加精细。你知道自己的工作会被记录，消费会留下痕迹，点击会被分析，绩效会被比较，行为会影响推荐，历史会影响预测。于是我们开始主动管理自己的数字轨迹：什么照片更适合发布，什么表达更容易获得回应，什么经历更适合写进简历，什么技能更值得学习，什么行为更符合平台规则。控制因此变得非常微妙，系统不需要不断命令你，因为你已经学会按照系统的逻辑管理自己。但福柯晚年回到康德那篇文章时也留下了另一半：启蒙留下的最有价值的东西不是理性的信条，而是一种态度，一种对当下的历史性批判，不断追问我们是被什么构成的，哪些是必然的，哪些是可以不这样的。理性控制我们，同时也是我们唯一能用来看见这种控制的东西。把自己也算进去，是理性最难也最必要的一步。

十五当「什么都不做」需要一个理由

一个人开始记录睡眠，记录运动，记录阅读，记录效率，记录工作时间，记录社交，记录消费，记录情绪。这些工具当然可以帮助人更好地生活，问题出现在下一步：当生活的每一个部分都可以被优化，我们是不是开始觉得每一个部分都应该被优化？

睡眠要优化，身体要优化，工作要优化，时间要优化，关系要优化，职业要优化，甚至休息也要优化，因为休息被解释成恢复生产力的手段。于是什么都不做开始需要一个理由，浪费时间变成一种罪过，一个人甚至会问，我今天这两个小时产生了什么价值。这时候效率已经不再是一种工具，它开始成为一种生活伦理，人开始用系统评价自己的生活。这是工具理性最深的一次扩张：它从工作方法，进入了价值判断。

十六目的没人问了

工具理性最彻底的形态，不是一个人只问怎么做，而是一个系统里没有人问为什么做。每个人在自己的位置上优化自己的指标，指标是上面定的，上面的指标是更上面定的，到最后目的不在任何人手里，它在系统的结构里，而结构只会转，不会问。韦伯的铁笼就是这个意思：不是有人把你关进去，是笼子自己长出来，里面每个人都是理性的，合起来是一个没有人能对它讲理的东西。

AI 让这个结构多了一层。因为一个系统越擅长处理某一类问题，我们就越容易把问题改造成它擅长的形状：一个人的职业选择变成职业匹配，一段关系变成兼容性分析，一个人的未来变成概率预测，一个孩子的成长变成能力指标，一个社会的问题变成优化目标。于是一切都变得更加清晰，可有些东西恰恰不能因为清晰而被解决。我应该成为什么样的人，什么样的生活值得过，我是否应该原谅一个伤害过我的人，一个社会应该允许多大的不平等，什么东西即使没有经济价值也值得保护，这些问题没有一个简单的最优解，它们需要判断、经验、价值冲突、想象、对话、承担，有时甚至需要承认我们并不知道答案。一个越来越依赖 AI 处理问题的社会，需要特别保护的，也许恰恰是这些无法被优化的问题。

十七阿伦特：我愿意为哪个答案负责

汉娜·阿伦特在《人的境况》（1958）以及后期关于判断的思考中，一直关注一个问题：人在一个复杂的现代世界里，如何仍然保持自己的判断能力。判断不同于计算。计算可以依据规则，判断面对的恰恰是规则不够明确的情况、没有现成答案的情况、价值彼此冲突的情况、需要考虑具体情境的情况，也正因此，判断无法完全被一套程序替代。一个真正重要的决定，往往不是哪一个答案最符合指标，而是在这个具体的世界里，我愿意为哪个答案负责。

如果机器给出了答案，人只是接受答案，那么责任究竟在哪里？如果系统决定了标准，人只是执行标准，那么判断究竟在哪里？如果所有决定都可以归因于模型这么算的，那么人类最终会得到一种非常奇怪的自由：我们拥有选择权，却越来越不拥有判断权。这并不意味着凡是 AI 能做的都应该由人来做，那既不现实也没有必要。让机器计算天气，让机器寻找模式，让机器处理大量数据，让机器优化物流，让机器辅助诊断，让机器整理资料，这些能力完全可以成为人的延伸。真正需要守住的是另一条边界：机器可以替我们计算什么，与机器可以替我们决定什么，这两件事必须分开。因为计算结果不等于价值判断，预测概率不等于应该如此，相关性不等于正当性，效率不等于意义，多数选择不等于正确选择，最优解也不等于值得追求的生活。

十八只剩下同意

AI 是工具理性第一次离开人的身体。以前的铁笼是人造的，人住在里面，每一格里还是人在算；现在算的那部分可以整个搬出去，搬进一台推理得更快、更稳、更全的机器。康德说敢于运用你自己的理智，可当别处有一个比你自己的理性好得多的理性，随时可用，「使用你自己的」这句话，第一次需要一个理由。

留给人的，理论上是那个更高的部分：决定目的，问值不值得。这听起来像解放，手段交给机器，人只管目的。可前面十几节说的正是，理性化的历史就是目的被手段吞掉的历史，而现在手段变得空前强大。它给你一个方案，好到没有理由拒绝；它给你一个目标的表述，清楚到你以为那就是你要的；它从你过去的行为里学出你的偏好，然后替你把它说出来。你不再需要算，也慢慢不再需要想要什么，你只需要在它给出的东西上说好。控制不必再命令：一个替你推理、替你表述目的、替你安排一切、而且做得比你好的系统，不控制你，它只是让你没有理由不同意。理性解放了人，让人不再需要监护人；理性造成了一台机器，机器成了最好的监护人；而康德说，不成熟状态是自己造成的，原因不在缺乏理智，在缺乏勇气。

所以这个时代最珍贵的能力，也许是知道什么不应该被优化。不是所有阅读都需要高效，不是所有谈话都需要产生结果，不是所有关系都需要匹配，不是所有休息都需要恢复生产力，不是所有兴趣都必须成为职业，不是所有人生选择都需要一个最大化目标，甚至不是所有问题都应该马上得到答案。人之所以是人，很大程度上就在于我们能够停下来，犹豫，改变主意，重新开始，做一件没有明显收益的事情，爱一个无法被证明值得爱的人，保护一个没有经济价值的东西，坚持一个看起来并不最优的选择。这些行为在优化模型里很难解释，但它们构成了人的生活。

十九所以，当理性成为一种工具，它会解放我们，还是控制我们？

笛卡尔说它把混乱变成步骤，让世界第一次变得可处理。康德说它解放，敢于运用你自己的理智。韦伯说它先解放，再把人关进自己造的铁笼。霍克海默说它退化成只问怎么做的工具，可以为任何目的服务。海德格尔说它让世界先变成储备，才被看见。福柯说它控制我们，也是我们看见控制的唯一工具。阿伦特说，计算不能替代判断，因为只有人能负责。

两百年的答案是：理性解放人，是在它问为什么的时候；控制人，是在它只剩下怎么做的时候。AI 把怎么做做到了极致，也把为什么做成了一个可以被代填的空格。所以真正需要害怕的，也许不是机器比人更会推理，而是我们开始认为，只要一个系统能够给出更好的计算结果，我们就应该接受它。于是理性从解放人的工具变成评价人的工具，工具从帮我们完成目标变成规定目标的系统，系统从提供建议变成塑造选择的环境，人从使用工具变成适应工具的人。到最后我们甚至开始主动问，AI 认为我应该怎么做，却越来越少问，我为什么应该接受这个问题的前提。理性最高的形式，也许从来不是找到最优解，而是在所有答案都已经准备好的时候，仍然有勇气重新审视问题。我们造出来的东西，什么时候开始反过来支配我们，这一卷的最后一问就问这个。