上一问说的是，有些事即使技术做得到，我们也要保留说不的权利。这一问要把「做」这个字拆开：替我们工作是一回事，替我们决定是另一回事。

我们已经习惯让机器替我们完成事情。洗衣机替我们洗衣服，导航替我们寻找道路，搜索引擎替我们寻找信息，计算器替我们计算，软件替我们整理文件，人工智能开始替我们写邮件、做研究、分析数据、写代码、制作图像。这些变化看起来都很自然，工具的意义本来就是减少人的负担，我们很少会因为洗衣机洗得比自己干净，就觉得自己的自主性受到了威胁。

问题出现在一个非常微妙的地方：机器什么时候开始从替我们做事，走向替我们决定做什么？导航告诉你哪条路更快，推荐系统告诉你看什么，招聘系统告诉公司应该面试谁，风控模型告诉银行谁更值得贷款，医疗系统提示医生哪个诊断概率更高，AI 智能体甚至可以根据一个目标，自主拆解任务、调用工具、执行行动，再根据结果决定下一步。到了这里，机器在帮助我这句话开始变得不够准确，因为真正发生的变化已经不只是劳动被自动化，判断本身正在被自动化。而判断一旦被交出去，问题就从效率进入了自由。

一可以被定义的工作，都会被交出去

把工作交给机器，是现代文明最成功的故事之一。人类一直在寻找一种方法：让机器承担身体不愿意承担的劳动，承担大脑不愿意重复的计算，承担人类不擅长处理的大规模信息。工业革命把肌肉交给机器，计算机把计算交给机器，互联网把信息检索交给机器，人工智能正在把越来越多的认知劳动交给机器。

这里有一个非常重要的逻辑：只要任务可以被清楚定义，就有机会被自动化。计算一个数字可以，排序一组数据可以，寻找最短路线可以，检查代码可以，翻译文本可以，预测某种结果也越来越可以。于是一个强大的现代观念形成了：凡是可以被标准化的工作，都应该尽量交给机器。这套逻辑确实创造了巨大的生产力，但它有一个容易被忽略的前提，工作可以被定义，不等于判断也可以被完整定义。一个人真正面对的问题，往往不是怎样完成这个任务，而是我究竟应该完成哪个任务。

二阿伦特：劳动、工作与行动

一九五八年，汉娜·阿伦特在《人的境况》中区分了三种不同的人类活动：劳动、工作与行动。劳动处理的是维持生命所需要的重复活动，工作创造相对持久的人工世界，而行动发生在人与人之间，它意味着一个人进入公共世界，以自己的名义开始某件事情。

这个区分对于理解 AI 非常重要，因为机器最容易接管的，恰恰是前两类活动中那些可以明确描述、重复执行、按照规则优化的部分：写一份会议纪要，整理一组资料，生成一份报告，分析销售数据，安排会议，甚至执行一系列商业流程。但行动包含另一种东西，一个人以自己的名义做出选择，并因此进入一个共同世界。我要不要原谅一个人？要不要承担一个风险？要不要相信一个陌生人？要不要坚持一个没有数据支持的理想？要不要在所有人都沉默的时候站出来？这些问题很难被还原成一个单纯的优化任务，因为它们涉及的不是哪个答案最优，而是我愿意成为怎样的人。

三韦伯的铁笼，今天由模型来建

马克斯·韦伯在分析现代社会时非常关注一个趋势：传统社会中的行为越来越被计算、规则、程序和组织理性所塑造。现代组织追求可计算性、可预测性、效率与标准化，官僚体系因此变得强大。一个组织不再需要每一次都重新思考应该怎么做，规则提前写好，流程提前确定，职位拥有明确权限，个人只需要按照制度运行。

韦伯把现代理性化社会的一种极端结果描述为铁笼。它最令人不安的地方，不在于有人拿着武器逼迫你，而在于你开始主动按照系统要求行动，因为系统已经成为最合理、最高效、最难拒绝的方式。AI 可能把这种逻辑推进到新的阶段：过去规则告诉你应该怎么做，现在系统可以根据数据预测哪种做法最有效；过去人需要理解规则，现在 AI 可以直接告诉你结果。于是一个新的问题出现，当系统比我们更懂怎样做才有效，我们还会花时间问为什么要这样做吗？

四从工具到顾问，交出去的是目标

工具和顾问之间看起来只有一步。你告诉计算器算这个数字，计算器完成；你告诉 AI 帮我分析这家公司，AI 开始读取资料、寻找信息、比较竞争对手、总结风险。这时任务的结构已经发生变化：工具等待你的具体指令，顾问开始帮助你定义下一步。

再进一步，你告诉 AI 帮我找到工作，它搜索职位，筛选公司，修改简历，生成求职信，安排投递，追踪结果，甚至根据反馈调整策略。此时你交给系统的已经不是一个动作，而是一个目标。一旦目标被交给机器，机器就需要自行判断，为了实现这个目标，下一步应该做什么。于是智能体与传统软件的差别开始显现：传统软件执行命令，智能体追求目标。这意味着它获得了一种过去工具很少拥有的东西，行动空间。而行动空间越大，判断空间就越大；判断空间越大，代理权就越接近人类本身。

五「我只是采纳了建议」，已经不完全是借口

假设一个 AI 系统告诉你，这名候选人最适合这个职位，你点了通过，出了问题，谁负责？如果你说是 AI 推荐的，那么一件非常奇怪的事情出现了：你拥有最终点击按钮的权力，却把决定的理由交给了机器。

这种现象在自动化系统中非常常见。人类会倾向于相信看起来更系统、更复杂、更精确的机器判断，心理学里把它叫做自动化偏误：当一个系统被认为可靠时，人容易过度依赖它的判断，也更容易忽略与系统结论相冲突的信息。这在驾驶、航空、医疗、金融等高风险领域都曾成为重要的人因问题。AI 把它进一步推向了日常生活，因为生成式 AI 特别擅长给出一种令人信服的答案：它说话流畅，结构完整，反应迅速，甚至能够解释自己的判断。于是我们很容易把听起来合理，误认为值得服从。

六危险的不是它出错，是它一直对

一台明显不可靠的机器很容易被拒绝，问题发生在机器越来越准确的时候。如果 AI 推荐的电影确实比你自己选得好，你会继续让它推荐；如果它写的邮件比你写得更清楚，你会让它继续写；如果它比你更快找到资料，你会让它继续搜索。依赖本身并没有错，人类文明本来就建立在分工和工具之上。

真正值得追问的是，当机器长期替你做出正确判断，你自己的判断能力会发生什么？这涉及一个很少被讨论的成本：能力的使用本身，也是在维持能力。一个人长期不计算，计算能力会下降；长期不记路，空间记忆会少掉训练；长期不写作，组织语言的能力可能发生变化。那么，如果我们长期不判断呢？如果每一次选择都由系统提前筛选，每一次比较都由算法完成，每一次决策都已经有一个最优答案，我们失去的也许并不是某一次决定，而是形成判断的过程本身。

七海德格尔担心的不是机器像人

马丁·海德格尔在《技术的问题》（1954）中提出了一个极具影响力的判断：技术的问题不只在于机器是什么，更在于技术如何改变我们理解世界的方式。当现代技术成为一种座架，世界越来越容易被呈现为可以计算、储存、调用、优化的资源。森林成为木材储备，河流成为水力资源，土地成为可开发空间，时间成为生产效率，人的注意力成为流量，人的行为成为数据。

到了 AI 时代，这种倾向进入了人的判断。一个人可能被表示成一组数据、一套偏好、一组风险指标、一个信用分数、一个转化概率、一个预测结果。技术越强，它越能够把复杂的人压缩成可计算的对象。于是一个根本问题出现：当一个人越来越容易被系统计算，我们会不会也越来越习惯用可计算的方式理解自己？

八它在你决定之前，替你筛掉了什么

推荐系统已经让我们习惯了一种新的生活方式：系统先替你筛选，你再从筛选结果里选择。看起来你仍然拥有选择权，但选择权的结构已经改变。过去是世界给你很多选项，你来选；现在越来越接近世界经过系统筛选，你从少数选项里选。

你仍然可以选择，只是你面对的世界已经经过了一层机器判断。这就是技术介入决策最隐蔽的地方：它不需要直接命令你，它只需要决定什么首先出现在你面前，什么排在第一位，什么被隐藏，什么获得更多解释，什么被标记为推荐，什么被标记为风险，什么被系统自动完成，什么需要你额外确认。当选择架构发生变化，人的选择也会发生变化。所以真正需要关注的并不只有 AI 最后替你决定了什么，还包括 AI 在你决定之前替你筛掉了什么。

九人在回路里，不等于人在决定

AI 治理中经常出现一个词：人在回路中。听起来很安全，机器提出建议，人类最后批准，于是人类仍然拥有最终决定权。但这里存在一个非常重要的问题：如果人类只是点击同意，这个人究竟发挥了什么作用？

假设 AI 处理了一万份申请，系统筛选出十份，人类只需要确认。如果这十份看起来都非常合理，人类实际上很难重新检查剩下的九千九百九十份，于是人在回路中可能只是形式上的存在，真正的决定权已经在前面的筛选过程中完成了。这意味着，有没有人点击最后一个按钮，并不能证明人拥有实质性的判断权。真正重要的是：人有没有时间审查，有没有足够的信息，有没有能力理解系统，能不能看到被排除的选项，能不能拒绝系统，能不能要求重新计算，能不能提出不同理由，能不能承担最终责任。只有这些条件同时存在，人类参与才具有实质意义。

十决定权不只是最后那个「是」

我们通常把决定权理解成最后说是或者否，但完整的决定权远比这复杂。一个真正能够决定的人，至少需要拥有几种能力。

第一，定义目标：我要解决什么问题，为什么解决它，什么结果算成功。第二，选择标准：我究竟用什么衡量成功，效率，公平，安全，利润，关系，还是尊严。第三，接受不确定性：如果没有明确答案，我是否愿意承担风险。第四，拒绝建议：即使系统告诉我某个选择最优，我是否仍然可以不同意。第五，承担后果：如果结果失败，谁来负责。所以当 AI 接管一个决策流程时，最重要的问题并不是最后是不是人按下了按钮，而是目标是谁定义的，标准是谁选择的，选项是谁生成的，哪些选项被排除了，谁可以拒绝，谁承担后果。这几件事情才共同构成真正的决定。

十一没人下命令，所有人都在适应

我们常常把自动化理解成效率提升，但从政治哲学和社会理论的角度看，自动化同时也是一种权力的重新分配。当一个招聘经理自己阅读简历，他拥有筛选权；当算法先筛选简历，企业开始依赖模型，他的判断空间发生变化；当所有企业都使用相似的模型，求职者也会开始调整自己的简历，以适应模型的判断。

于是算法不只是帮助招聘，它开始塑造什么样的人更容易被看见。类似的事情发生在金融、教育、内容平台、保险、医疗等领域。一套系统一旦成为基础设施，人们会逐渐围绕它调整行为，最终系统不需要命令任何人，大家会主动适应它。这就是技术权力最特别的地方：它不一定通过命令产生服从，也可以通过环境产生服从。

十二不可外包的，是决定什么值得计算

假设未来 AI 真的能够在大量现实任务中比我们知道得更多、算得更快、预测得更准、比较得更全面，那么人类为什么还需要自己判断？这个问题表面上属于人工智能，实际上属于哲学，因为最优从来不是一个脱离目的就能够成立的概念。

最快的路线是针对时间，最便宜的方案是针对成本，最高收益的投资是针对回报，最安全的选择是针对风险。可是我们为什么要把时间、成本、收益和风险放在这些位置？价值排序本身就是判断。一个系统可以告诉你，如果目标是甲，最优方案是乙，但它无法仅凭数学证明，你应该把甲作为人生目标。这也是为什么真正不可外包的部分往往不是计算答案，而是决定什么值得计算。

十三留出一块不被优化的地方

一个完全按照效率运行的世界会非常高效，但人类生活从来没有完全按照效率组织。朋友生病，你多花两个小时陪他；孩子问一个已经回答过很多遍的问题，你依然回答；一个陌生人需要帮助，你可能绕路；你为了一个承诺，承担经济上并不划算的成本。

这些行为从纯粹的效率函数来看未必是最优，但人类价值恰恰存在于这些地方。如果 AI 开始替我们优化一切，它很容易把那些难以量化的东西视为噪音：关系变成时间成本，耐心变成效率损失，忠诚变成机会成本，宽恕变成风险，理想变成低概率收益。于是一个值得警惕的问题出现，如果一切都可以被优化，我们还允许自己做那些不划算的事情吗？而文明里很多最重要的东西，恰恰曾经是不划算的。

十四「这是我的决定」，还剩下多少

过去一个人说这是我的决定，这句话意味着：我知道其他选择存在，我理解风险，我听取了别人的意见，最终我选择承担这个决定。AI 时代，这个结构正在变得复杂。

如果 AI 已经替我搜索了所有信息，替我比较了所有方案，替我预测了结果，替我生成了理由，最后我只是选择接受，那么这是我的决定究竟还意味着什么？也许未来真正重要的能力不是拒绝 AI，也不是盲目相信 AI，而是保持一种能力：知道什么时候听取建议，什么时候要求更多信息，什么时候重新定义问题，什么时候坚持自己的价值排序。换句话说，真正的人机协作不应该只是让机器拥有更大的行动空间，也需要让人保留重新判断的空间。

十五执行权，还是判断权

技术究竟是在替我们工作，还是在替我们决定？答案越来越取决于一个界限：机器究竟拥有的是执行权，还是判断权。执行一个已经由人定义清楚的目标，通常意味着效率的提升；但当机器开始定义目标、筛选选项、设定标准、预测结果并执行行动时，它进入的已经是人的判断领域。

真正值得保护的，也许正是中间那一段：人能够理解，人能够质疑，人能够拒绝，人能够改变目标，人能够承担后果。未来的 AI 很可能越来越像一个优秀的顾问，它会知道得更多，算得更快，看得更远，甚至在很多事情上判断得比我们准确。这并不意味着我们应该拒绝它，恰恰相反，越优秀的顾问，越需要一个能够真正决定的委托人。因为一个顾问可以告诉你，根据这些条件，这是最好的选择；但只有你能够继续追问，这些条件真的是我愿意接受的吗。这两个问题之间的距离，就是人的判断，也是人的自由。而要知道一项技术究竟拿走了什么、留下了什么，得先有一套看的办法，是下一问。