上一卷问的是人怎样做事。技术之问问的是，人用来做事的东西，反过来对人做了什么。第一问从最常听到的一句话开始：技术是中立的，好坏看人怎么用。一把刀可以切菜，也可以伤人，决定结果的不是刀，而是握刀的人。这句话听起来公允，而且方便，因为它把责任全部推回了使用者。人工智能出现之后，这句话第一次显得不够用：过去的技术主要扩展人的身体，AI 开始扩展人的认知，它替我们搜索、写作、翻译、推荐，甚至参与招聘、医疗和金融判断。

一它最早看起来只是工具

最简单的技术似乎没有什么哲学问题。石器可以切割，锤子可以敲击，轮子可以运输。我们有一个目的，然后寻找一个能够实现目的的工具。于是技术看起来非常被动：人决定做什么，技术决定怎么做。一个人用刀切菜，刀只是帮他切菜；一个人用刀伤人，问题似乎来自使用者，而不是刀。

这种理解很自然，因为我们容易把技术想象成一种没有意志的中介：它没有自己的目的，没有自己的价值，没有自己的判断，只是等待人使用。但这个看法忽略了一件事情。工具不仅让某些事情成为可能，也会让某些事情变得更容易，而一旦某种行为变得容易，人就更可能去做它。技术因此并不需要告诉我们「你应该这样做」，它只需要让某种行为变得足够方便。

二海德格尔：它决定了世界如何显现

二十世纪，马丁·海德格尔提出了一个重要的转向。我们通常把技术理解为人用来达到目的的工具，而他认为，如果只这样理解技术，我们实际上还没有真正理解它。因为现代技术改变的不只是做事情的方法，而是世界向我们显现的方式。

森林可以是一片风景，在现代工业技术的眼中，它也可以成为木材资源；河流可以是一条河，在水电技术的眼中，它可以成为能源；土地可以是土地，在现代经济体系中，它可以被理解为可开发、可计算、可利用的资源。技术不只是让我们获得一个东西，它开始告诉我们，应该以什么方式看待这个东西。锤子不仅让我们能够钉钉子，汽车不仅让我们能够移动，它们同时改变了什么样的行动成为日常生活的一部分。于是问题第一次发生变化：技术不仅帮助我们改变世界，也在改变我们看待世界的方式。

三它改变的是不同选择的成本

想象一个没有汽车的城市。城市必须紧凑，住宅与工作地点不能太远，公共空间和商业活动会围绕步行距离组织。汽车出现以后，一切发生变化：人可以住得更远，道路可以延伸到城市之外，购物中心可以离开城市中心，每天跨越几十公里通勤，也变成了一件正常的事情。

汽车当然没有告诉任何人「你应该住在郊区」，但它让这种生活方式变得更容易。这就是技术真正强大的地方：它不一定直接决定我们的选择，却会重新安排不同选择的成本。即时通信让随时回复变得容易，于是不及时回复开始显得异常；短视频让几秒钟获得一个新刺激变得容易，于是长时间等待一个答案开始变得困难；搜索引擎让寻找事实变得容易，于是记忆事实本身的重要性下降。技术因此不仅增加了人的能力，也在改变什么是容易的，什么是困难的，什么是正常的，什么是反常的。而当一种技术进入日常生活足够久，我们甚至会忘记，原来世界还可以用另一种方式组织。

四麦克卢汉：它改变的是你如何感知

马歇尔·麦克卢汉提出了一个著名判断：媒介即讯息。他真正的问题并不是媒介传播了什么内容，而是媒介本身会给人的感知和社会结构带来什么变化。一本书要求我们按照文字顺序阅读，电视改变了这种阅读方式，互联网让信息变得即时，智能手机则进一步把信息带到了生活的每一个缝隙。

于是，技术的影响不能只通过它提供的内容来理解。同样一条信息，通过书本、电视、搜索引擎和短视频呈现出来，人的注意方式可能完全不同。我们以为自己只是在使用媒介，与此同时，媒介也在训练我们如何注意。人工智能正在把这种关系推得更远：传统媒介主要决定你能够看到什么，算法开始决定你更可能先看到什么，而生成式 AI 进一步参与你应该如何理解你所看到的东西。技术从信息通道，逐渐变成了认知中介。

五设计里已经写进了价值

如果技术只是中立工具，那么它本身应该不包含价值。可是一个系统一旦被设计出来，就已经包含了大量选择：什么功能被保留，什么功能被删除，什么行为被鼓励，什么行为被限制，什么结果被定义为成功。这些都不是技术自己决定的，它们来自设计者。

一个社交平台让点赞成为最显眼的反馈方式，它就在鼓励某种互动结构；一个搜索系统按照相关性排序，它就在定义什么叫相关；一个推荐系统最大化用户停留时间，它就在赋予停留某种特殊价值。技术从来不是凭空出现的，任何技术设计，都在把某些价值写进它的结构。这并不意味着技术拥有自己的道德意志，而是意味着人类的价值判断可以被固化进技术。一旦这种技术被大规模使用，原本属于设计阶段的选择，就变成了所有人的日常环境。

六AI 把这个问题推进到了判断

过去的技术主要扩大人的行动能力。蒸汽机让人拥有更大的力量，汽车让人移动得更快，计算器让人算得更快，互联网让人传播得更远。人工智能却开始进入一个过去主要属于人的领域：判断。

AI 可以筛选简历，可以预测贷款风险，可以推荐新闻，可以识别医学影像，可以总结证据，可以生成法律文本，可以帮助决定一个候选人是否值得进一步面试。于是我们面对一个非常重要的变化：过去我们对机器说「帮我完成这件事情」，现在我们越来越可能对机器说「告诉我应该怎么做」。两者之间只有几个字的差别，但哲学意义完全不同。前者是在委托行动，后者是在委托判断。而判断从来不是纯粹的计算，因为每一个判断背后都隐藏着一个更根本的问题：什么才算正确？

七什么算正确，本身就是价值判断

一个招聘 AI 为什么认为一个人优秀？因为他的学历，过去的绩效，工作经历，收入，还是未来潜力？一个医疗 AI 为什么判断一个患者风险更高？因为死亡概率，治疗成本，复发概率，还是生活质量？一个推荐系统为什么认为某条内容值得推荐？因为点击率，阅读时间，用户满意度，还是信息价值？

AI 无法凭空回答这些问题，它必须先拥有目标，而目标来自人。任何 AI 系统都至少包含几层选择：我们收集什么数据，我们如何定义目标，我们如何衡量成功，我们允许什么错误，我们愿意牺牲什么来换取什么。即使两个 AI 拥有完全相同的技术能力，只要它们优化的目标不同，就可能把人带向完全不同的结果。一个系统追求效率，另一个追求公平；一个追求准确预测，另一个追求避免伤害。它们都可以是智能的，但它们并不指向同一个世界。所以问题已经不再是 AI 有没有价值观，而是谁把什么样的价值观放进了 AI。

八可计算的，未必是重要的

技术的影响还可能更加隐蔽。现代社会越来越习惯把现实转换成数字：学生变成成绩，员工变成绩效，企业变成增长率，内容变成流量，风险变成概率，信用变成分数。这些数字当然非常有用，问题在于，一旦某件事情能够被测量，我们就越来越容易把它当成真正重要的事情。

AI 尤其擅长这种世界。它可以处理巨量数据，寻找模式，计算概率，进行预测，它非常善于回答什么最可能发生。但最可能并不等于最好。一个模型可以预测谁最可能成功，却无法仅凭预测告诉我们什么叫成功；它可以预测哪条内容最可能获得点击，却不能由此证明这条内容最值得传播；它可以预测一个人违约的概率，却不能单独回答社会是否应该因此拒绝他的机会。事实判断与价值判断之间，始终存在一道鸿沟。AI 可以越来越准确地回答世界可能会怎样，我们仍然需要回答世界应该怎样。

九它不只满足欲望，也在塑造欲望

如果 AI 只是回答我们已经提出的问题，它仍然可以被理解为工具。但推荐系统带来了另一种情况。你打开手机之前，并不知道自己想看什么，系统却已经准备好了下一条内容；你没有搜索，它却已经在预测；你没有提出问题，它却已经在猜测你的兴趣。

这意味着技术开始进入一个更深的层次：它不只是帮助我们实现欲望，而是在参与塑造欲望。过去的广告告诉你，你应该喜欢这个东西；算法则通过不断观察你的行为，逐渐找到什么东西最可能让你继续留下来。前者是在说服，后者是在预测，而一旦预测足够准确，预测就会反过来塑造行为。你因为系统推荐而看到某种内容，因为看到而产生兴趣，因为兴趣而获得更多类似推荐，最后，系统最初预测的你，可能成为它自己制造出来的你。于是一个很深的问题出现了：如果技术越来越擅长预测我们的欲望，我们还能清楚地区分我想要什么，和系统让我更容易想要什么吗？

十它成了你和世界之间的解释层

搜索引擎时代，我们面对的是一堆信息：搜索，打开网页，比较来源，阅读不同观点，最后形成判断。生成式 AI 改变了这个过程。现在我们越来越习惯直接问一句「这件事情到底是怎么回事」，然后得到一个整理好的答案。它替我们筛选信息，替我们压缩文本，替我们解释概念，甚至替我们组织不同观点之间的关系。

这当然是一种巨大的认知效率提升，但它也意味着，我们与世界之间开始多了一层解释。过去我们看到原始材料，再形成理解；现在我们越来越可能先看到 AI 对原始材料的总结，再形成理解。于是 AI 不再只是信息工具，它开始成为人与世界之间的认知接口。这是人工智能最值得警惕、也最值得思考的地方之一：一个系统如果能够替我们解释世界，它拥有的就不只是计算能力，它还拥有某种解释权。而解释从来不是完全中立的。

十一参与判断，就是参与权力

一个计算器不会告诉你工资应该是多少，但一个招聘系统可能会告诉公司，这个人值得录用；一个搜索引擎不会告诉你应该相信什么，但一个推荐系统不断决定，什么信息值得出现在你面前；一个数据库不会告诉医生如何治疗，但一个医疗 AI 可能给出，这个患者更可能患有某种疾病。

于是机器与人的关系开始变化：技术不再只是执行人的决定，它开始参与人的决定。而参与判断，就意味着参与权力，因为决定谁获得机会、谁获得资源、谁被看见、谁被排除，本身就是一种权力。这时 AI 是否准确当然仍然重要，但准确率已经不是唯一的问题。我们还必须问：谁定义目标，谁选择数据，谁决定阈值，谁承担错误，谁能够质疑结果，谁有权拒绝机器的判断。技术一旦进入决策，就不再只是工程问题，它开始成为社会问题。

十二阿伦特：判断不能交给程序

汉娜·阿伦特对判断有持续而深入的讨论。判断并不是简单地把一个案例放进规则然后得到结果，真正困难的判断恰恰发生在规则本身无法完全告诉我们应该怎么办的时候。

法律可以提供规则，数据可以提供事实，概率可以提供预测，但现实中的人总是比模型中的变量复杂。一个人的生命经历无法完全还原成数据，一次具体的困境，也未必能够被既有指标充分表达。因此，人类判断的重要部分不只是计算这个人符合多少条件，而是理解在这个具体情境中，什么才是重要的。AI 可以帮助我们处理事实，可以扩大我们的记忆，可以提供更多可能性，但一旦我们把判断本身也完全交给机器，就可能出现一种危险：不是机器变得像人，而是人开始被迫按照机器能够处理的方式理解自己。

十三人开始按机器的标准改变自己

假设一个 AI 招聘系统主要根据某些可以量化的指标判断候选人。人知道这一点以后会怎样？求职者会开始优化自己的简历，学校会开始训练学生获得系统更容易识别的能力，企业会开始培养更符合算法评价标准的人。最终发生的事情可能不是 AI 准确地测量了现实，而是现实开始适应 AI 的测量方式。

这是一种非常重要的反转。最初是机器观察人，后来变成人按照机器的标准改变自己。考试制度、绩效制度、社交媒体、搜索排名都可能出现类似现象：一旦指标成为目标，人就会开始优化指标；一旦算法成为评价者，人就会开始迎合算法。于是技术不再只是描述世界，它开始生产它所描述的世界。这也是为什么技术中立如此值得怀疑：一个真正进入社会的技术，从来不会只是被动地等待人使用，人会围绕它重新组织自己的行为。

十四技术不是命运

如果技术并不中立，我们是否就只能接受它的塑造？并不是。技术能够塑造人，并不意味着技术拥有不可改变的命运。我们可以设计不同的系统，可以选择不同的目标，可以限制自动化，可以保留人工介入，可以要求解释，可以允许申诉，可以决定某些领域不应该由机器单独做出决定。

因此真正的问题从来不是技术是好还是坏，因为同一种技术可能产生完全不同的社会后果。真正需要问的是：谁设计技术，按照什么目标设计，由谁使用，谁承担风险，谁能够拒绝，谁能够改变规则。中立这个词本身在这里变得可疑：一条画在中间的线，看起来对两边都公平，可它是谁画的，画线的人站在哪里？当这些问题被提出，我们才真正从技术伦理进入了一个更根本的哲学问题：我们究竟希望技术帮助我们创造一个怎样的世界？

十五最后，这是一个关于人的问题

如果中立意味着技术只是被动执行人的意图，那么答案越来越难以成立。因为技术会改变行动的成本，会改变社会的结构，会把某些价值写入设计，会改变我们注意什么，会影响我们相信什么，而人工智能甚至开始参与判断、解释、预测和决策。

但这并不意味着技术已经取代了人，恰恰相反。AI 越强，我们越需要重新划定：哪些事情可以交给机器，哪些事情应该由人监督，哪些事情即使机器能够完成，也不应该完全自动化。因为真正的问题已经不是机器能不能做到，而是即使机器能够做到，我们是否仍然认为这件事应该由人决定。

石器扩大了人的力量，文字扩大了人的记忆，印刷术扩大了人的思想传播，工业机器扩大了人的生产能力，互联网扩大了人的连接能力，而人工智能正在扩大人的认知能力。当我们把认知能力交给技术时，我们交出的可能不只是效率，还有一部分判断自己应该如何生活的能力。所以技术之问最终不是机器会不会控制人类，而是在人类拥有越来越强大的技术之后，我们是否仍然知道哪些事情应该由人自己决定。我们创造技术，是为了获得新的能力，但每获得一种能力，都必须重新划定人的边界。技术时代真正重要的边界，从来不是机器能做到什么，而是什么事情，即使机器能够做到，我们仍然不愿意交给它。既然它不中立，既然有些事即使它做得到我们也不愿意交给它，那就要问，当技术什么都能做，我们还需要说不吗，是下一问。