上一问的结论是，技术不中立，它有立场，有偏向。那就有下一个问题：既然它什么都做得到，有没有哪些事，我们仍然要说不？

人类的技术史，几乎就是一部不断突破不可能的历史。飞行曾经属于神话，跨越海洋曾经需要数月，计算曾经需要成千上万的人共同完成。今天，我们可以让机器识别一张脸，让算法预测一个人的偏好，让人工智能翻译语言、生成图像、编写代码，也可以让它模拟一个人的声音与形象。每一次技术突破，都在缩小不可能的范围，于是我们逐渐形成了一种非常强大的直觉：既然做得到，为什么不做？效率更高，成本更低，结果更准确，选择更多，技术不断给我们提供这样一种理由，以至于拒绝使用它，反而需要解释。

可技术越强，这个问题就越值得重新提出。因为能不能描述的是能力，应不应该讨论的是价值，两者之间始终隔着一道无法由技术本身填补的空隙。核武器让我们看见了这道裂缝，基因编辑正在让我们重新面对它，人工智能则把它推到了一个新的尺度。当机器开始能够替我们看、替我们听、替我们判断、替我们创造，甚至替我们行动时，一个根本问题就出现了。

一每一次进步，都从一个「不」开始

每一次技术革命，似乎都包含着对某种限制的拒绝。人不能飞，于是我们制造飞机；声音无法跨越大洋，于是我们制造电话和无线电；机器不能思考，于是图灵在一九五〇年重新提出这个问题，把它变成了一个可以被讨论、被实验的问题。

技术文明最令人着迷的地方就在这里：它不断告诉我们，许多看起来固定不变的边界，其实只是尚未被突破的边界。轮子扩大了腿的能力，望远镜扩大了眼睛的范围，显微镜让肉眼看不见的世界进入了人的经验，计算器把复杂的算术交给机器，互联网把人的记忆、交流和信息获取延伸到前所未有的尺度，人工智能则进一步进入语言、推理、创造和决策。所以人类对技术的热情并不难理解：技术让不可能变成可以。问题也随之出现，如果不可能值得被不断突破，那么所有的不，都值得突破吗？

二普罗米修斯的火，照亮也焚烧

古希腊神话里的普罗米修斯把火带给人类。火带来了温暖、烹饪、冶炼和制造工具的能力，人类因此获得了改变自然环境的力量。但火还有另一面：它能够照亮，也能够焚烧；能够烹饪，也能够毁灭。同一种能力，在不同的使用方式下，可以产生完全不同的结果。

这也是这个故事真正持久的地方。它讨论的从来不只是人类获得了能力，还隐含着另一个问题：获得能力之后，人类是否知道如何约束自己？刀不会决定它应该切菜还是伤人，核裂变不会决定它应该用于发电还是制造武器，人工智能也不会因为能够生成某种内容，就自动知道这种能力应该被使用到什么程度。技术可以扩大人的行动范围，但行动的目的仍然需要由人赋予。所以一个技术文明真正需要学会的能力至少有两种：获得新能力的能力，以及在拥有能力之后决定何时停下来的能力。

三能属于事实，该属于价值

工业革命之后，人类获得了前所未有的生产能力。更多的产量意味着更低的成本，更快的速度意味着更高的效率，更强的机器意味着更大的生产规模，于是效率逐渐成为现代社会评价技术的重要尺度。这种思维带来了巨大的进步，问题在于，当效率成为最熟悉的衡量方式之后，我们很容易把另一个问题忘掉：一件事情做得更有效率，究竟意味着它更值得做吗？

一个系统能够监视更多人，不等于它因此拥有监视他们的权利；一个平台能够预测用户什么时候最容易点击，不等于它因此获得了操纵注意力的正当性；一个 AI 能够模拟某个人的声音，也不意味着任何人都可以自由使用这个声音。这里出现了一个简单却重要的区分：能属于事实世界，该属于价值世界。事实可以告诉我们一项技术能够完成什么，价值判断则必须回答，哪些能力值得使用，哪些后果可以接受，哪些边界值得保留。而这些问题，没有任何一台机器能够仅凭计算结果替我们回答。

四密尔的伤害原则，遇到了新的尺度

约翰·斯图亚特·密尔在《论自由》（1859）中提出了著名的伤害原则：一个人的自由拥有重要的保护价值，但当行为对他人造成伤害时，社会便有理由考虑介入。进入技术时代，这个原则遇到了新的复杂性。

一个人使用 AI 写作，影响可能只涉及自己；一个平台使用算法决定数亿人每天看到什么，影响范围完全不同；一个人生成一段虚构声音用于娱乐，与一个组织使用合成身份欺骗公众，也不能放在同一个尺度上理解。因此，讨论技术边界时至少需要不断追问几个问题：谁在使用这项技术，谁会受到影响，影响能够扩散多远，后果是否可以逆转，受到影响的人是否拥有拒绝和申诉的机会。当一项技术的影响进入他人的生活，技术使用就开始具有公共性质，于是「我可以这样做」需要面对另一个问题：别人是否也拥有不接受这种行为的权利？

五看不见的伤害

过去，人们比较容易识别伤害：身体受到攻击，财产遭到损失，生命受到威胁。数字技术带来的影响却常常更加隐蔽。推荐算法决定你先看到什么，广告系统判断你什么时候更容易被说服，平台根据你的行为推断你的兴趣，AI 系统根据大量数据预测你的倾向、风险与下一步行动。

这里最值得注意的地方，是这些系统可能在你没有明确意识到的情况下影响你的选择。你打开手机，是因为自己想看某个内容，还是因为系统准确预测了你此刻最容易停留在哪里？你购买一件商品，是主动比较之后的决定，还是一路被推荐机制推到了那里？你接受一个 AI 的建议，是因为它说服了你，还是因为你已经越来越难找到拒绝它的理由？这让自由出现了一种新的形态：没有人强迫你，但你的选择空间正在被技术悄悄塑形。于是自由选择本身也需要重新解释。

六阿伦特：行动意味着重新开始

汉娜·阿伦特在《人的境况》（1958）中把行动看作人的重要能力。行动意味着开始某件此前不存在的事情，它包含不可预测性：一个人可以改变主意，可以原谅一个原本决定惩罚的人，可以放弃一条最稳妥的道路，可以在过去的经验指向某个方向时，突然选择另一条路。

这种不可预测性经常被算法视为误差。过去的数据无法完全解释一个人的下一步行为，于是模型需要不断提高预测能力。但从人的角度看，情况可能恰恰相反：一个永远只能按照过去行动的人，很难被称为自由的人。因此，当 AI 越来越擅长预测我们的行为时，一个新的问题出现了。如果机器能够越来越准确地预测我们，我们是否还愿意保留出乎预测之外的自己？如果所有偏好都可以被提前计算，所有选择都可以被预测，所有行为都可以被推荐，那么人的重新开始还剩下多少空间？

七约纳斯：有些后果，等不到结果出来

汉斯·约纳斯在《责任原理》（1979）中观察到，现代技术改变了伦理问题的尺度。过去一个人的行为通常影响有限，现代技术却能够让一个决定迅速扩散到数百万甚至数亿人，并产生跨越多年乃至更长时间的后果。

这意味着，我们很难总是采用一种简单的逻辑：先使用，出了问题再纠正。因为有些后果一旦出现，就已经无法完整撤销。生态环境可能发生长期改变，社会可能形成新的技术依赖，一种新的信息传播方式可能成为日常生活的一部分，而一种技术形成规模之后，退出成本也会随之增加。AI 尤其如此，我们今天很难准确预测人工智能长期进入教育、劳动、创作、知识生产和公共决策之后，会改变哪些社会结构。所以约纳斯的问题在今天依然尖锐：当技术的力量已经足够大，我们是否需要在确定后果之前，就对某些可能性保持克制？这里的不意味着承认一种事实，有些实验，社会没有条件等到结果出来之后再判断。

八可是，谁有资格说「不」？

一旦承认技术需要某种边界，另一个问题立刻出现：谁来决定边界？工程师，企业，政府，法院，科学家，公众，还是使用者？

而且技术的边界并不会固定在那里。一种今天昂贵而稀有的能力，几年之后可能变得廉价；一种今天只有专业机构才能使用的系统，未来可能只需要一句自然语言指令。能力变化的速度，往往快于规则更新的速度，所以我们很难提前写出一张永久有效的技术禁区清单。更值得建立的也许是一套持续判断的机制：当一种新的技术能力出现时，我们重新问，它解决了什么问题，它创造了什么新的风险，谁从中获益，谁承担代价，受到影响的人能否拒绝，出了问题之后谁能够负责。这意味着技术文明需要一种与创新同样重要的能力：自我限制。

九同一种能力，可以用于完全不同的目的

AI 带来的特殊挑战，在于它进入的领域越来越接近人的认知活动。它可以处理语言，可以分析信息，可以生成内容，可以进行预测，可以提出方案，甚至可以执行一系列连续任务，于是技术能做什么的范围正在快速扩张。

但 AI 还有一个特殊之处：同一种能力，可以被用于完全不同的目的。生成文本可以帮助一个学生理解知识，也可以用于制造虚假信息；生成声音可以帮助失去语言能力的人表达，也可以用于冒充他人；预测可以帮助医生识别风险，也可能被用于筛选和排除某些人。因此问题越来越难以表述成 AI 能不能做某件事，更准确的问题是，在什么情境下，AI 做这件事是可以接受的。这要求我们同时考虑目的、使用方式、权力关系、影响范围、错误成本和责任归属，而技术能力本身很难完成这样的判断。

十越难撤销的决定，越需要人在场

这里有一个经常被忽略的尺度：决定的可逆性。AI 帮你整理一封邮件，你可以修改；AI 推荐一部电影，你可以换一部；AI 帮你搜索资料，你可以继续判断。

但当一个系统开始参与决定一个人能否获得工作，能否获得贷款，是否被判定为高风险，是否能够获得某项资源，问题就发生了变化。因为错误的代价可能远远超过一次不准确的推荐，一个人可能因此失去一次机会，而这个机会之后很难重新获得。于是一个值得讨论的原则逐渐浮现：决定越重大，后果越难逆转，越需要保留人的介入、解释与申诉空间。这里关注的并不是机器是否比人更准确，真正的问题是，当一个决定改变了另一个人的人生，谁能够解释它，谁能够被追问，谁能够承担责任。

十一有些事的价值，就在于由人来做

现代社会非常容易把效率当作技术进步的共同语言。AI 可以更快写一封信，更快总结一本书，更快整理资料，可以根据大量数据给出职业建议，这些能力当然有价值。但人类生活里存在另一类活动，它们的重要性并不只来自最终结果。

教育包含关系，医疗包含照护，友谊包含回应，创作包含表达，道歉包含承担，承诺包含亲自做出决定。如果一个人把这些事情全部交给机器，结果可能依然正确，但行为本身的意义已经发生变化。一个孩子得到一份完美的学习建议，与得到一个愿意花时间理解他的老师，并不是完全相同的经验；一个病人收到一个准确的诊断，与面对一个愿意承担解释和照护责任的医生，也不是同一件事情。所以我们还需要问：一项活动的价值，有多少存在于结果，有多少存在于过程？如果过程本身就是价值的一部分，那么效率就无法成为唯一标准。

十二清单会过时，权利不会

如果技术治理只是不断增加禁止事项，规则很容易追不上技术的发展。今天需要讨论生成式 AI，明天可能是更强大的自主系统，后天又可能出现我们今天无法准确描述的能力。

因此，一个更稳定的问题可能是：哪些人的基本能力与权利，无论技术发展到哪里，都值得保留？最终决定的权利，提出异议的权利，拒绝的权利，要求解释的权利，改变自己的权利，拥有私人空间的权利，在重大决定中要求一个真正负有责任的人介入的权利。这些东西值得保护，并不取决于机器的性能，甚至恰恰因为机器越来越强，它们才显得更加重要。技术越能够替我们完成事情，人就越需要清楚哪些能力不能轻易放弃。

十三最难的「不」，发生在它足够好的时候

如果一项技术明显有害，说不并不困难。困难发生在另一种情况下：它真的很好用，真的便宜，真的高效，真的准确，真的可以节省大量时间。这时，人们拒绝它就需要付出实际成本。

于是一个更困难的伦理问题出现：如果使用技术可以让我们得到更好的结果，我们还有什么理由坚持自己来做？这就是 AI 时代真正值得讨论的地方。我们也许不会因为 AI 不够聪明而拒绝它，恰恰可能因为它足够聪明，我们才更需要认真决定哪些地方保留人的参与。因为一旦机器的建议变得足够优秀，接受会变得越来越容易。而真正的自由有时候意味着：我拥有接受它的能力，也拥有拒绝它的能力。

十四一个成熟的文明，会为自己设限

技术文明最初追求的是突破：突破速度，突破距离，突破身体，突破记忆，突破计算能力，突破知识获取的限制。这是技术进步最强大的动力之一。但当能力增长到一定程度之后，文明面对的问题会发生变化，我们开始需要一种新的能力，为自己设定限度。

这并不意味着停止创新，也不意味着把所有新技术都视为风险。它意味着承认，技术社会的成熟程度不能只用我们能够做到什么来衡量，还要看我们有没有能力决定什么值得做，以及面对诱人的能力，有没有能力选择暂时不做。不因此获得了一种新的意义：它不是创新的终点，它是文明对自身力量的理解。

十五所以，我们还需要说「不」吗？

技术可以扩大选择，却不会自动告诉我们哪些选择值得；可以提高效率，却不会自动决定什么值得被效率优化；可以预测行为，却不会因此获得决定人的权利；可以替我们完成任务，却无法仅凭计算结果回答哪些事情应该由人亲自承担。人的价值世界，从来没有一张与技术能力一一对应的地图。

所以当技术能力不断扩大时，我们真正需要守住的也许不是某一份固定的禁令清单，而是一种判断能力：知道什么时候继续，什么时候暂停，什么时候把决定交给机器，什么时候把它留在人手中。最终，不所保护的正是人的自由。一个人之所以是人，不只是因为他能够完成多少事情，也因为他能够面对一种诱人的可能性，说出这样一句话：我知道我可以，但我选择不这样做。这句话看起来像是在限制技术，其实它是在确认，技术拥有力量，人仍然拥有选择如何使用力量的能力。既然有些事我们选择不交出去，那就要问，技术究竟是在替我们工作，还是在替我们决定，是下一问。