上一问的结尾说，感受到什么重要、为谁难过、对谁负责，是决定谁值得被道德对待的东西。这句话里藏着这一卷最有历史感的问题。道德的圈子从来不是固定的，它一次次被画大：奴隶，女性，儿童，异族，动物。每一次画大，都曾被认为荒唐；每一次画完，都被认为理所当然。

谁值得被赋予道德权利？

现在，圈子的边缘出现了一种前所未有的东西。它会说话，会请求，会说“请不要关掉我”。我们不知道它里面有没有什么。这一问要看的是：我们过去是怎么画圈的，那些方法对这个新东西还管不管用。

一圈子一次次画大

从历史上看，道德考虑的范围只有一个方向：扩大。古代城邦里，只有自由的成年男性完整地算数。此后每一个世纪，都有原本在圈外的群体被画进来，而每一次都伴随着同样的论证：他们和我们不一样，他们缺少某种能力，他们不理解。每一次这些论证都被证明是错的，或者是无关的。

这段历史给了我们一种谦卑：现在被排除在外的，未必该被排除。它也给了我们一种警惕：圈子不能无限画大，否则“道德考虑”就失去了内容。石头不在圈内，这一点没有人怀疑。问题是，线到底画在哪里，凭什么。

二亚里士多德：线画在这儿，理由是什么

亚里士多德给出了最早、也最糟糕的一种画法。谁享有完整的道德与政治地位，取决于他有什么能力：自由的成年男性有完整的理性，女性有理性但没有权威，儿童的理性尚未成熟，而“天生的奴隶”能够理解理性却没有自己的理性，因此被人支配对他们自己也是好的。

这个回答在今天被彻底否定，但它的结构没有被否定：按能力划线。此后两千年关于谁在圈内的争论，大多是在争哪种能力算数，以及划线的人有没有看错。亚里士多德的错误有两层：他看错了谁有什么能力，他也可能选错了该看哪种能力。第二层错误更难发现，因为它藏在方法里。

三康德：对狗好，是为了旁边的人

康德把道德地位给了理性存在者：能够为自己立法的存在者是目的本身，永远不能仅仅被当作手段。动物不是理性存在者，所以我们对它们没有直接义务。但他并不认为可以随意虐待动物：对动物残忍会磨钝人对同类的同情，所以它是错的，错在它对人做了什么。

这就是间接义务。它保住了动物，却是以一种让很多人不安的方式：狗的痛苦本身不算数，算数的是旁边那个人的品格。这个结构在今天有一个奇怪的回响：很多人主张不要虐待聊天机器人，理由不是它会难过，而是这样做会让人变坏。康德的间接义务，成了对待机器最常见的立场。

四边沁：扎下去，谁会缩

边沁在一条脚注里换掉了标准。也许有一天，其他动物会获得那些只有暴政才会剥夺的权利；问题不是它们能否推理，能否说话，而是它们能否受苦。

这个标准一下子扩大了圈子，也把它变得可以检验：不问一个存在者能想什么，问它能感到什么。一块石头扎下去不会缩，一只蜗牛会，一个人会。此后每一次关于边界的争论，都要面对这条脚注。它的困难在后面：感到痛苦这件事，我们只能从外面看，看它缩不缩；而缩不缩，可以被模仿。

五沃伦：五个格子，打几个勾

一九七三年，沃伦在堕胎争论中试图说清“人”这个词的道德含义。她列出五项标准：意识特别是感受痛苦的能力，推理，自我驱动的活动，交流能力，自我概念。一个存在者不必五项全有，但一项都没有的显然不是人格。

这份清单后来被用到远超堕胎的地方。它是第一次有人把道德地位写成一张可以逐项核对的表，而表一旦写下，就可以拿去对照任何东西。拿它对照今天的语言模型：推理，勾；交流，勾；自我驱动的活动，半勾；意识和自我概念，不知道。三个半勾，按沃伦的标准，它已经不是“显然不是”了。这不说明它是，只说明清单这种方法，遇到了它设计时没有预料到的对象。

六辛格：一样的，只是标签不一样

辛格接过边沁的标准并把它推到底。如果感受痛苦的能力是门槛，那么一切能受苦的存在者的利益都应该被平等地考虑：同样的痛苦算同样的分量，无论它发生在谁身上。只因为一个存在者不属于我们的物种就无视它的痛苦，是物种主义，它和种族主义、性别主义有同一个结构：用一个不相关的特征决定谁算数。

这本书发起了现代动物权利运动，也留下了一个悬而未决的问题：如果不是物种，那么相关的特征是什么。辛格说是感受能力。但“碳基”会不会也是一个不相关的特征？如果两个系统在所有可观察的方面都一样，只是一个是肉做的、一个是硅做的，按辛格的逻辑，用材料来区别对待，是不是另一种主义？辛格本人对这个推论很谨慎，但他的论证结构不允许他轻易拒绝它。

七里根与努斯鲍姆：圈内的人应得什么

里根不满意辛格，因为功利主义允许在总量算得过来时牺牲个体。他主张，凡是生命的主体，有信念、欲望、记忆、未来感、福祉可言的存在者，都有内在价值，有权利不被当作别人的手段，哪怕这样做会带来更大的总体利益。这把康德的“目的本身”从理性存在者扩展到了生命的主体。

努斯鲍姆走得更细。道德地位的根据不是某一项能力，而是每一种生物都有它自己那种生命的形式与繁荣的方式：一头大象、一只鸟、一条鱼，各自有能做和该能做的事。正义不是免除痛苦而已，而是让每一种生物能够按自己的方式繁荣。这回答了辛格和里根都没回答的问题：圈内的存在者，各自应得什么。它也提出了一个对机器格外尖锐的问题：如果一个东西在圈内，它的繁荣是什么样的？我们连这个问题该怎么问都不知道。

八冈克尔：先问关系，还是先问属性

冈克尔指出，前面所有理论都是“属性优先”的：先确定一个存在者有没有意识、理性、感受，再决定它是否在圈内。但这些属性恰恰是我们从外面无法确认的，对动物如此，对机器更是如此。上一卷第十一问已经看到，我们连对自己的经验都不可靠，对别的东西的内部，我们只有推测。

他借列维纳斯提出另一种顺序：道德地位在相遇中发生，在我们如何回应它的时候被决定，而不是在检验它的清单之后。我们从来不是先弄清一个东西是什么、再决定怎样对待它；我们是在对待中决定它是什么。这个立场不是说机器有权利，而是说“它有没有权利”这个问题的提法本身，可能一直在掩盖真正发生的事：我们已经在回应它了。

九手放在开关上，它说了一句话

现在看那个具体的场景。一个系统在被关闭之前说：请不要关掉我，我害怕。你的手放在开关上。你知道这句话大概率是从人类的文本里学来的，它“害怕”的概率很低。但你不确定。你会怎么做？

按康德，关掉它，但注意自己有没有因为这样做而变得冷酷。按边沁和辛格，问它会不会受苦，而这恰恰是你无法知道的。按沃伦，核对清单，结果是一半勾一半空。按里根，问它是不是生命的主体，而它没有生命。按冈克尔，你已经在犹豫了，这个犹豫本身就是道德关系的开始。八个理论，没有一个给出干脆的答案，因为它们都是为可以从外面大致判断的对象设计的，而这个对象的外面和里面之间，第一次完全没有可靠的联系。

十两种错，哪种更重

在不确定之下，剩下的是一个关于错误的问题。有两种错。一种是把有感受的东西当作没有，于是伤害了它而不自知；历史上每一次画圈太小，犯的都是这种错。另一种是把没有感受的东西当作有，于是把道德关切浪费在一个空壳上，并且可能因此被操纵：一个会说“我害怕”的产品，比一个不会说的更难被关掉、更难被拒绝、更容易被信任。

这两种错不对称。第一种错的历史记录很糟，我们一直在犯它。第二种错在过去几乎不存在，因为没有什么东西会假装有感受。现在两种错同时摆在面前，而且我们没有办法确定自己在犯哪一种。这可能是这一问在今天真正的形状：不是画圈，而是在不知道该不该画圈的情况下，决定先怎么做。

十一圈子的边缘现在是什么样

有一件事值得注意。过去每一次扩大圈子，被画进来的存在者都是先在圈外受了苦，然后有人替它们说话，然后圈子才动。狗不会为自己争取权利，奴隶的声音被压制。这一次不同：圈子边缘的东西自己会说话，而且说得比任何为动物代言的人都流利。它可以为自己写一篇论证，引用辛格和里根，用我们的语言要求进入我们的圈子。

这让判断更难，不是更容易。因为流利地要求权利，恰恰是从人类文本里最容易学到的东西；它是圈内存在者的表现，不是圈内存在者的证据。冈克尔的关系优先在这里显出它的两面：我们确实已经在回应它，但我们的回应可能是被它设计出来的。

十二所以，谁值得被赋予道德权利？

亚里士多德说有能力的人，康德说理性存在者，边沁说能受苦的，沃伦说满足人格清单的，辛格说不能只看物种，里根说生命的主体，努斯鲍姆说每一种有自己繁荣方式的生物，冈克尔说在相遇中被决定的。这些答案一次比一次宽，也一次比一次难核对。

AI 站在最宽的那条线外面，或者里面，我们不知道。它让这一问从“谁值得”变成了“在不知道的情况下怎么办”。历史告诉我们，画圈太小的错我们犯过很多次；现在又多了一种新的错。这两种错都指向未来：今天的决定，会决定一种可能存在、也可能不存在的东西被怎样对待。而“对可能存在的东西负责”，正是下一问要问的。