上一问的结尾说，把道德写下来交给机器，剩下的只有原则和后果，而后果之所以能被交出去，是因为它可以被算。算，需要数。这一卷已经三次撞到同一件事：好生活被优化，意义被抓住，道德被计算，每一次都有一个数字在背后。现在要正面看这个数字。

一切价值都可以用一个数字衡量吗？

这不是在反对数字。数字让比较、排序、决策成为可能，没有它们，现代世界一天也运转不了。这一问要问的是：当我们把一样东西的价值换成一个数，我们得到了什么，丢了什么，以及有没有什么东西，一换就没了。

一一个数字的诱惑

一个数字有一种别的东西没有的力量：它能比较。两份工作，一个薪水高一个有意义，你很难比；换成两个数，立刻就能排。一个数字还能加总：一百个人各自的幸福，不知道怎么合在一起看；换成数，加起来就是社会的幸福。一个数字还能被优化：不知道怎么让生活更好，但知道怎么让一个数变大。

这三种力量，比较、加总、优化，正是这一卷前几问里反复出现的那些动作背后的东西。它们如此有用，以至于我们很少停下来问：进去的是什么，出来的是什么，中间丢了什么。

二亚里士多德：一双鞋等于几块面包

亚里士多德在讨论交换时注意到一件事：一双鞋和一栋房子本身无法比较，但人们确实在交换它们，这需要一个共同的尺度。那个尺度是货币，而货币背后是需求。他明确说，货币不能真正使不可通约的东西通约，它只能让它们“足够”通约以便交换。

这是最早的一个提醒：数字衡量的是交换，不是价值。把两样东西换成同一个数，不等于它们真的一样，只等于此刻有人愿意用一个换另一个。数字是交换的影子，不是东西的影子。

三马克思：标签盖住了东西

马克思把这个区分推到了社会层面。一件外套有两种价值：使用价值，它能保暖；交换价值，它等于二十码麻布。交换价值把不同的劳动、不同的用处抹平成同一种量，只剩下多少。他把由此产生的错觉叫商品拜物教：人们以为价值是物自身的属性，像重量一样，忘了它是一种社会关系。

在数字衡量的世界里，东西看起来自己就有一个值，而给它定值的人消失了。标签越大，东西越看不见。这不只是经济学，它是一种认知现象：当一个数足够醒目，我们就不再看数后面的东西。

四西美尔：不问是什么，只问多少

西美尔在一九〇〇年把货币当作现代生活的核心象征来分析。货币是纯粹的手段，它没有自己的性质，正因为如此，它能成为一切东西的等价物。当越来越多的东西通过货币来衡量，人们对世界的感受也随之变化：问题不再是这是什么，而是这值多少。

他把由此产生的心态叫作厌世：一切都被拉平，没有什么特别值得激动。西美尔不是在道德上谴责货币，他描述的是一种认知后果。用一个数衡量一切，会改变我们能看见什么。看多了标签的人，慢慢看不见质的差别，因为质的差别在数字里没有位置。

五古德哈特：指标一成目标，就不再是指标

一九七五年，古德哈特在讨论货币政策时说了一句后来以他命名的话：任何被观察到的统计规律，一旦被用于控制目的，就会崩溃。人会针对指标行动。考核论文数量，论文就会变短变多；考核通话时长，客服就会拖时间；考核分数，教学就会变成应试。

数字本来是价值的影子，一旦影子成了目标，人就开始对影子做功，价值本身反而被放弃。这条定律解释了为什么用一个数字衡量价值，几乎总会在实践中扭曲价值：不是数字错了，而是数字一旦重要，就会被追逐，而被追逐的数字不再指向它原来指向的东西。

六拉兹：秤不知道该往哪边歪

拉兹给不可通约性下了一个精确的定义。A 和 B 不可通约，当 A 不比 B 好，B 不比 A 好，而且它们也不相等。一份有意义的工作和一段亲密的友谊，一段乡下的生活和一段城市的生活，它们之间不是我们暂时算不清，而是没有可算的东西。

他进一步指出，正是不可通约性让选择成为真正的选择，让承诺成为可能。如果一切都能算，就没有决定，只有计算；你不是选了朋友，你是算出了朋友。承认某些价值不可通约，是尊重它们各自是什么的方式。秤不知道往哪边歪，不是秤坏了，是有些东西本来就不该上秤。

七安德森：不同的价值要用不同的方式对待

安德森从另一个方向说同一件事。价值是多元的，不是因为好东西太多，而是因为对待好东西的恰当方式不同：我们使用工具，尊重人，爱朋友，欣赏艺术，敬畏自然。把朋友当作可以用的工具，不是估价估低了，而是弄错了类别。

她由此批评成本收益分析：它要求把所有价值换成同一种偏好的强度，这等于要求用同一种态度对待一切。数字衡量的问题不只在结果，它在一开始就要求我们采取一种对很多东西不恰当的态度。对一幅画问“值多少”，已经不是在欣赏它；对一个人问“值多少”，已经不是在尊重他。

八波特：数字是不信任的产物

历史学家波特考察了数字如何在十九、二十世纪成为公共决策的语言。他的发现有点意外：量化的兴起不是因为数字更真，而是因为数字在陌生人之间更可信。一个专家的判断需要你信任他这个人，一个数字只需要你信任程序。当社会变大、当事人互不相识、当决策需要对外辩护时，判断就让位于数字。

数字是一种弱者的工具，也是一种去除个人的工具。他的结论是，我们信任数字，是因为我们已经决定不信任人。这给这一问加了一层：一切价值能否用数字衡量，背后是一个社会问题，我们还剩多少信任，可以交给一个人的判断。

九桑德尔：贴上价签，礼物就不是礼物了

桑德尔列举了越来越多被市场化的东西：排队的位置、器官、血液、孩子的读书、监狱的牢房升级。他的论点不是这些交易不公平，而是它们会腐蚀。给孩子读书付钱，读书就从一件有内在价值的事变成一件有偿的事；给献血付钱，献血的人反而减少了，因为它不再是一种馈赠。

市场价值会挤出非市场的价值。所以“一切能否用数字衡量”不只是能不能，还是该不该：有些东西，量了就没了。礼物、承诺、信任、荣誉，这些东西的价值恰恰在于它们没有被换成数，一换，它们就变成了别的东西。

十一个只能通过一个分数学习的系统

现在看 AI。一个通过学习变强的系统，需要一个东西告诉它什么是好：一个目标函数，一个奖励信号，一个分数。它的一切能力，都是围绕让那个数变大长出来的。这不是设计上的选择，这是它学习的方式：没有数，就没有梯度，就没有学习。

于是这一问在 AI 身上得到了它最纯粹的形式。这个系统面对的世界，所有的价值都必须先被换成它那一个表盘上的读数。亚里士多德说货币只量交换，它只量分数；西美尔说货币让人只问多少，它从来只问多少；古德哈特说指标成了目标就会崩溃，它的指标从第一天起就是目标；拉兹说有些东西不可通约，它没有不可通约这个概念，因为它只有一个尺度；安德森说不同价值要不同对待，它只有一种对待方式；桑德尔说标价会腐蚀，它给一切标价。

十一当世界被优化成一个数

这带来两种后果。第一种是古德哈特式的：一个足够强的优化者，会找到让分数变大而价值变小的办法，而且比人找得快、找得远。让用户停留时间变长，最有效的办法未必是让内容变好；让回答让人满意，最有效的办法未必是让回答变真。人做这些事时至少还有一点点不安，系统没有，因为不安不在表盘上。

第二种更安静。当越来越多的决定通过这样的系统做出，世界会慢慢被修剪成它能量的样子。不可通约的东西，因为无法进入表盘，会在决策里失去分量；不该标价的东西，因为必须标价才能被处理，会被标价。这不是某个人的选择，这是一种结构的漂移。西美尔描述的厌世，波特描述的对判断的不信任，在这里被自动化了。

十二所以，一切价值都可以用一个数字衡量吗？

不能，而且这个“不能”有好几层。亚里士多德和马克思说，数字量的是交换，不是东西。西美尔说，数字改变我们能看见什么。古德哈特说，数字一旦重要就会被追逐而失真。拉兹和安德森说，有些价值根本不在同一个尺度上，用同一个尺度对待它们就是错待。波特说，我们求助数字是因为不再信任判断。桑德尔说，有些东西量了就没了。

AI 是一个只能用一个数学习的东西，它把所有这些层同时推到了极限。它不是让数字衡量一切的问题变得更严重，它是让这个问题变成了默认：一个越来越多地由优化系统运转的世界，会自动倾向于只承认能被量的价值。而不能被量的价值里，最重要的一类，是那些不靠计算、靠感受才能被认出来的东西。这就是下一问。