Beware the Power of Prediction | Carissa Véliz | TED

本篇角度：预测不是在描述未来，它是一道蒙着面纱的命令。

法王路易十一决定杀掉他的宫廷占星师。仆人已经守在窗边，只等国王一个手势，就把人扔下去摔死。占星师却用一句话把自己救了下来。

事情的起因是，这位占星师预言宫中一位贵妇会在一周内死去，她真的死了。路易被震住了。他看到的只有两种可能：要么这个人亲手动了手脚，要么他真有未卜先知的本事。两种可能都指向同一个结论，这个人必须死。

路易问了最后一个问题：你既然会预言，那你说说，你还能活多久。

占星师一拍都没有停，回答说，我会在陛下驾崩前三天死去。

那个手势始终没有做出来。

卡丽莎·贝利兹在台上说，这个答案不是从星象里读出来的。占星师懂的是预测的力量，他用这份力量替自己买了一份人寿保险。

我们习惯把预测和知识放在一起。贝利兹请我们考虑另一种可能：你日常生活中遇到的绝大多数预测，与其说属于知识的领域，不如说更接近权力的领域。

你可能立刻会想，可人工智能是科学啊，是最前沿的技术。贝利兹的回答是，这要看是哪一种人工智能，也要看我们拿它来做什么。用它预测分子的性质，寻找新的抗生素，这是一项了不起的技术。但对人的预测和对物的预测，性质根本不同。

不同在哪里。她借用了哲学里的一个概念，叫言语行为。当你叫一个孩子去收拾房间，你不是在描述房间的状态，你是在下命令。社会预测同理。它们听上去像在陈述事实，其实是蒙着面纱的命令，暗中告诉我们该怎么行动。

她举的例子很近。一位科技高管说，未来我们会在一切场合、一切地方使用人工智能。这句话看起来是在报告未来。它其实是在要求你按某种方式行动，好让他描绘的那个未来成真。而那个未来，正是替他赚钱的那个未来。

于是就有了那个不太好听的词。当你相信这个预测，把它当成关于未来的消息，当你屈服于错失的恐惧，跑去把人工智能买下来，为那个自我实现的预言添上一份力，你实际在做的事情，贝利兹说，叫作服从。

她还给了一个很实用的识别信号。做技术预测的人有多爱说，他们描述的那个未来是「不可避免」的。这是危险信号。这类预测的设计意图，就是让对话到此为止。它在告诉你，别质疑我，把我说的当事实接受就行。

那凭什么说它不可避免。

看看眼下最响亮的那个预言。拉里·埃里森，那家预测软件公司的董事长，公司的名字起得恰如其分，就叫甲骨文，Oracle，神谕。他预言了一个现代监控国家：公民会时时保持最规矩的举止，因为我们一直被注视着。

贝利兹的回应很短。一个没有犯罪的世界只是幻象。那样的世界里充满的是另一种犯罪，叫威权主义。

关键在于，这个预言不像天气预报那样自己会实现。它需要我们配合。先知的力量来自人们相信他。如果我们决定违抗这个预言，而不是服从它，那么至少，我们会去选择那些更尊重隐私的产品。

她在这里引了汉娜·阿伦特的一句话。跟一个凶手争论他未来的受害者是死是活，毫无意义。唯一恰当的回应，是去救那个被预言将死的人。贝利兹说，今天的先知们正在预言我们民主的死亡，唯一恰当的回应，就是把它救下来。

回到那个最老的故事。俄狄浦斯被告知他将弑父娶母。如果他当时一笑置之，随它去吧，他就绝不会动身前往忒拜，那个预言也就绝不会应验。吓坏他的不是命运，是他对预言的相信。

所以贝利兹最想让人带走的一句话是：预测可以成为权力的武器，但它只有在我们相信它的时候才生效。

留一个问题给你。最近一次让你觉得「这事已成定局」的预测，是谁说的。他从你的相信里，能得到什么。

本篇角度：预测有塑造未来的力量，所以它必然招来动手脚。

路易十一面对那位算准了死期的占星师时，脑子里冒出的第一个念头是：这个人可能亲手杀了那位贵妇，好证明自己算得准。

这个念头，是操纵的原型。一个人只要能从预言应验里拿到好处，他就有动机去让它应验。

卡丽莎·贝利兹把这条单独列为一点：预测招来操纵。既然预测有塑造未来的力量，就必然有人被诱惑去动手脚，并从中获利。

她拿来当靶子的，是眼下很时髦的预测市场。

支持它的理由听上去相当硬。理论上，市场不会说谎。人们真金白银下注，猜错就要赔钱，所以他们会努力猜对。而让足够多的人来下注，我们就能汇聚群体的智慧。比民调准，比专家准，因为它逼人为自己的判断付钱。

我第一次听到这套说法的时候也觉得没什么可挑的。它硬在哪里，问题就出在哪里。

它假设每个人下注的唯一目的是猜对。

贝利兹说，这背后是一种非常天真的预测观，把预测看成对知识的追求。如果你换个角度，把预测看成对权力的追逐，浮现出来的是另一幅图景。

只要钱足够多，你就可以靠大笔下注去影响公众的认知。这时候你不是在猜结果，你是在写结果。价格本身会被当成消息读出去，被媒体引用，被决策者参考。你花钱买的不是一个赌注，是一条被众人信以为真的判断。

而这还只是最温和的一种玩法。

贝利兹给了两个更直接的例子。政客给自己下过注。今年二月，六个匿名账户押注对伊朗的袭击，赚走了一百二十万美元。其中有些钱包，是在事发前几小时才刚刚注资的。

请注意这里有三种完全不同的赢法混在同一个价格里。第一种是猜得准，那是知识。第二种是知道得早，那是内幕。第三种是能让它发生，那是权力。

市场分不出这三者的区别。它只吐出一个数字。而我们被告知，这个数字代表群体的智慧。

更麻烦的是，谁离事件越近，谁的仓位就越有把握，也越能反过来影响事件。也就是说，最有能力操纵结果的人，恰好是这套机制回报最高的人。它不是偶尔被滥用，它是把奖金直接挂在了操纵的那一端。

贝利兹在演讲里提到一条古罗马的法律，可以当作这件事的注脚。在古罗马，预言皇帝的死是犯法的。理由很简单：预言一出，最后总会如期出现一位被谋杀的皇帝。

罗马人怕的不是预言太准。他们怕的是预言会变成号召。一句「皇帝将死」传开之后，观望的人开始重新计算自己的位置，忠诚的成本上升，动手的成本下降。预言在这里不是信息，是发令枪。

两千年过去，机制没变，只是接口变了。今天你不需要在市集上散布谣言，你只需要在一个流动性不足的市场里砸一笔钱，把某个概率从百分之十推到百分之四十，剩下的事情，会有人替你完成。

所以贝利兹说，预测招来操纵，这不是道德感慨，是结构性的判断。凡是有力量塑造未来的预测，都会吸引那些想塑造未来的人来定价。

留一个问题给你。下一次你看到某个预测市场的数字被当成事实引用，先问一句：在这个数字上有仓位的人，有没有能力让它成真。

本篇角度：拒绝你的如果不是一个事实而是一个预测，你连申诉的门都找不到。

先看两种拒绝。

第一种：我拒绝你的贷款申请，理由是你不满足某一项具体条件。那是一个可以核查的事实。如果我判断错了，你可以来质问我。

第二种：我拒绝你的贷款申请，理由是一个预测。

卡丽莎·贝利兹说，在第二种情况下，你根本无从申诉。算法预测正在造出一个卡夫卡式的世界，我们再也无法对决定提出异议，因为那些决定并不建立在清晰界定的标准之上。

为什么申诉不了。她的推理只有两步。

预测永远不是事实。事实属于过去。而预测无法验证，也无法证伪。既然说的是未来，它就不能因为「说错了」而受到挑战。

贝利兹的原话是：这是滋生隐性不公的完美配方。不公发生了，但没有一个可以被指出来的错误，因此也没有一个可以被追究的人。

你可能会想，算法至少比人的偏见公正吧，它看的是数据。

贝利兹的回答是，预测常常是不公平的，因为它依据的不是一个人是谁，而是我们认为他将来会变成谁。

然后是这条线索里最反直觉的一环。

对天气的预测不会影响天气。对人的预测会影响人。

她说，社会预测的作用像磁铁，它把现实朝自己的方向掰过来，改变它声称只是在描述的那个现实。一个关于未来疾病的算法预测，可以让一个人的保费上涨，而单是这份压力本身，就足以让他的健康状况变得更差。

请把这个循环走完。预测说他会生病，保费因此上涨，压力因此增加，健康因此变差。几年之后回头看，这个预测很准。

而这份「准」，是它自己造出来的。系统于是收获了双重好处：它既做了那个决定，又拿到了自己判断正确的证据。

顺着这条线，贝利兹给了一个很具体的建议，关于保险。

也许我们应该让预测只停在人群层面，而不落到个人头上，因为落到个人头上就会制造出不公平的自我实现的预言。而且还有一层更根本的理由：如果保费是按个体化预测来计算的，那等于我们各自为自己买单，保险也就失去了它存在的理由，也就是互助与风险共担。

一份人人都按自己的风险精确定价的保单，已经不叫保险了，那只是分期付款。

她并不主张废除预测。她说自己每天还在用天气应用。她要的是一场公共辩论，讨论预测的哪些用途可以接受，哪些不可以接受。她提醒说，这场辩论我们现在完全没有在进行。与此同时，此时此刻，就有几十种算法在替你的人生做决定。

而在那些公平至关重要的场合，她给的方向很清楚：宁可采用透明的、可以被申诉的标准，也不要用统计模式匹配去做预测。哪怕后者的平均准确率更高。因为可申诉本身就是一种价值，它承认对面坐的是一个人。

贝利兹说，当我们像预报天气那样预报一个人的未来时，我们是在不尊重他。我们把他当成物，太多了。把他当成对自己的未来有发言权的行动者，太少了。而人是可以，也应当被允许去打破他们的赔率的。

她讲了一个打破赔率的人。一九七一年重量级冠军赛之前，穆罕默德·阿里预言自己必胜。乔·弗雷泽把这话当成挑衅。那场「世纪之战」里，他击败了此前从未尝过败绩的伟大的阿里。

阿里的预言没有输在拳台上的技术，它输在弗雷泽拒绝把它当成消息。

留一个问题给你。你的信用、你的保费、你的求职结果背后，多半已经有一个算法给你标好的赔率。如果你想申诉，你去找谁。