查尔斯·琼斯
罗罗伯托·桑塔纳本文整理自斯坦福大学商学院校友重聚活动上的一场公开演讲与问答,主讲人是斯坦福 GSB 经济学教授查德·琼斯(Chad Jones),增长理论领域的权威学者,与尼古拉斯·布鲁姆等人合著有《创意越来越难找了吗》。他用一个小时讲了同一个问题的两种极端答案:AI 会不会把经济增长推向爆炸,还是像电力、半导体、互联网一样,只是让百分之二的增长再延续五十年。现场问答部分,多位校友就 GDP 测量、分配冲击、资本集中与全球格局提问,最后由 2011 届校友、现就职于 Google DeepMind 的罗伯托·桑塔纳(Roberto Santana)对模型的「渐进」假设提出正面质疑。以下依据现场录音编译整理,仅删去口语枝节、寒暄与重复,论证与例证一仍其旧。
琼斯: 非常高兴有机会跟各位分享这场演讲。这是我们所有人这些天都在想的事。我过去十五年乃至更久的研究都围绕经济增长展开,而我觉得 AI 是一项不可思议的新技术,它将如何塑造未来,会给我们和我们的孩子带来什么后果,是我每天都在琢磨的问题。今天讲的内容,大致来自我这两年写的四五篇研究论文。
琼斯: 我想有一句话是很容易说出口的:AI 很可能是我们这辈子最具变革性的技术。但同样重要的是,它是一长串变革性技术里最新的一项。电力、晶体管、半导体、信息技术、互联网,这些都是变革性技术。我一直在琢磨的问题,待会儿会展开:AI 在多大程度上是不同的,又在多大程度上跟这些更早的变革性技术共享同样的特征?
琼斯: 说到不同之处,我想有一点直指要害。假如机器,也就是负责认知劳动的 AI,加上驱动机器人去做体力劳动的 AI,假如它们能完成人类能做的每一项任务,那会怎样?生活在那样一个世界里,是什么样子?
琼斯: 开头我想先给各位摆出两种情景,我把它们当作两个极端。哪一种大概都不是真正会发生的事,某种意义上它们是漫画式的夸张,但我认为思考这两种情景本身能让我们学到东西。之后我会展示一些我做的研究,帮我判断我们最终会落在这两个极端之间的什么位置。
琼斯: 第一种情景是,AI 极大地加速了经济增长,也就是硅谷天天在谈的那个「FOOM」情景。第二种情景是,AI 只是一项普通技术,一切照常,也许它的「普通」跟电力、半导体、互联网的「普通」是同一种意思:它们都是变革性技术,但结果我们看到了。下面我分别展开。顺便说一句,我打算讲到五点四十五,然后留十五分钟提问,我这儿摆了好几个钟,应该能卡住时间。
琼斯: AI 极大地加速增长,这一幕我认为我们正在现场观看。达里奥·阿莫代伊、萨姆·奥特曼、戴密斯·哈萨比斯、杰弗里·辛顿,这些 AI 领域的头面人物,过去十年里一直在说这些东西要来了,而我们基本是照着他们十年前给出的时间表在往前走。
琼斯: 那个时间表的第一步,我认为是 AI 把软件工程自动化。去年十一月 Claude Opus 4.5 发布的时候我们看到了一个例子:Anthropic 招聘软件工程师时会出一份两小时的带回家考卷,看候选人做得怎么样,以此作为录用依据的一部分。他们把同一份两小时的卷子给了 Opus 4.5,它的得分高于历史上任何一个人类。那已经是七个月前的事了,而模型只会越来越好,现在都到 Claude Opus 4.7 了,隔了两代。
琼斯: 未来十年里,我们会有能把大部分编程工作自动化的 AI 智能体,这可信吗?可能下周就有了。看起来这件事很快就会发生,当然也可能要十年。好,当你手里有了能干软件工程师一切活儿的智能体,你会拿它们去干更多的事。具体来说,你会让它们去做 AI 研究,去构建更好的算法来改进 AI 自身,去构建能像人一样使用电脑的智能体。
琼斯: 于是紧接着,我们大概率会有能充当虚拟远程员工的智能体。任何你能在视频会议上拜托一位同事去做的事,那位同事都可以是 AI 而不是人。有了这个之后,也许又是紧接着,你可以把它们扩展到数百万块 GPU 上,最后你手上会有数十亿个虚拟研究助理,每一个的运行速度都是我们的一百倍。你把它们派上用场,也就是阿莫代伊所说的「数据中心里的一国天才」,让它们去发现新想法。
琼斯: 你对它们说:帮我设计更好的计算机芯片;模拟真实世界,帮我设计更好的机器人,好让我们终于把机械手这个卡住机器人学的瓶颈解决掉;帮我们设计更好的技术、新的药物。AlphaFold 已经是快十年前的事了,它正在改变制药业,但可做的事还多得很。如果你拥有数据中心里的一国天才,还有什么虚拟认知任务是它们做不了的?
琼斯: 而一旦它们开始在虚拟环境里设计更好的机器人,我们就把这些设计拿到真实世界里去测试。最终,也许要花十年,但最终我们会有由数据中心里那些超级天才操控的机器人,那时候体力任务也被自动化了。而当认知任务和体力任务都被自动化,在我喜欢的、我自己写下的、也教过在座许多人的那些增长模型里,增长会爆炸。
琼斯: 所以,如果这个故事成立,爆炸式增长是绝对可能发生的,而且这个故事在哪一环会断掉,并不显然。这就是眼下硅谷非常流行的一种情景。它完全说得通。剩下的只是时间跨度问题:是像「AI 2027」那批人或者利奥波德·阿申布伦纳的《态势感知》所说的三年、五年,还是二十五年?某种意义上,如果增长真在爆炸、在加速,五年还是二十五年,都同样是把世界彻底改写。所以这是硅谷非常熟悉的一种情景,我认为它可信,也有其道理,但事情一定这么发展,绝无保证。
琼斯: 让我给各位另一个极端的情景:AI 不过是一项照常运转的技术。故事大概是这样。先看一张图。上过我课的人,这张图你们看过三十七遍了,抱歉,不过现在你们看到的是更新版,跟你们当年上课时相比变化可大了。
琼斯: 这是什么?这是美国的平均生活水平,人均实际收入,跨度一百五十年,纵轴取对数刻度。你看到的是,它从来没有离开过这条斜率为每年百分之二的直线太远。一百五十年里,美国的生活水平以每年百分之二的速度上升,上下略有出入而已。
琼斯: 特别有意思的地方在于,你回想一下这段时期里进入美国经济并扩散开来的那些变革性技术。1870 年,美国经济的电气化改造还只是托马斯·爱迪生眼里的一点微光,接下来五十年,这场改造完成了。内燃机、喷气式飞机、抗生素、真空管、晶体管、半导体、信息技术、互联网,所有这些绝对改变了生活水平的了不起的技术,而增长率始终是每年百分之二。
琼斯: 我认为这提出了一个大谜题。怎么可能同时成立:这些技术具有翻天覆地的变革性,而增长率仍旧是百分之二?答案,如果你想一想,其实在于反事实。我理解的技术运作方式是:在任何一个技术门类内部,创意会越来越难找。蒸汽机会把蒸汽用光。如果你只有蒸汽机,没有发现电力,增长就会放缓;如果你只有电力,没有发现内燃机和半导体,增长也会放缓。那条直线就会往下弯。而这些技术各自做的事情,是让百分之二的增长得以再延续五十年。
琼斯: 所以关于 AI 的那个所谓「悲观」情景是:也许它就是最新的一项变革性技术,让百分之二的增长再延续五十年。你可以看出,这两个极端有多么不同,而我认为两边都很有道理。
琼斯: 关于经济史的教训,我还要补一点,刚才的讨论里其实已经露出苗头了。研究蒸汽动力如何被电力取代、信息技术如何在经济中扩散的经济学家们反复强调:这类转型要以几十年计。从蒸汽动力换成电动机,你必须重新组织整个工厂。原来是一根主轴穿过厂房中央,现在你可以把电机装到任何地方。信息技术也一样,你需要一大堆互补性创新:发明电子表格、发明文字处理软件、发明数据库、发明 SQL。大量互补性创新要被整合进来,生产流程要被重新组织,这个过程以几十年计。
琼斯: 所以经济史给我们的教训是,别急着假定变革性技术会把那条曲线掰上去。它们掰弯的是「增长本会放缓」的那个走势,而且要花不少时间。这就是教训。
琼斯: 但问题还在。两种情景都有可信的成分,我们究竟会落在中间的哪一点,又该怎么思考这件事?这就是我过去一年半左右一直在想的问题。
琼斯: 我想出来的那个我觉得很有帮助的概念,是薄弱环节(weak links):一条链子的强度,取决于它最弱的那一环。把它用到商业上:一桩生意的成功,需要许许多多任务全部完成到位。你要发布新一代 iPhone,你得设计它,得采购全部零件,得把它造出来,还得保证每一处制造都落在极其严苛的公差之内。有一处不到位,整件事就垮了。造完之后,你还得想办法按时交付,每年秋天要送出上亿部 iPhone。你还得处理零售、广告等等等等。这些任务里但凡有一项掉链子,大量价值就会流失,至少在短期内如此。
琼斯: 这就是薄弱环节模型。挑战者号航天飞机爆炸,是因为一个二十五美元的橡胶密封圈失效了,一个小部件坏了。或者你想想 ASML 和台积电,那些制造芯片的机器复杂到不可思议,精度苛刻到不可思议,那里出一丁点差错,你的芯片就不能用。
琼斯: 这怎么帮我们思考那两种情景?回到链子。如果一条链子有二十环,你把其中十七环做得极其结实,这有帮助,但最终并不真正改变整条链子的强度,因为总还剩下三个最弱的环节。
琼斯: 我举一个我觉得特别有用的例子。你我口袋里都装着一台电脑,它的晶体管数量是七十年代同等设备的一亿倍。一亿倍。可我做研究的生产率并没有提高一亿倍。为什么?我的电脑求矩阵逆求得出神入化,但我得想清楚往矩阵里放什么数据,我得想清楚该问什么问题、该检验什么理论。这是薄弱环节问题。你可以在某一件事上强到离谱,但结果不是生产率提高一亿倍,也许只是两三倍。两三倍很好,但我被那些没有改变的薄弱环节卡住了。所以我认为这是关于世界如何运转的一个非常重要的洞见,它会帮我们判断自己身处两种情景之间的什么位置。
琼斯: 还有一点我要强调,待会儿会回来讲:薄弱环节是稀缺性的来源。经济学的一条关键教训是,稀缺才带来高回报。什么是稀缺要素?什么是薄弱环节?这是我们研究任何一种经济现象时都该问的问题。所以当我们回到「我们孩子的收入会怎样」这个问题时,想一想什么东西稀缺,我认为是个很有用的框架。
琼斯: 再看一张我很喜欢的图。上过我课的人可能还记得。经济学家痴迷于一个问题:GDP 归谁?谁拿到了报酬?GDP 中有多大份额付给劳动,有多大份额作为资本回报?结果是,七十五年里这个比例稳定得惊人:三分之二归劳动,三分之一归资本。
琼斯: 有意思的是,过去二十五年里,付给劳动的份额下降了约十个百分点,付给资本的份额上升了,经济学家为此着了魔,想搞清楚原因。我们有两套理论。一套是自动化,我马上回来讲;另一套是市场势力和集中度,也许大企业更大了,行使着更强的市场势力,能把更多 GDP 作为利润拿走,付给劳动的就少了。答案我们不知道,今天我也不打算回答。
琼斯: 我想把它引向另一个方向。三分之二付给劳动,三分之一付给资本,但你可以把劳动和资本各自拆开。付给劳动的那部分 GDP 里,有多少给了大学以上学历的人,多少给了大学以下学历的人?再看资本收入,多少是建筑物和构筑物的回报,多少是设备的回报?设备里面,又有多少是电脑的回报?
琼斯: 也就是说:GDP 中有多大份额是作为算力的回报支付出去的,这个比例随时间怎么变?结果是,只要你翻到对的那张表,这个数字在美国经济分析局和劳工统计局的网站上直接就能查到,只是你得挖一挖。它是什么样子?一方面,电脑无处不在;另一方面,价格在疯狂下跌。这是一个价格乘数量的问题,数量在涨,价格在跌,哪一边占上风?
琼斯: 数据在这里。九十年代互联网泡沫期间,作为电脑回报的 GDP 份额是上升的,在 2000 年见顶,略低于百分之四点五。而从 2000 年至今,它下降了三分之一,降到百分之三。电脑的确无处不在,但它拿到的 GDP 份额是更少而不是更多。价格下跌压过了数量增加。
琼斯: 这正是薄弱环节模型所预测的。电脑很充裕,它是这个经济里最充裕的东西;其余的一切,尤其是人,才是稀缺的。所以电脑的份额下降了。因此,当我们担心 AI 可能把一切自动化、担心我们所有人还能干什么的时候,这张图至少是需要纳入考虑的一件事:即便你口袋里的晶体管多了一亿倍,电脑拿到的 GDP 份额仍然是在减少,不是在增加。
琼斯: 那接下来做什么?我们写下一个模型来研究这两种情景。这个模型里,创意是长期增长的源泉,这是保罗·罗默拿诺贝尔奖的那套东西。模型里的产品生产函数和创意生产函数都包含薄弱环节,在我看来,一切东西的生产都包含薄弱环节。但这些薄弱环节会被逐一自动化掉。求矩阵逆从前是拿铅笔在纸上手算的,现在电脑做了;开车从前是手动的,现在在旧金山电脑替你开了,但愿不久之后全世界都如此。
琼斯: 而这个自动化过程在模型里是内生发生的:你发明更好的机器,你发明更快的电脑,这让你能自动化越来越多的东西。然后我们用回溯到五十年代的美国历史数据校准模型,再把它往前推演,问接下来会发生什么。
琼斯: 我接下来要给各位看的所有数字,你们都不该太当真,但看一看是有帮助的,可以据此思考背后起作用的经济力量是什么、它们可能有多重要。
琼斯: 在展示向前推演的模拟之前,让我先在这个模型里做一个很有意思的思想实验。我前面说过,阿莫代伊、Anthropic、OpenAI,所有人都预期我们很快就会把软件工程师自动化掉。那可以问:如果我们把所有软件工程师都自动化了,我们会富多少?这个问题在模型里可以问。我还要把问题稍微改一改:如果我们拥有的不是有限的软件,而是无限的软件,凡是用到软件的地方一律推到无穷大,我们会富多少?
琼斯: 记住电脑那个例子,我们有一亿倍的晶体管,却并没有富一亿倍,所以因为薄弱环节的存在,答案会小得多。小到什么程度?结果有一个非常简单优雅的公式:由于薄弱环节的存在,某项任务的投入变成无限,只会让 GDP 上升该任务在 GDP 中所占的份额。软件大约占 GDP 的百分之二。如果我们拥有无限的软件,我们会富百分之二。
琼斯: 为什么只有百分之二?因为其他所有薄弱环节还在卡着我们。这会让你意识到,把某一件事自动化得极其漂亮是不够的。你必须持续不断地去自动化那些薄弱环节。所以我们需要的是一个动态模型,而不只是这个静态结论,这也正是模型要做的事。
琼斯: 我们的模型包含了从前面两种情景里提炼出的两个关键成分。第一种情景给的是:自动化带来新创意,新创意带来更多自动化,更多自动化又带来更多新创意,这里有一个正反馈的飞轮,而正反馈天生要爆炸。另一方面,从「一切照常」的情景里得到的是薄弱环节:自动化了一部分而不是全部,链条因为薄弱环节仍然是弱的。
琼斯: 那么,把这两个成分都放进一个模型,用过去观察到的数据校准,再往前推演,会怎样?我要给各位看两组模拟。第一组里,AI 只是我们已经见过的历史自动化模式的延续。这一点很重要:我们已经把生产自动化了两百年。工业革命、纺织机、拖拉机和铁路,还有电脑。我们自动化了很久很久,而增长仍然是百分之二。但如果继续这样做下去,某些东西可能会变。
琼斯: 第二组情景则承认:AI 也许不同,也许它不只是历史模式的延续。我们这篇论文自身的一个薄弱环节,是我们没有一个从微观基础出发、能确切解释 AI 为何不同的模型。所以我们改用一个非常激进的校准。我们在历史数据里考察的部门之一是计算部门,摩尔定律快得惊人。那么,作为「AI 与过去断裂」的激进情景,我们假设整个经济从今天开始都按摩尔定律的速度被自动化:全经济范围内机器每年改进百分之十,然后自动化带来更多创意,更多创意带来更多自动化。
琼斯: 这会是一个非常激进的情景。我认为第二种情景过于激进,第一种情景大概又不够激进,真相也许在两者之间。
琼斯: 那我们看到了什么?每一组情景我会给三张图,图上线不少,但希望能讲清楚。第一张图是资本份额与劳动份额。记得我说三分之一归资本、三分之二归劳动吗?在我们的模拟里,付给资本的份额是多少?你可以看到,往后八十年它都是百分之三十八点二,然后从一百年后开始分岔。
琼斯: 分岔是怎么回事?我们有三个子情景。紫色那条说,人没有任何特殊之处,一切都在有限时间内被自动化。如果那样,付给资本的 GDP 份额趋向百分之百,付给劳动的趋向零。绿色那条几乎一样,但保留百分之三的任务归人类,永远无法被自动化,比如马格努斯·卡尔森下棋、莱奥·梅西踢球,总有些事我们要留给人。这种情况下,那百分之九十七你会做得无限好,而那百分之三由人来做的部分卡住了你。而且薄弱环节正是人:人的份额趋向百分之百,劳动份额趋向百分之百,资本份额趋向零。这跟我给各位看的电脑那个例子是一回事,付给电脑的份额在下降。
琼斯: 有意思的是,中间还有一条我称为基准的蓝色情景,它说资本份额其实保持稳定,一直是三分之一比三分之二。这条线之所以有趣,是因为你会问:在这个劳动始终拿到三分之二的中间情景里,自动化和经济增长会怎样?
琼斯: 这是随时间变化的增长率。基准是百分之二的增长,就像我给各位看的那张图。这里你能看到几件不同的事。第一,紫色那条,增长趋向无穷。完全自动化之下,如果机器什么都能做,包括生产创意,而且机器还在不断变好,增长就会爆炸。绿色那条说,不不不,我们被那百分之三只有人能做的事卡住了,所以最终的增长率受限于人类自身进步的速度。而我用手算矩阵求逆的水平,并不比我妈妈年轻时高出多少,所以那个速度相当慢。
琼斯: 而有意思的是基准那条蓝线,你仔细看,增长在加速。事实上即便在基准情景里,增长也会加速,并最终稳定在每年百分之五十。但要走到那一步得花几个世纪。所以基准情景下增长确实在加速,你能看见加速的过程:百分之二,二点三,二点六,三。但请看纵轴。这个加速慢得令人瞠目。到 2050 年,我们不是以百分之二增长,而是以百分之二点三增长。
琼斯: 这是一个最终会爆炸的模型,但它要花很长时间。为什么?因为薄弱环节。这又是电脑那个例子:我们有一亿倍的晶体管,可我们还是被人类仍然必须去做的所有那些事情限制住了。
琼斯: 我也可以把它画成水平值。刚才那张是增长率,这张是人均收入的水平。记住那条百分之二的线,现在是图上橙色的虚线,上面标的数字是你相对那条橙线富了多少,也就是相对于增长不曾加速的情形。你看到,到 2050 年我们富了百分之四,到 2075 年富了百分之十五。所以增长在加速,甚至在爆炸,但因为薄弱环节,这场爆炸是慢的。
琼斯: 这几张图上还有一件我觉得很有意思的事。注意那三条不同的情景,就未来而言差别巨大:两百年后,是绿色还是紫色,世界完全不同。然而在接下来的七十五年里,你几乎无法分辨自己身处哪一种情景。
琼斯: 现在你能明白我为什么想要第二组情景了:因为增长虽然爆炸,却要花一百年。你可能会说,你对 AI 太保守了,AI 不只是过去两百年那种自动化的延续。也许它就是,但看到这个结果,你会想问:如果不是呢?
琼斯: 于是下一组情景我们假设,AI 从今天起就让摩尔定律遍及一切。不只是计算部门有摩尔定律,而是整个经济的机器每年改进百分之十,而不是我们为总体经济校准出来的基准数字百分之三。
琼斯: 资本份额和劳动份额的图看起来一样。你可能会说,这不是同一张图吗?请看横轴,年份变了。
琼斯: 现在看增长率,这就不一样了。紫线,甚至蓝线,增长都在爆炸。到 2050 年,我们已经走得很远,年增长率超过百分之二十五。而且哪怕在今天,这套情景是从 2020 年起算的,如果今天摩尔定律遍及全经济,经济就不是以百分之二增长,而是百分之四点七。过去六年我们显然没做到这一点,所以这是这个例子的另一个版本:它太激进了。
琼斯: 但我从这里带走的东西是这个:增长在 2040 年前后会走到百分之七和百分之十三。这是一场来得相对快的爆炸。可即便如此,相对于「AI 2027」那批人或者那些认为四年内就会发生的硅谷人士,答案仍然是否定的,这场爆炸要到 2060 年才算完整走完。哪怕在这个激进到不可思议的情景里,哪怕 2030 年我们就比没有加速增长时富了百分之五十,这场爆炸也要花三十年。
琼斯: 为什么?还是薄弱环节。所以我认为薄弱环节这个现象确实在大幅拖慢事情,这是我从这组情景里得到的一个教训。
琼斯: 这里有两个结论。我这辈子的学术生涯是靠我给各位看的那条直线吃饭的。我之所以在斯坦福,之所以拿到终身教职,全靠那一张图。那张图说的是:赌增长不会变,一百五十年每年百分之二,也许接下来三十年还是如此。然而我现在告诉各位,在一个有 AI 的世界里,我跑的所有情景都说增长会爆炸,就在接下来的五十年到一百年里。
琼斯: 至于长期会怎样,取决于那些细节,比如梅西那个例子。增长会爆炸,但这场爆炸远不如你听到「爆炸」这个词时所设想的那么快。这就是薄弱环节的作用。
琼斯: 顺带注意一点:既然有薄弱环节,它为什么最终还会爆炸?因为我们最终把所有薄弱环节都自动化掉了,然后飞轮效应真正接管一切,那就是爆炸的来源。
琼斯: 最后十分钟我想再讲几件事。至少工作和不平等这一块,我的孩子们每天都问我,我每次演讲也都被问到。这方面我远不如增长在行,但我琢磨了一阵子,也读了别人的专业成果,至少可以分享一些看法。
琼斯: 诺贝尔奖得主、深度神经网络的发明人杰弗里·辛顿,2016 年在多伦多的一次会议上说过一句话,我当时就在现场。他说:我们应该停止培养放射科医生。他说,从 2016 年往后数五年,放射科医生就没有工作了,因为 AI 会比他们强。
琼斯: 他说 AI 会比放射科医生强,这一点并没有错。今天在很多维度上确实如此,但不是在每一个维度上。什么意思?《Works in Progress》杂志上有一篇很好的文章,用数据说明:今天的放射科医生比 2016 年更多,薪酬也比 2016 年更高。
琼斯: 为什么?我认为还是薄弱环节。经济学家提出的那个洞见是:一份工作是一捆任务。你的工作里有一百件不同的事要做。当 AI 自动化了其中七十五件,剩下的薄弱环节就变成了稀缺的东西,从而获得高回报。而自动化本身,比如我做研究时有电脑可用,让我作为研究者更有生产力,所以我的工资上升。同样,放射科医生能咨询一个帮他读片、帮他发现癌症和其他问题的 AI 模型,这让他更有价值、更有生产力,而他仍然被需要,需要他参与手术会诊,需要他跟其他医生商量,需要他去复核最难的片子。所以自动化掉百分之七十五的任务,是可以让工资上涨的。
琼斯: 但另一方面,如果你打赌十年后还有 Uber 司机,我认为很有可能没有了。当然,等十年后我们仍然有 Uber 司机的时候,我听起来就会跟辛顿一模一样。不过 Waymo 这样的自动驾驶汽车确实在把 Uber 司机做的每一件事都自动化掉。
琼斯: 而这需要时间,需要多少时间其实很有意思。第一次自动驾驶汽车比赛是 DARPA 在 2004 年办的,卡内基梅隆、斯坦福和其他队伍都参加了,没有人赢,没有一支队伍跑完全程。2005 年,斯坦福赢了,塞巴斯蒂安·特龙。那是 2005 年。二十多年过去了,是的,在旧金山你可以坐上一辆自动驾驶汽车,但在湾区之外它们非常罕见,就算在湾区,也谈不上常见。为什么?薄弱环节的视角告诉你:事情花的时间比你以为的长得多。
琼斯: 说说不平等和有意义的工作。历史上,劳动是人们用来换取消费的主要资产。当机器把事情做得比你好,你可能会担心自己劳动的价值,担心还能不能拿它换到消费。这是一个正当的担忧。
琼斯: 让我给一个乐观的说法。那个 AI 改变一切的世界,正如我们在模拟里看到的,是一个 GDP 高得惊人的世界。我们在那里过的是富足的日子,可分的东西很多。富裕国家本来就在做大量再分配。我很想研究的一个问题是:假设我们把美国现有的再分配项目原样保留,然后把模型跑起来,最底层百分之十的人,他们的消费会怎样?不是工资,是消费。我认为会上升。所以是有机会让所有人都变得更好的。
琼斯: 经济学家最爱「让所有人都更好」这种说法,我们谈自由贸易时也是这么讲的,然后就来了中国冲击,北卡罗来纳的人眼看着工作消失,社区被掏空。所以好结果不会自动发生。但那至少是一个富足的世界,一个存在各种可能性的世界。
琼斯: 我还要说一件事。我现在一直在用 AI 模型帮我做研究,GPT 5.2 Pro 在数学上已经和我不相上下,5.5 Pro 在数学上已经远远强过我。我在想,还要多久,AI 写的增长论文就会比我写的好?到那时我干什么去?我的人生意义,一半来自家庭,家庭很好;另一半来自搭建增长模型,而 AI 将比我做得更好。
琼斯: 我们会怎么办?我常拿退休来类比。我们看待退休的人,不会说「哦,他们再也没有那份有意义的伟大工作了」。他们看上去挺快乐的。他们生活在富足之中,去坐游轮,去见朋友,去跳舞。夏令营是我喜欢的另一个类比。他们去做陶器。我的版本大概是做做陶器、唱唱歌,跟研究增长的老朋友们聚一聚,让 AI 给我们讲讲最新的增长模型。我想那就是我的夏令营。
琼斯: 不过我还要说一件事,因为这跟你们到目前为止可能从演讲里听出的印象相反:我不是一个纯粹的乐观主义者。我甚至可以说,我对我们的未来非常紧张。为什么?因为灾难性风险。我想谈一谈,我认为非常重要的是,把这件事诚实地、公开地讨论清楚,不要带上那种常常被附加其上的轻蔑与嘲讽。这是我们绝对应该认真对待的事。
琼斯: 人们通常谈两个版本:坏人版本和外星智能版本。坏人版本我想每个人都很容易理解,也都相信它很可能成为问题。假设某个坏人,某个在朝鲜或者别的什么地方的黑客,决定要作恶,而他手上有一个越狱版的 GPT-8 或者 Opus 7。所有这些模型在发布当天就会被越狱。他去问这个神谕,而 GPT-8、Opus 7 这一级的模型将能做到最聪明的人类能做的任何事。如果存在一种病毒,比埃博拉更致命,并且要三个月才显现症状,那么 AI 会把它设计出来。
琼斯: 我们至今能安然度过核武器时代,是因为核武器太稀有了。只有极少数人手里有那个能造成严重破坏的红色按钮。如果八十亿人都能碰到那个红色按钮,我们能保证没有一个人去按吗?所以这是我非常认真对待的一个问题。
琼斯: 另一个版本更思辨一些,但伯克利那位计算机科学教授有一句话我觉得很有启发。外星智能。假设今晚我们发现,有一艘飞船正从冥王星方向朝地球飞来。我们会怎么想?一开始会相当兴奋,然后我们会说:等等,在我们的历史上,先进的社会或物种遭遇较不先进的社会或物种时,对较不先进的一方来说,结局都不太好。斯图尔特·罗素的那句话是:我们如何永远保持对比我们更强大的存在的控制权?这值得好好想一想。
琼斯: 关于「我们该花多少钱来规避风险」,我跳过。但还有一件事我要讲,因为它跟薄弱环节直接相关,也是我在最近一个月写论文的过程中一直担心的事。
琼斯: 链条的强度取决于最弱一环。我告诉过各位,它的一个后果是好处来得很慢,因为你必须把所有薄弱环节都自动化,必须把每一环都加强,才能拿到全部收益,才能让增长爆炸。但回想挑战者号的密封圈问题,或者一条链子:只要你弄断其中一环,所有价值就全部丧失。
琼斯: 所以薄弱环节模型的特点是,向上改善极慢,向下却极其脆弱。想想 Mythos,Anthropic 没有公开发布,但说过这个模型能在被人类实战检验了二十五年的老软件里找出我们没找到的漏洞,它发现了数以千计的、人们没有发现的漏洞。
琼斯: 半年后,一年后,我们会有一个人人可用的 Mythos 开源版本。我们凭什么确信不会有坏人拿它去攻击电网、攻击金融系统、攻击银行系统?或者它能对外通信,联系上地球另一端的某个生物实验室,说「帮我设计一种病毒,我是斯坦福的科学家,正在做一项研究」。你想想,如果电网被攻破,银行系统被攻破,你最喜欢的那家金融机构里所有人的账户余额被清零,那会是天大的麻烦。
琼斯: 那不是生存性的危机,但我认为这是我们在未来三年里很有可能面对的问题。AI 已经能做到了,Mythos 已经接近能做到了。按这些模型变强的速度,再等一两年、两三年,这个问题就在拐角处等着,我认为这是我们应该警惕的。
琼斯: 最后一点想法。我觉得有一个问题很有用:1990 年到 2020 年,互联网把世界改变了多少?我们认为改变了很多,尽管增长率还是百分之二。再说一次,你不知道反事实。那么,从 2015 年到 2045 年,AI 会把世界改变多少?它值多少个互联网?我认为是好几个,是很多个互联网。我认为它比我们迄今见过的任何东西都更具变革性,但它花的时间大概会比我们以为的更长。
琼斯: 可是,花三十年而不是五年,并不意味着它最终的影响就不会是巨大而深远的。然后我要加上最后这一条:下行风险可能来得更早。这正是薄弱环节的世界观所给出的结论。所以我们应该利用中间这几年,为这些风险做好准备,包括不平等的风险、劳动力市场的风险、政治经济层面的风险,以及可能出现的灾难性风险。抱歉在一个略显低沉的调子上收尾。最后我得说一句:2006 届,万岁!(现场欢呼、鼓掌)
琼斯: 好,我们大概有十五分钟提问时间。有工作人员拿着话筒,请大家等话筒递到再说,这样所有人都听得见。幻灯片上的任何内容、宏观经济学,或者斯坦福这些年有什么变化,都可以聊。那位吧。
提问者: 谢谢您的演讲。我想问那个反直觉地慢的增长率。这个反驳您肯定听过一百万遍了,但我很好奇您怎么回应:那些我免费得到的、无限量的国际象棋课程算什么?它们没有被货币化。那里面是有价值的,可我认为它没有体现在 GDP 里,而这一块往后只会成倍增加。所以即便 GDP 增长率看起来很慢,价值其实很多。我们怎么捕捉这部分?
琼斯: 这个问题在历史上同样可以问。GDP 肯定是测不准的,但它一向测不准。你发明了抗生素,那怎么被计入?二十世纪预期寿命的提升怎么被计入?那是巨大的收益。前几年得诺贝尔奖的比尔·诺德豪斯问过这个问题。他说:假设两样东西你只能要一样,你可以要二十世纪的 GDP 增长,或者要预期寿命的提升,但不能两样都要。预期寿命从五十岁涨到了七十七岁。他做了调查,一半人选前者,一半人选后者。这说明,那些远未被 GDP 充分反映的预期寿命收益,其重要性与 GDP 的收益相当。
琼斯: 所以我完全同意你的看法,很多东西测不准。有意思的问题是,测不准的程度会不会越来越大。我对「会」这个答案持开放态度。我给各位看的模拟大体上是把测量方式当作不变的,这的确是事情可能比模拟更快的一个理由。我觉得这是完全站得住的一点,谢谢你。我看那边好像有个问题。哦,是这边,抱歉。
提问者: 我有一个问题,可能不在您演讲的范围内,是关于分配和短期效应的,短期指未来十年、二十年。如果 AI 到来,把某些任务自动化,并彻底消灭对这些任务的需求,经济中很大一块会几乎立刻死掉。而在我们走到那条五十年到一百年的增长轨道之前,这件事本身就是一次冲击,它可能反过来干扰 AI 增长或者任何增长。您有模拟这种情形的情景吗?
琼斯: 没有。我认为这是一个极其重要的问题。我有那两页讲劳动力市场影响的幻灯片,也提了一句,我不是回答这个问题的合适人选。不过我们正在写的后续论文,做的恰恰就是这个问题。所以过一两年再来问我,希望那时我能给出更好的答案。
琼斯: 我可以说的是,在我思考这个问题时,Waymo 的例子和放射科医生的例子对我很有帮助。再说一次,杰弗里·辛顿,深度学习、深度神经网络领域的世界级专家,告诉你我们将不再需要放射科医生,结果放射科医生更多了,薪酬也更高了。又比如自动驾驶,2012 年前后,你回去翻《华尔街日报》,他们说自动驾驶汽车已经来了,五年内没人再需要开车。而我们离那一天还远得很。为什么?因为薄弱环节,也因为历史的教训:所有这些变化花的时间都比你以为的长得多。
琼斯: 我相信最先被自动化的会是软件工程。问问自己:你觉得十年后软件工程师的数量会跟今天一样多吗?说「不会」很容易。但让我给一个说「会」的理由。AI 将改变整个世界,而把 AI 整合进世界上每一家企业,是一个漫长拖沓的过程,需要大量软件工程师。你或许会说,总有一天 AI 自己就能干这活儿。但你问问自己:你是公司的 CEO,是 CIO,你会直接让 Anthropic 按下按钮,还是希望有几个你能面对面交谈的人在那里,一步一步慢慢来,确保它跟你宝贵的数据一起正常工作?我认为软件工程师会一直在,而这还是最先被自动化的那一行。
琼斯: 所以我从「情景相对缓慢」这个结论里带走的一点是,我们也许比自以为的更有时间去避开那些我们非常担心的情景。但这只是一个非常初步的想法,我认为这确实是个重要的问题。
提问者: 我想就放射科医生和 Uber 司机这一对再深挖一下。如果你看接受影像检查的人数,看更主动的预防性医疗,过去五十年是爆炸式增长的。所以放射科医生人数和收入上升的一个可能原因是,变异性变多了:技师更多了,他们用各种不同的方式把病人送进机器,从而增加了变异性,能看见的东西也更多了。代码则很不一样。而我想说的是,如果在体位摆放上实现自动化,在成像上引入机器学习,那个薄弱环节是可能被大大加强的。所以这一切在某种程度上让我想起冯·诺依曼的大象:我们究竟到哪一步才会承认,用五个参数就能让大象的尾巴摆起来?
琼斯: 是的,这些都是非常好的观点,你说的我都不反对。我确实认为,事情花的时间会比我们基于 Waymo 的预期更长。换个角度想。我认为总有一天我们会有机器人来教幼儿园的孩子。为什么这么说?你可能会说,我绝不会让机器人来教我家的孩子。但请记住,一位普通的幼儿园老师,远不如历史上最好的那位幼儿园老师。一旦我们发明出可以被训练成史上最好幼儿园老师、甚至比那还好的机器人,我们就能把它复制一百万份,让每一间幼儿园教室都拥有这样一个老师。
琼斯: 这件事会发生,但会在十年内发生吗?绝无可能。这就是 Waymo 那个问题再往深里挖一层。我们会让机器人去照看小朋友,比如我家的小奥黛丽吗?不会,因为我们要确保它百分之十万地安全。所以我确实认为这些事情要花时间。
提问者: 再追问一句。如果你看台湾经济或者韩国经济的增长,信息技术产出在这些经济体里占比很大。我们把半导体芯片的制造外包给了这些经济体,然后用服务业顶上,这些年主要是医疗和金融服务。而这两块恰恰是最容易受 AI 威胁的领域。那么,您的模型怎么处理「用服务业替代制造业」这件事以及其中的薄弱环节?
琼斯: 从历史上看,我认为制造业是相对容易自动化的那一类,而幼儿园老师,还有我父亲患阿尔茨海默病的夜里握着他手的那位护士,这些事情不一样。总有一天我们会有机器人来做,但也许不是未来二十年。在我看来,服务业才像是那个薄弱环节。我看这边。抱歉,我给自己定的规矩是找穿红衣服的人。
提问者: 大家都在谈 K 形经济。我们当然也都听说 Meta 给顶尖软件工程师或者 AI 工程师开出一亿美元。至少在美国,眼下的感觉非常像镀金时代。所以我的问题是:在资本主义制度下,有什么东西能阻止资本收入份额的超级集中,也就是形成一种寡头格局,一个打了激素的大科技集团把经济中越来越大的部分收入囊中?
琼斯: 这完全是一个值得担心的正当问题。我没有答案,但我可以说几件我在这条线上想过的事。第一,我们在 AI 上看到的情况跟历史预期相反。从前我们以为制造业会最先被自动化,低技能工人会被替代,而我们这些搞创意的人怎么可能被替代呢?结果 ChatGPT 做起创意来轻而易举。我会远远早于电工和水管工被替代掉。
琼斯: 想想这对不平等意味着什么。这其实是件好事。电工的工资在疯涨,而我的工资嘛,我觉得其实大概不会跌,但愿如此。总之短期内它对不平等可能是有利的。
琼斯: 第二点。那些被 AI 取代的高技能认知劳动者,医生、律师、经济学家、教授,我们都持有标普 500 的份额。如果你在股市里有股票,你就分到了一部分资本收入。所以我认为持有股票的人是没问题的,要担心的是那些不持有股票的人。但我还要说,政府在 GDP 里也持有大量份额,靠的是税收制度。政府征税再转移支付,这让它能帮助那些不那么幸运的人。我们已经在这么做了,也许做得不够,但那至少托住了一个底,而这个底是有希望被抬高的。
琼斯: 不过这是个政治经济学问题,如果你要说「查德,你对政治经济学一无所知,看看过去二十年吧」,那也是公道话。所以这确实是个复杂的问题。好,请这边。
提问者: 我很喜欢您那个框架,薄弱环节是稀缺性的来源,因此也是高回报的可能所在。那么在这个框架下,您会给年轻一代,以及给我们,什么建议,好去挣到那份高回报?
琼斯: 我确实认为,管理,也就是我们在商学院里教的那些东西,会是十年、十五年、二十年后世界上仍然被看重的东西之一。为什么?我认为我们不会愿意把权力交给 AI,让它在无人监督的情况下做所有决定。管理者会是那些去咨询 AI、然后自己拍板的人。他们将在某种意义上成为稀缺而极其宝贵的那一环。
琼斯: 所以我真心觉得,我两年后就会被自动化,而各位还能安全十五年。十五年之后就说不好了。不过持有标普 500 的份额,我想你们会没事的。大概就是我的想法。请说。
提问者: 再次感谢您的演讲,我觉得很棒。如果速度取决于你有多愿意去把薄弱环节做强,那不同社会是不是就会以不同速度前进?如果有人愿意跑得快得多,会不会造成巨大的差距?
琼斯: 这是一个极好的问题,而我坦白说,这方面我想得比劳动力市场和不平等那个问题还要少得多。我要说的是,思考劳动力市场与不平等问题的经济学家很多,只是我碰巧不在其中,那还不是我的关注点。但几乎没有人在思考:这在全球经济里会是什么样子?
琼斯: 我的看法是,那些拥有软件工程师、正在创造神经网络背后的那些想法、拥有 OpenAI 和 Anthropic 的经济体,还有持有这些公司股份的我们,无论如何,在一个富足的世界里都会没事。但那些远为贫困的发展中国家呢?它们对标普 500 没有任何索取权,内部不平等极其严重,其中最不幸的那批人处境糟糕透顶。
琼斯: 这会怎么演变,我不知道。美国从富人向穷人做再分配,我们已经做了一些,也许还不够,但美国对世界各地的穷人并没有做多少再分配,除了通过我们发明出来的那些想法。我们发明的想法是能帮上忙的。但我认为,AI 对全球经济的影响是个引人入胜的题目,研究得远远不够。我昨天刚存了一篇文章,打算明天在飞机上读,可那是我能找到的唯一一篇。请说。
提问者: 首先,您大概两年内是不会被取代的。但就拿您举的放射科医生的例子来说。我很多朋友,包括我自己,其实因为 AI 变得更忙了。它们接手了比较容易的工作,我们做更难的工作,而这份工作是变容易了还是变难了不好说。所以我在想,快进若干年,会有一小群人变得更忙、做更难的事,而如您所说,他们拿更高的报酬;同时会有大得多的一群人,大概可以整天放暑假。到那个时候,社会会怎么看待财富分配、资源分配?您想过这个问题吗?
琼斯: 想过。我唯一的答案并不令人满意,那就是:至少那会是一个富足的世界。在一个增长曲线长成那样的富足世界里,我们有足够的收入养出很多亿万富翁,也让我们当中境况最差的人成为百万富翁。有限时间内的无限收入,创造出的正是可供再分配的巨量资源。沃伦·巴菲特和比尔·盖茨捐出了大量资源,税收系统转移了大量资源。所以事情完全有可能发展得很好。这不等于它必然如此,但我确实认为,富足的世界是一个值得指望的好世界。我们只需要解开再分配这道微妙而复杂的题。在这一点上我比较乐观。就叫我天真的乐观派好了。请。
主持人: 这将是最后一个问题。
桑塔纳: 哇,好。我叫罗伯托·桑塔纳,2011 届。
现场: (欢呼)
桑塔纳: 我在 Google DeepMind 工作。我想把您展示的模型跟我们正在跑的自然实验对上,可它们对不上。我对您这个模型的困惑在于,它假定那个约束,那个薄弱环节的约束,是人;假定 AI 无法接管或者改进那些任务,比如协调、判断、品味,我听过各种各样的说法。所以在我看来,「渐进」这个结论,本身是建立在「AI 必然是渐进的」这个假设之上的。这就是我想弄明白的那一块。
琼斯: 是的,这完全公道。而在某种意义上,你的反应恰恰就是这篇论文的用意所在。因为我是带着这个心态进去的:我人在硅谷,我每天听到、看到、读到的都是「世界明天就变了」,我对此完全持开放态度。我写下模型,用历史数据校准它。我还没有讲我是怎么校准的,也就是这些薄弱环节到底有多强。这显然是这里的关键问题,今天没时间展开了。你完全可以主张,我们把它校准得太强了。
琼斯: 但即便如此,五十年这个量级仍然是很长的时间。我在判断「这可信吗,还是我那些硅谷朋友画的三年就实现的线更可信」的时候,喜欢用的例子是 Waymo,我觉得它非常有说服力。正如我前面说的,2012 年那些做自动驾驶的人就在讲,这将是一个已解决的问题。想想解决自动驾驶该有多容易:你只需要决定方向盘往左打还是往右打,踩油门还是踩刹车,就这些。我们有世界上所有能想到的传感器,有算数比我强得多的机器学习算法。看上去是个简单问题,结果却不是个简单问题。为什么?因为到处都是瓶颈,都是薄弱环节。物理世界是复杂的。
琼斯: 至于认知层面,我非常愿意接受它会快得多。但要让那张增长图真正跑起来,想想电脑:电脑的要素份额是下降的。你必须把物理世界里其他所有事情都自动化掉,我认为这才是那个「慢」背后的直觉。
琼斯: 但这到底会在二十年内发生,还是一百年内发生?我不知道。我相当确定它不会在五年内发生,基于薄弱环节这套论证。好,非常感谢各位,祝你们校友重聚愉快。(掌声)
斯坦福经济学家 Chad Jones 用"弱链接"(weak links)模型论证:AI 最终会让经济增长爆发式加速,但因为生产链上未被自动化的瓶颈始终存在,这一爆发会比硅谷预期慢得多(30–100 年而非 3–5 年),而下行风险(网络攻击、生物武器等灾难性风险)却可能更早到来。

微信公众号