Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games | Lex Fridman Podcast #475

编者按： 本文整理自《Lex Fridman Podcast》第 475 期，主持人莱克斯·弗里德曼与谷歌 DeepMind 联合创始人兼首席执行官、诺贝尔化学奖得主戴密斯·哈萨比斯的长谈，这是哈萨比斯第二次做客该节目。两人从诺奖演讲中那个"离经叛道"的猜想谈起，一路穿过 P=NP、Veo 3 的物理直觉、开放世界游戏、虚拟细胞、生命起源、通用人工智能的时间表、能源与丰裕、Gemini 的逆转翻盘，直到冯·诺依曼与理性之外的人文维度。全文依据现场录音编译整理，仅删去口语枝节、寒暄与重复，论证、例子与语气一律保留。文中括注的英文为关键术语原文。

开场

主持人： 接下来这场对话的主角是戴密斯·哈萨比斯，这是他第二次来到这个播客。他执掌谷歌 DeepMind，如今也是诺贝尔奖得主。在今天这个世界上，他是最杰出、也最耐人寻味的头脑之一，毕生都在理解智能、建造智能，并且探索宇宙最大的那些谜团。对我来说，这次对谈是莫大的荣幸，也是纯粹的快乐。

主持人： 在你的诺贝尔奖演讲里，你提出了一个我觉得极其有意思的猜想，原话是："任何能够在自然中被生成或被发现的模式，都可以被一个经典学习算法高效地发现并建模。"这里面可能包含哪些类型的系统？生物、化学、物理，也许还有宇宙学？神经科学？我们在谈的到底是什么？

诺奖猜想

哈萨比斯： 是这样。首先我得说，诺奖演讲有个传统，你多少应该讲点带挑衅意味的东西，我想延续这个传统。我在那里想说的是：如果你退后一步，看看我们做过的所有工作，尤其是 Alpha 系列项目，比如 AlphaGo，比如 AlphaFold，它们究竟是什么？它们其实是在为组合意义上维度极高的空间建模。如果你想用穷举去求解，去找出围棋里最好的一手，或者算出蛋白质的精确形状，那么把所有可能性一一列举出来，宇宙的寿命都不够用。

哈萨比斯： 所以你必须用聪明得多的办法。我们在这两件事上做的都是同一件事：给那个环境建一个模型，让模型以聪明的方式引导搜索，问题就变得可解了。你再想想蛋白质折叠，这显然是个自然系统，凭什么它可解？物理是怎么做到的？蛋白质在我们身体里毫秒之间就折叠好了。也就是说，物理已经解决了这个我们如今在计算上也解决了的问题。我认为它之所以可能，是因为自然系统本身带有结构，而这些结构是被演化过程塑造出来的。如果这一点成立，那么你也许就能把那个结构学出来。

主持人： 这个视角非常有意思，你其实已经点到了。粗糙地说就是：凡是能被演化出来的东西，都能被高效建模。你觉得这话有几分道理？

哈萨比斯： 我有时候把它叫做"最稳者生存"。当然，生命体有演化。但你想想地质时间尺度，山脉的形态是被风化过程在几千几万年里雕出来的。你甚至可以再推到宇宙尺度上：行星的轨道，小行星的形状，这些东西都经历过某种一遍又一遍作用于它们的筛选过程。如果这成立，那就应该存在某种模式可以被反向学出来，存在某种流形（manifold），帮助你搜索到正确的解、正确的形状，并且让你高效地对它做出预测。因为它不是随机的模式。

哈萨比斯： 对于人造的东西，或者像大数分解这种抽象的东西，可能就不成立了。除非数的空间里本身有模式，这也未必没有，但如果没有，如果它是均匀的，那就没有模式可学，没有模型能帮你搜索，你只能穷举。那种情况下你也许就需要量子计算机之类的东西。但自然界中我们真正关心的绝大多数东西不是那样的。它们的结构是因为某个原因演化出来的，并且在时间中存活了下来。如果这成立，我认为神经网络就有可能把它学到。

主持人： 就好像自然本身在做一个搜索过程。而最迷人的地方在于，这个搜索过程造出来的系统，恰好是可以被高效建模的。

哈萨比斯： 正是如此。它们之所以能被高效地重新发现、重新还原，是因为自然不是随机的。我们周围看到的一切，包括那些更稳定的元素，全都经受过某种选择压力。

可学习系统的新类

主持人： 你也是理论计算机科学和复杂性理论的爱好者。你觉得我们有没有可能提出一个复杂性类，类似"复杂性动物园"里的一个新条目，比如可学习的自然系统类（LNS, Learnable Natural Systems）？这就是戴密斯·哈萨比斯的新类：那些真的能被经典系统以这种方式学会的自然系统，可以被高效建模的系统。

哈萨比斯： 我一直对 P 是否等于 NP 这个问题着迷，也一直着迷于什么东西可以被经典系统、被非量子系统，说到底就是被图灵机所建模。而这恰恰是我现在在做的事，在为数不多的业余时间里，和几位同事一起琢磨：是不是应该有一个新的类，一类可以被这种神经网络过程求解的问题，并且能对应到这些自然系统上，也就是那些在物理中存在、并且具有结构的东西。我觉得这会是一个很有意思的新思路。

哈萨比斯： 这也和我看待物理的整体方式一致：我认为信息是第一位的。信息是宇宙最基本的单位，比能量和物质更基本。我认为三者可以互相转换，但我把宇宙理解成一个信息系统。

主持人： 那么，当你把宇宙看成一个信息系统时，P 是否等于 NP 就变成了一个物理问题。

哈萨比斯： 没错。

主持人： 而且是一个可能帮我们解开整件事的问题。

哈萨比斯： 我认为如果你把物理看作信息性的，那这就是最根本的问题之一。它的答案一定会带来极大的启示。

主持人： 说得更具体一点，回到 P 和 NP。我们现在讲的这些听上去有点疯，但当年克里斯蒂安·安芬森的诺奖致辞里那句有争议的话，听上去也很疯，后来你和约翰·江珀真的把这个问题解了，还拿了诺贝尔奖。所以我就盯着 P=NP 问：你觉得我们谈的这件事里，有没有可能被严格证明出某种结论，也就是说，如果你能预先花多项式时间甚至常数时间的算力，把一个巨大的模型构造出来，那么你就能在理论计算机科学的意义上解决其中某些极难的问题？

哈萨比斯： 我认为确实有一大类问题可以按这个思路来表述，就像我们做 AlphaGo 和 AlphaFold 那样：你先给系统的动力学、系统的性质、你试图理解的那个环境建模，然后对解的搜索，或者对下一步的预测，就变得高效了，基本上是多项式时间，因此可以被经典系统处理。神经网络就是经典系统，它跑在普通计算机上，实质上就是图灵机。

哈萨比斯： 我认为最有意思的问题之一就是：这个范式到底能走多远？整个 AI 界其实已经证明了，经典系统、图灵机能走得比我们过去以为的远得多。它们能做到给蛋白质结构建模，能把围棋下到超过世界冠军的水平。十年、二十年前，很多人会觉得那还有几十年，或者觉得要做蛋白质折叠这种事必须依靠某种量子机器、量子系统。所以我觉得，所谓经典系统能做什么，我们连表皮都还没刮开。而通用人工智能（AGI），一个神经网络系统叠着神经网络系统、最终跑在经典计算机之上的东西，将是这件事的终极表达。这类系统的边界在哪儿、它能做什么，是个极有意思的问题，也直接触及 P=NP。

主持人： 那你猜什么东西会落在这个范围之外？也许是涌现现象？比如元胞自动机，有些规则极其简单，却涌现出复杂性。

哈萨比斯： 我觉得那类系统正好在边界上。大多数涌现系统，元胞自动机之类的，应该可以被经典系统建模，你只要做一次前向模拟，效率大概也够用。当然还有混沌系统的问题，初始条件极其关键，然后你会到达某个与初值不再相关的终态。那类东西可能就很难建模。所以这些都是开放问题。

哈萨比斯： 但当你退一步看我们用这些系统解决过的问题，再看 Veo 3 这样的东西在视频生成里对物理、对光照的渲染，那些都是物理里非常核心、非常基本的东西，这挺有意思的。在我看来，它在告诉我们某种关于宇宙如何被组织起来的、相当根本的东西。某种意义上，这就是我想建造 AGI 的原因：让它帮我们这些科学家回答 P=NP 这样的问题。

主持人： 我觉得我们大概会不断被"什么东西可以被经典计算机建模"这件事惊到。AlphaFold 3 在相互作用这一侧就很让人意外，你居然能在那个方向上取得进展。AlphaGenome 也让人意外，你居然能把遗传密码映射到功能上。那简直就是在跟涌现现象打交道，组合可能性多到吓人，然后你居然能找到那个可以被高效建模的内核。

哈萨比斯： 是的，因为其中有结构，有某种地形，可能是能量地形，总之有个梯度可以顺着走。而神经网络最擅长的就是顺着梯度走。所以只要有梯度可循，只要你的目标函数设定正确，你就不必去正面硬扛那一整团复杂性。而几十年来，我们看待这些问题的方式也许是天真了：你一旦把所有可能性列出来，它看起来完全不可解。这样的问题太多了。蛋白质结构有大约 10 的 300 次方种可能，围棋局面有 10 的 170 次方种，全都远远超过宇宙中的原子数。那怎么可能找得到正解、预测得了下一步？但结果是可以的。而且现实中的自然本来就在做这件事，蛋白质确实会折叠。这给了你信心：如果我们真的理解物理是怎么做到的，并且能够模仿它、建模它，那么在我们的经典系统上它就应该是可行的。这基本上就是那个猜想的意思。

流体与物理直觉

主持人： 当然还有非线性动力系统，高度非线性的动力系统，一切和流体有关的东西。我最近和陶哲轩聊过，他在数学上正面硬碰那些带有奇点、会让数学崩掉的系统。对我们人类来说，要对高度非线性的动力系统做出任何干净利落的预测都非常难。不过按你的思路，我们可能会被经典学习系统在流体上的表现狠狠惊到。

哈萨比斯： 完全正确。流体动力学，纳维·斯托克斯方程（Navier-Stokes equations），传统上被认为是在经典系统上非常非常难、几乎不可解的问题。它们要吃掉巨量算力，天气预报系统之类的东西全都涉及流体动力学计算。但你再看看 Veo，我们的视频生成模型，它把液体建模得相当好，好得出人意料，还有材质、镜面高光。我特别喜欢有人生成的那些视频：透明液体被送进液压机，然后被挤出来。我早年做游戏的时候写过物理引擎和图形引擎，我太清楚要写出能做到这一点的程序有多么折磨人。可这些系统不知怎么就做到了，它们是靠看 YouTube 视频反向工程出来的。

哈萨比斯： 所以大概发生的事情是，它提取出了这些材料行为背后的某种底层结构。也许如果我们真的完全搞懂了底下在发生什么，就会发现存在某种可以被学习的低维流形。而这可能对现实中的绝大部分东西都成立。

Veo 3 懂世界吗

主持人： Veo 3 的这一面一直让我着迷。很多人强调的是别的方面，比如它的喜剧感、它的梗，还有它那种超写实地捕捉人的能力，拍出来的人很有说服力，接近真实，再加上原生音频。这些都是 Veo 3 了不起的地方。但你刚才说的那个东西，物理，虽然不完美，可是真的相当好了。于是真正有意思的科学问题是：它到底理解了我们这个世界的什么，才做得到这一点？因为对扩散模型的犬儒式看法是，它根本什么都不理解。但我不认为你能在不理解的前提下生成那样的视频。于是我们自己关于"理解"意味着什么的哲学观念，就被摆到台面上了。你觉得 Veo 3 在多大程度上理解我们的世界？

哈萨比斯： 我认为，只要它能以连贯的方式预测接下来的帧，那就是一种理解形式。不是拟人意义上的理解，它并没有对正在发生的事情形成某种深刻的哲学理解，我不认为这些系统有那个东西。但它们确实把足够多的动力学建模进去了，以至于能相当准确地生成八秒钟连贯的视频，至少用肉眼一扫，你很难指出问题出在哪里。再想想两三年之后会是什么样子，这正是我在琢磨的，考虑到我们一两年前的早期版本是什么水平，那会好到难以置信。进步速度惊人。

哈萨比斯： 我和你一样，很多人喜欢那些脱口秀演员的片段，它确实把大量人类的动态和肢体语言抓得很准。但真正让我印象最深、最着迷的是物理行为，是光照、材质和液体。它能做到这一点相当惊人。我觉得这说明它至少具备某种直觉物理（intuitive physics）的观念，就是事物按直觉应该怎样运转。大概就像一个人类小孩理解物理的方式，而不是一个博士生能把所有方程拆开来讲清楚。它更像是一种直觉性的物理理解。

主持人： 而那种直觉物理理解正是底层的那一层，人们有时候把它叫做常识。它是真的懂了点什么。我觉得这让很多人吃了一惊。我完全没想到，可以在不理解的情况下生成那种程度的真实感，这让我脑子都炸了。一直有个说法是，你只有靠一个具身的 AI 系统、一个和世界互动的机器人，才可能理解物理世界，那是构建这种理解的唯一途径。但 Veo 3 似乎直接在挑战这个说法。

哈萨比斯： 确实很有意思。如果你五年前、十年前问我，尽管我整天泡在这些东西里，我大概也会说，你恐怕得理解直觉物理才行。比如我把这个玻璃杯推下桌子，它多半会碎，里面的液体会洒出来，这些我们都知道。神经科学里有不少理论，叫做"知觉中的行动"（action in perception），意思是你必须在世界中行动，才能真正地、深刻地感知它。当时有很多理论认为，你需要具身智能或者机器人，或者至少需要模拟的行动，才能理解直觉物理这类东西。但看起来，你可以通过被动观察就理解它，这让我相当意外。我还是那句话，这暗示了关于现实本质的某种底层的东西，而不只是"它生成的视频很酷"。

哈萨比斯： 接下来的阶段，也许是让这些视频变成可交互的，让人真的能走进去、在里面移动，那会非常震撼，尤其考虑到我的游戏背景。到那时，我觉得我们就开始接近我所说的世界模型（world model），也就是关于世界如何运作、世界的力学、世界的物理，以及世界中的事物的模型。而那正是一个真正的 AGI 系统所需要的。

游戏世界的未来

主持人： 我必须跟你聊游戏。你最近在 X 上越来越会玩了，有点钓鱼的意思，挺好。有个叫 Jimmy Apples 的人发帖说："让我玩玩我的 Veo 3 视频吧，谷歌已经做得这么好了，可玩的世界模型什么时候来？"然后你转发说："那要真有了，可不得了。"所以，用 AI 造出游戏世界到底有多难？你能不能展望一下五年、十年后的电子游戏是什么样子？

哈萨比斯： 游戏其实是我的初恋。在少年时代，给游戏做 AI 是我职业生涯里做的第一件事，也是我建造的第一批重要 AI 系统。我一直想挠挠这个痒，总有一天要回去做，我想我会的。我常会做梦一样地想：如果九十年代我手里就有今天这样的 AI 系统，我会做出什么来？我觉得你能做出彻底炸裂的游戏。

哈萨比斯： 至于下一个阶段，我做过的游戏都是开放世界游戏。也就是说，有一个仿真，有 AI 角色，玩家与这个仿真互动，而仿真会根据玩家的玩法自我调整。我一直觉得这是最酷的游戏，比如我参与过的《主题公园》，每个人的游戏体验都是独一无二的，因为你其实是在共同创作这个游戏。我们设定参数、设定初始条件，然后你作为玩家沉浸进去，和仿真一起把它创作出来。

哈萨比斯： 但开放世界游戏极难编程。玩家往哪个方向走，你都得能造出内容来，而且无论玩家怎么选，你都希望它是有吸引力的。所以过去做这种事很难，通常靠元胞自动机之类的经典系统去制造一些涌现行为，可它们总是有点脆弱、有点受限。而现在，也许在未来五年、十年里，我们就要迎来这样的 AI 系统：它能真正围绕你的想象力去创造，能动态地改变故事，把叙事围绕着你展开，无论你最终怎么选，它都能讲得有戏剧性。那就是终极版的"选择你自己的冒险"。如果你想象一个可交互版本的 Veo，再把它往前推五到十年，想想会好到什么程度，我觉得这大概触手可及。

主持人： 你刚才讲了一堆特别有意思的东西。第一，按你的描述，开放世界里天然包含了深度的个性化。不只是"任何一扇门你都能推开，后面都有东西"，而是"你以不受约束的方式选择推开哪扇门"，这个选择本身定义了你看到的世界。有些游戏试图做到这点，它们给你选择，但那其实只是选择的幻觉。比如《史丹利的寓言》，那游戏我玩过，其实就是几扇门，最后还是把你带进一条既定叙事。《史丹利的寓言》是个很棒的游戏，我推荐大家玩，它以一种元叙事的方式嘲讽了选择的幻觉，也牵扯到自由意志之类的哲学问题。但我很喜欢的一个游戏，《上古卷轴：匕首雨》，我记得是那一部，他们真的玩了随机生成地牢那一套。你走进去，它给你一种开放世界的感觉。

主持人： 而且你提到交互，其实第一步并不需要那么多交互。你推开门，看到的东西是为你随机生成的，这本身就已经是了不起的体验，因为你可能是世上唯一见过那幅景象的人。

哈萨比斯： 正是。不过你会希望它比单纯的随机生成好一点，也比简单的 A/B 硬编码选择好一点。硬编码那种根本不是开放世界，像你说的，只是选择的幻觉。你想要的是在那个游戏环境里做任何事情的可能性。我觉得唯一的办法就是用生成式系统，在运行中即时生成。你当然不可能做出无限多的游戏素材，今天 3A 游戏的制作已经够贵了。这一点在九十年代我做那些游戏的时候就很明显。

哈萨比斯： 我参与过早期开发的《黑与白》，大概是我做过的游戏里学习型 AI 最强的一个。那是个早期的强化学习系统，你要照看一只神话生物，把它养大、教导它，而你怎么对它，它就怎么对待那个世界里的村民。你刻薄，它就刻薄；你善良，它就保护他们。它其实是你玩法的一面镜子。所以说，我职业生涯一开始就是通过游戏这个媒介做仿真和 AI。我今天做的全部工作，依然是从那些更依赖硬编码的 AI 做法延续下来的，只不过如今换成了完全通用的学习系统，去追求同一件事。

造一款游戏的心愿

主持人： 看着你和埃隆都手痒想做游戏，挺有意思也挺好笑的，因为你们俩都是玩家。而你在那么多科学领域取得的巨大成功，那些严肃的、成年人的事业，有一个让人略感惋惜的副作用：你可能根本没时间真的去做一款游戏。你最后可能只是造出了工具，让别人来做游戏，然后你只能眼看着别人做出你一直梦想做的东西。你觉得有没有可能，在你极其满档的日程里挤出时间，真的做出一个像《黑与白》那样的东西，把童年的梦变成现实？

哈萨比斯： 我有两个想法。第一，随着氛围编程（vibe coding）越来越好，也许我真的可以在业余时间做出来。这一点我挺兴奋的，如果我有时间做点氛围编程，那就是我的项目，我确实手痒。第二，也许是等 AGI 被安全地引导、交付到这个世界之后，来一次休假式的长假。那个，加上我们开头聊到的我的物理理论，就是我的两个"后 AGI 项目"。

主持人： 我很想知道，后 AGI 时代你会选哪个：去解一个人类历史上最聪明的一批头脑都在搏斗的问题，也就是 P=NP，还是做一款很酷的游戏。

哈萨比斯： 在我的世界里，这两件事是相关的，因为那会是一个尽可能真实的开放世界仿真游戏。宇宙究竟是什么，这问的其实是同一个问题。P=NP，我觉得这些事至少在我脑子里全都连在一起。

游戏作为意义

主持人： 认真地说，电子游戏有时候是被看低的，好像只是个好玩的副业。但恰恰是当 AI 越来越多地接手那些又难又无聊的活儿，也就是我们现代人称之为"工作"的东西之后，游戏可能会成为我们寄托意义、安放时间的地方。你可以在里面创造极其丰富、极有意义的体验。人的一生不就是这样吗？而在游戏里，你可以创造出更复杂、更多样的活法。

哈萨比斯： 我觉得是这样。对我们这些热爱游戏的人来说，而我至今依然热爱，它几乎可以让你的想象力彻底放开。我当年那么爱玩游戏、那么爱做游戏，是因为它是一种融合，尤其在九十年代到两千年代初，游戏产业的黄金期，也许还要算上八十年代。一切都在被发现，新的类型在被发明出来。我们觉得自己不只是在做游戏，我们觉得自己在创造一种前所未有的娱乐媒介，尤其是开放世界游戏和仿真游戏，玩家在里面共同创作故事。没有任何别的娱乐媒介是这样的，观众居然参与共创故事。当然，如今加上多人游戏，它还可以是非常社交的活动，可以在其中探索各种有趣的世界。

哈萨比斯： 但另一方面，享受和体验物理世界也非常重要。于是问题又来了，我们还是得再次直面那个问题：现实的根本性质是什么？这些越来越真实、越来越多人、越来越涌现的仿真世界，和我们在真实世界里做的事情，区别究竟在哪里？

主持人： 显然，体验真实世界、体验自然有巨大的价值。像我们今天这样面对面地和另一个人相处，也有巨大的价值。但我们需要用科学的严格性去回答一个问题：为什么？以及这其中哪些部分可以被映射进虚拟世界？光说"你该去户外走走、去大自然待着"是不够的，得说清楚它到底为什么有价值。

哈萨比斯： 是的。我想这大概就是从我职业生涯一开始就萦绕我、缠着我的东西。你去看我做过的所有不同的事情，它们全都以这种方式彼此相关：仿真，现实的本质，以及可被建模的边界在哪里。

主持人： 请原谅这个有点傻的问题，但到目前为止，史上最伟大的电子游戏是哪一款？什么算得上顶尖？靠什么成就它？

哈萨比斯： 我个人的历史最爱必须是《文明》。《文明 1》和《文明 2》是我此生最爱的游戏。

主持人： 我只能猜你一直避开最新那一部，因为那大概就会变成你的休假，你会直接人间蒸发。

哈萨比斯： 完全正确。《文明》这种游戏太吃时间了，我得小心。

主持人： 一个有趣的问题：你和埃隆看起来都是硬核玩家，擅长游戏和执掌一家 AI 公司之间，有没有什么联系？

哈萨比斯： 我不知道，这问题挺有意思。我们俩都热爱游戏。有意思的是他一开始也写游戏。这大概跟我成长的年代有关，家用电脑刚刚兴起，八十年代末到九十年代，尤其在英国。我先有一台 Spectrum，然后是 Commodore Amiga 500，那是我此生最爱的电脑，我的编程全是在那上面学的。而编程里最好玩的事情之一就是编游戏，我觉得那是学编程的绝佳方式，现在大概依然是。然后我立刻把它引向了 AI 和仿真，这样我就能把对游戏的兴趣和更广的科学兴趣全部合在一起表达出来。

哈萨比斯： 我觉得游戏还有最后一点很棒的地方：它把艺术设计和最前沿的编程融合在一起。在九十年代，所有最有意思的技术进展都发生在游戏里，无论是 AI、图形、物理引擎、硬件，连 GPU 本来都是为游戏设计的。九十年代推动计算前进的一切都来自游戏，所以研究的最前沿恰恰在那里。而它同时又和艺术有着不可思议的融合，图形、音乐，还有一整套全新的叙事媒介。我爱这一点。对我来说，这种跨学科的事情又一次出现了，那是我一辈子都喜欢的东西。

AlphaEvolve 与进化

主持人： 我必须问你一件事，最近那么多了不起的成果里，有一个我觉得还远远没有得到足够关注，就是 AlphaEvolve。我们刚才聊了一点演化，而它是谷歌 DeepMind 做的、能演化算法的系统。这类演化式技术，作为未来超级智能系统的一个组件，有前景吗？给不了解的人解释一下，我不知道这么说准不准确，它大概是"由大模型引导的进化式搜索"：进化算法负责搜索，大模型告诉你往哪儿搜。

哈萨比斯： 对，正是这样。大模型提出一些可能的解，然后你在上面用进化计算去找到搜索空间里新颖的区域。我觉得这是个很好的例子，说明把大模型或基础模型与其他计算技术结合起来是个很有前景的方向。进化方法是其中一种，你也可以想到蒙特卡洛树搜索。基本上，各种类型的搜索算法或推理算法，都可以架在基础模型之上，或者以它为基础。我确实认为，这类混合系统里还有很多有意思的东西等着被发现。

主持人： 我不想把演化浪漫化，虽然我也只是个人类。但你觉得那个机制本身是有价值的吗？我们刚才聊了自然系统，你觉得在理解、建模、仿真演化这件事上，是不是还有大量低垂的果实？然后把我们从自然、从它的生物机制里学到的东西，拿来把搜索做得越来越好？

哈萨比斯： 是的。如果你再一次把我们造的这些系统拆到最核心，你会看到两块：一块是对系统底层动力学的模型；另一块是，如果你想发现某种全新的、前所未见的东西，你就需要在上面加一个搜索过程，把你带到搜索空间里新颖的区域。这件事有很多种做法，进化计算是一种。在 AlphaGo 里我们用的是蒙特卡洛树搜索，而正是它找到了第 37 手，那种围棋里前所未见的新策略。这就是你如何可能超越已知的东西。模型可以对你当前已知的一切、你手上的全部数据建模，但接下来怎么超出去？这就开始触及创造力的问题：这些系统怎么才能创造新东西、发现新东西？这对科学发现、对推进医学显然极其相关，而我们正想用这些系统去做这件事。

哈萨比斯： 实际上，你可以在这些模型上面装一些相当简单的搜索系统，就能把你带到空间里的新区域。当然，你也得确保自己不是在完全随机地搜索，那样空间太大了。所以你必须有一个想要优化、想要爬坡逼近的目标函数，由它来引导搜索。

主持人： 但演化里还有一些别的机制很有意思，也许是在程序空间里。而程序空间是极其重要的空间，你大概可以从它推广到一切。比如变异。所以它不只是蒙特卡洛树搜索那种搜索，你可以时不时把东西组合起来，改动一个组件。演化真正厉害的地方不只是自然选择，而是它能把东西组合起来，搭出越来越复杂的层级系统。

哈萨比斯： 没错。所以你还能从进化式系统里额外榨出一个性质，就是可能会冒出某种全新的涌现能力，就像生命发生过的那样。有意思的是，那种朴素的传统进化计算方法，没有大模型和现代 AI 的那种，在九十年代和两千年代初被研究得很透，也有一些有希望的结果，但问题在于，人们始终搞不清楚怎么演化出新的性质、新的涌现性质。你得到的永远是你放进系统里的那些性质的一个子集。而如果我们把它们和这些基础模型结合起来，也许就能突破这个限制。显然，自然演化确实做到了，它确实演化出了新能力，从细菌一路到今天的我们。所以用进化式系统生成新的模式，回到我们最开始聊的那件事，以及生成新能力和涌现性质，一定是可能的。也许我们正站在"搞懂怎么做到"的门槛上。

主持人： 说真的，AlphaEvolve 是我见过最酷的东西之一。我家里的桌上，我大部分时间都趴在那台电脑前写程序，三块屏幕旁边放着一个提塔利克鱼（Tiktaalik）的头骨，那是最早从水里爬上陆地的生物之一。我常常就这么看着这小家伙。不管演化那套竞争机制究竟是什么，它实在是了不起，真的了不起。这未必就是我们做搜索时该照搬的东西，但永远不要小看自然在这里完成的事情。

哈萨比斯： 而且它了不起在于，那说到底是个相当简单的算法，却能生成如此巨大的复杂性，当然是在四十亿年的时间尺度上跑出来的。你可以把它看作一个在宇宙的物理基底上跑了极长计算时间的搜索过程，而它生成了这一整套惊人丰富的多样性。

科研品味与猜想

主持人： 我有太多问题想问你。首先，你确实有个梦想，在你想建模的自然系统里有一个是细胞，那是个很美的梦，我想问这个。另外，关于 AI 科学家这条线，丹尼尔·科科塔伊洛、斯科特·亚历山大等人写过一篇文章，勾勒了通往超级智能（ASI）的路径，里面有很多有意思的想法，其中包括"超人程序员"和"超人 AI 研究员"。文中有个术语叫"研究品味"（research taste），非常有意思。以你所见，AI 系统有没有可能具备研究品味，像 AI 协同科学家那样去辅助、去引导那些出色的人类科学家，甚至进一步靠自己判断出应该往哪些方向去生成真正新颖的想法？因为那似乎是做出伟大科学的关键一环。

哈萨比斯： 我认为这会是最难模仿、最难建模的东西之一，也就是品味或者判断力。我觉得这正是伟大的科学家和不错的科学家之间的分野。所有职业科学家在技术上都是过硬的，否则他们根本走不到那一步。但你有没有那种品味，能嗅出哪个方向是对的、哪个实验是对的、哪个问题是对的？

哈萨比斯： 挑对问题是科学中最难的部分，提出正确的假设也是。而这恰恰是今天的系统绝对做不到的。我常说，提出一个猜想，一个真正好的猜想，比解决它更难。我们也许很快就会有能解决相当难的猜想的系统。比如数学奥林匹克题目，我们的 AlphaProof 去年拿到了银牌水平，那些题真的很难。也许最终我们能解决千禧年大奖难题那种级别的问题。但一个系统能不能提出一个值得研究的猜想，让陶哲轩这样的人说一句"这问题真的触及了数学的本质、数的本质或者物理的本质"？那是难得多的创造力。我们还真不知道，今天的系统显然做不到，我们也不太清楚那个机制会是什么。那是一种想象力的跃迁，就像爱因斯坦当年用手上那点知识提出狭义相对论、进而提出广义相对论那样。

主持人： 而且对于猜想，你要提出的是既有意思、又可能被证明的东西。提出一个极难的东西很容易，提出一个极简单的东西也很容易，难的是在那个刀刃上。

哈萨比斯： 那个甜蜜点，对。本质上是推动科学前进，并且理想情况下把假设空间一分为二：无论结论为真还是为假，你都学到了真正有用的东西。这很难。同时它还得是可证伪的，并且在你当下可用的技术范围之内。所以这是个非常有创造性的过程，高度创造性的过程，我认为光在一个模型上面做朴素搜索是不够的。

主持人： "把假设空间一分为二"这个说法特别有意思。我听你说过，做研究基本上不存在失败，或者说，只要问题问对了、实验设计对了，失败也极有价值，成败都有用。也许正是因为它把假设空间一分为二，像二分查找一样。

哈萨比斯： 没错。当你做真正的自由探索型研究时，只要你挑的实验和假设能有意义地把假设空间切开，就不存在所谓失败。你总会学到东西。一个没跑通的实验，可以带给你同样有价值的信息。如果你的实验设计得好、假设足够有意思，它应该能告诉你下一步该往哪儿走。于是你实际上是在做一个搜索过程，并且以非常有用的方式利用了那些信息。

虚拟细胞的野心

主持人： 说回你建模细胞的梦想，要实现它，前面有哪些大的挑战？也许该先说明一下，中间已经有那么多次跨越：AlphaFold 可以说解决了蛋白质折叠，那里有太多可谈的，包括你们开源了一切；AlphaFold 3 在做蛋白质与 RNA、DNA 的相互作用，极其复杂也极其迷人，居然可以建模；AlphaGenome 则预测微小的遗传变化，比如单点突变，如何关联到实际功能。看起来它是在一步步向更复杂的东西爬，比如细胞。但细胞里有非常多非常复杂的组件。

哈萨比斯： 是的。我这辈子一直试图这么做事：先有一个非常宏大的梦想，然后想办法把它拆开。做一个疯狂的宏大梦想很容易，难的是怎么把它拆成可管理、可达成、而且每一步本身就有意义、有用处的中间阶段。

哈萨比斯： 虚拟细胞，我给"建模一个细胞"这个项目起的名字，这个念头我大概揣了二十五年。我常和保罗·纳斯聊这件事，他算是我在生物学上的半个导师，创办了克里克研究所，2001 年拿了诺贝尔奖。我们从九十年代起就在聊这个。我大约每五年就回去问他一次：要把细胞内部完整地建模到什么程度，才能让你在虚拟细胞上做实验，做计算机模拟实验（in silico），而这些预测足以为你在湿实验室里省下大量时间？那才是梦想。也许你能把实验加速一百倍：绝大部分搜索在计算机里完成，然后在湿实验室里做验证那一步。那就是梦想。

哈萨比斯： 所以我一直在造这些组件，AlphaFold 是其中之一，它们最终会让你有可能对完整的相互作用、对一个细胞做完整的仿真。我大概会从酵母细胞开始。一部分原因是保罗·纳斯研究的就是酵母细胞，因为酵母细胞是一个完整的生物体，同时又是单细胞的，是最简单的单细胞生物。它不只是一个细胞，还是一个完整的生物体。而且酵母被研究得非常透。所以它是做完整仿真模型的好候选。

哈萨比斯： AlphaFold 解决的是静态的那张图：一个蛋白质长什么样，三维结构是什么，一张静态画面。但我们知道，生物学里所有有意思的事情都发生在动态和相互作用上。AlphaFold 3 是迈向建模这些相互作用的第一步，先是两两之间，蛋白质与蛋白质、蛋白质与 RNA 和 DNA。再往后一步，也许就是建模一整条通路，比如和癌症有关的 TOR 通路之类。然后，最终你也许就能建模一整个细胞。

主持人： 这里还有一层复杂性：细胞里的事情发生在不同的时间尺度上。这会不会很棘手？蛋白质折叠极快，我不了解全部生物学机制，但有些过程要花很久。所以不同层级的相互作用有不同的时间尺度，你都得能建模。

哈萨比斯： 那确实会很难。你大概需要好几个能在这些不同时间尺度上互相交互的仿真系统，或者至少做成某种层级系统，让你能在不同的时间层级之间上下跳转。

主持人： 那能不能绕过某些层次？比如你并不想去仿真其中的量子力学部分。你不想过度建模，你希望能跳过去，只建模那些足以给出"接下来会发生什么"的高层结构。

哈萨比斯： 对。给任何自然系统建模时，你都得做一个决定：你要建模到多细的粒度，才刚好能抓住你关心的那些动力学？对于细胞，我希望那个层级是蛋白质层级，不必下到原子层级。AlphaFold 正好能在那里接上。那就是基础，然后你在它之上搭建更高层的仿真，把这些当作积木，于是涌现行为就出来了。

生命起源与谜

主持人： 请原谅这个有点飘的问题：你觉得我们有没有可能仿真、建模出生命的起源？也就是从非生命到第一个活体生物诞生的那一步。

哈萨比斯： 我觉得那当然是最深、最迷人的问题之一。我特别爱生物学的这个领域。尼克·莱恩是这方面的顶尖专家之一，他有一本很棒的书，讲演化的十大发明，我觉得非常精彩。这也关系到所谓"大过滤器"可能在哪里，在我们之前还是在我们之后。读完那本书，我觉得它们多半在过去，因为生命能出现本身就极其不可能。而从单细胞到多细胞看起来是个大得离谱的跳跃，在地球上我记得花了大约十亿年。这说明它有多难。

主持人： 细菌有很长一段时间过得非常开心。

哈萨比斯： 非常长的时间，直到它们不知怎么把线粒体捕获了进来。我看不出 AI 为什么不能在这件事上帮忙，用某种仿真。这同样有点像在一个组合空间里做搜索：这是你起步的化学汤，是当年地球上也许在热泉口附近的原始汤，这是一些初始条件，你能不能生成出某种看起来像细胞的东西？也许这就是虚拟细胞项目之后的下一阶段：这样的东西究竟怎样才可能从化学汤里涌现出来？

主持人： 我特别希望生命起源也能有一个"第 37 手"。我觉得那是最大的谜团之一。我猜我们最终会发现那是个连续统，根本不存在非生命与生命之间的那条线。但我们得把这一点变得严格。也就是说，从大爆炸到今天，一直是同一个过程。如果我们能推倒自己头脑中竖起的那堵墙，看清从非生命到生命并不是一条线，而是一个把物理、化学和生物连起来的连续统，那就没有线了。

哈萨比斯： 这正是我一辈子都在做 AI 和 AGI 的全部理由。因为我觉得它可以成为帮我们回答这类问题的终极工具。我其实不太理解，为什么普通人不更多地为这些事情挂心。我们怎么可以至今没有一个像样的关于生命、关于生与非生的定义，没有关于时间本质的定义，更别提意识、引力这些东西，还有量子力学的诡异。对我来说，这些东西一直在朝我脸上大喊大叫，而且越喊越响。到底是怎么回事？我指的是更深的那层意思，现实的本质，那必定是终极问题，回答了它，其余这些问题也就都有答案了。

哈萨比斯： 想想看这多疯狂。我们可以互相凝视，可以随时观察每一个活着的东西，可以拿显微镜检查它，可以几乎把它拆解到原子层面，可我们依然没法清楚地、简单地回答"如何定义活着"这个问题。这挺惊人的。

主持人： 是啊。生命这事你也许还能绕过去不想，但意识不行。我们显然有这种主观的意识经验，我们处在自己世界的中心，而且它确实"有感觉"。你怎么能不为这一切的神秘而尖叫？不过说真的，人类和身边世界的神秘搏斗了很久很久。谜团太多了。太阳和雨是怎么回事？去年雨很多，今年没雨，我们是做错了什么？人类问这些问题问了很久。

哈萨比斯： 完全正确。所以我猜我们已经发展出很多机制来应付这些东西，这些我们看得见却无法完全理解的深层谜团，然后我们还是得过日子。我们让自己忙起来。或者说，我们让自己分心。

天气与风暴追逐

主持人： 天气是人类历史上最重要的问题之一。到今天为止，寒暄的默认话题还是天气。

哈萨比斯： 尤其在英国。

主持人： 而众所周知，天气是极难建模的系统。可就连这个系统，谷歌 DeepMind 也取得了进展。

哈萨比斯： 是的。我们做出了世界上最好的天气预报系统，比传统的流体动力学系统更好。传统做法通常要在巨型超级计算机上算好几天。而我们用 WeatherNext，靠神经网络系统建模了大量天气动力学。有意思的地方还是在于，那类动力学明明非常复杂，某些情况下几乎接近混沌系统，却依然有很多有意思的方面可以被这些神经网络系统捕捉到。最近我们还做了气旋预测，预测飓风可能的路径，这对世界当然极其有用、极其重要，而且必须及时、迅速，同时还要准确。我觉得这又是一个很有前景的方向：通过仿真，让你能对非常复杂的真实世界系统做前向预测和模拟。

主持人： 我得说，我在得州有机会认识了一群人，叫做风暴追逐者。他们身上真正惊人的地方，我还得跟他们多聊聊，是他们极其懂技术，因为他们必须靠模型去预测风暴在哪里。这是一种很美的混合：一方面疯到敢往风暴眼里钻，另一方面，为了保住性命、为了预测极端事件会发生在哪里，他们必须掌握越来越精密的天气模型。这是一种很美的平衡，既作为活生生的生物置身其中，又站在科学的最前沿。所以他们说不定正在用 DeepMind 的系统。

哈萨比斯： 但愿如此。我也很想跟着他们去追一次风暴，那看起来太震撼了，真想亲身体验一次。

主持人： 而且还能体验一次"预测正确"的时刻：某个东西会从哪里来、会如何演变。太不可思议了。

AGI 与第 37 手

主持人： 你估计我们会在 2030 年前后迎来 AGI，这里有几个有意思的问题：我们怎么知道自己真的到了？以及，AGI 的那个"第 37 手"会是什么？

哈萨比斯： 我的估计是未来五年内有大约 50% 的概率，也就是说到 2030 年左右。我觉得这很有可能发生。当然，一部分取决于你对 AGI 的定义，现在大家为此争论不休。我的标准一向定得相当高：我们能不能匹配人脑具备的全部认知功能？我们知道大脑近似是一台通用图灵机，而我们用自己的头脑创造了整个现代文明，这也说明大脑有多么通用。

哈萨比斯： 要确认我们真的拥有 AGI，就得确保它具备所有这些能力，而不是一种参差不齐的智能（jagged intelligence）：某些事情做得极好，像今天的系统那样，另一些事情却错得离谱。今天的系统正是这样，它们不稳定。你要的是横跨所有领域的一致性。此外我认为还缺一些能力，比如我们刚才聊的真正的发明能力和创造力，你得看到这些。

哈萨比斯： 怎么测？我觉得就直接测。一种办法是暴力式地测上几万项我们知道人类能完成的认知任务。另外，也许可以把这个系统交给几百位世界顶尖专家，各个学科里的"陶哲轩们"，给他们一两个月，看他们能不能找出系统里明显的缺陷。如果找不到，那你就相当有把握了，我们有了一个完全通用的系统。

主持人： 我稍微反驳一下。人类有个很厉害的本事：随着智能在各个领域不断提升，我们会把它当成理所当然。你提到陶哲轩这些绝顶专家，他们可能几周之内就把系统了不起的地方视为平常，然后盯住"啊哈，就是这儿"。我首先，当然，我自认是人类，我认同自己是人类。有人听我说话会觉得，这家伙不太会讲话，还结巴。所以即便是人类，在数学、物理之外的各个领域也都有明显的局限。我在想，真正决定性的会不会是某种"第 37 手"式的正面时刻，而不是一万项认知任务的轰炸，而是其中的某一两项，让人忍不住说：天哪，这太特别了。

哈萨比斯： 正是。我觉得两者都要有：一方面是地毯式的测试，确保一致性；另一方面确实存在那种灯塔式的时刻，就像第 37 手，那是我会去寻找的。一个例子是：提出一个关于物理的新猜想或新假设，像爱因斯坦那样。你甚至可以非常严格地做回测：设定一个 1900 年的知识截止点，把 1900 年之前写下的一切都给这个系统，看它能不能像爱因斯坦那样提出狭义相对论和广义相对论。那会是个很有意思的测试。

哈萨比斯： 另一个例子是：它能不能发明一个像围棋这样的游戏？不只是下出第 37 手那样的新策略，而是发明一个和围棋一样深邃、一样优美、一样优雅的游戏。这些才是我会留意的东西。而且大概要它能做到其中好几件，才算真正通用，而不是只在一个领域。这至少是我会寻找的标志，说明我们有了 AGI 级别的系统。然后再补上一致性的检查，确保系统里没有窟窿。

主持人： 比如一个新猜想或者一个科学发现，那种感觉一定很棒。

哈萨比斯： 那会非常震撼。不是它帮我们做出来，而是它真的提出了全新的东西。

主持人： 而且你会在那个房间里。那大概是宣布之前两三个月的事，你就坐在那儿，努力忍着不发推。

哈萨比斯： 差不多就是那样。心里想着，这是个什么了不起的物理想法。然后我们大概会找那个领域的世界级专家来核验，验证它，把它的推理过程过一遍。我猜它也会解释自己的推理过程。那会是个了不起的时刻。

主持人： 你担不担心我们人类，哪怕是专家，可能会看漏？

哈萨比斯： 它可能会相当复杂。我打的比方是：我不认为它对最顶尖的人类科学家来说会完全不可理解，但情况可能有点像下棋。如果我跟加里·卡斯帕罗夫或者马格努斯·卡尔森下一局，他们走出一步妙手，我自己想不出那一步，但事后他们能解释为什么那一步说得通，我们也能在某种程度上理解，虽然理解得不如他们深。前提是他们擅长解释，而擅长解释其实也是智能的一部分，能把你脑子里的东西用简单的方式讲出来。我觉得对最顶尖的人类科学家来说，这完全有可能做到。

主持人： 不过我很好奇，也许你可以给我讲讲围棋这边。会不会存在这样的情形：马格努斯或者加里一开始会把某一步斥为坏棋？

哈萨比斯： 当然可能。但之后他们会凭直觉想明白这一步为什么可行。而且从经验层面说，游戏的好处之一，也是它最棒的地方之一，就是它本身是一种科学检验：你赢了还是没赢？这就告诉你，那一步最终是好的，那个策略是好的。然后你可以回头分析它，甚至对自己解释得更清楚一点，在它周围继续探索。棋类的复盘分析就是这么做的。也许这就是我脑子这么运转的原因，我从四岁起就在做这件事，接受的是那种硬核训练。

主持人： 就算在今天，当我生成代码时，也有一种很微妙、很迷人的张力。我可能一开始判定某段生成的代码在某些微妙的地方是错的，但我总得问自己一个问题：会不会这里有一个更深的洞见，而错的人是我？随着系统越来越聪明，你势必要面对这个问题：你刚写出来的这东西，到底是 bug 还是特性？

哈萨比斯： 是的，而且会相当难判断。不过你也可以想象：由 AI 系统生成代码，人类程序员来看，但人类不是赤手空拳，他也带着 AI 工具。那会挺有意思的，也许是和生成代码的那些工具不同的另一类工具，更偏监督和检查的工具。

递归自我改进

主持人： 再说回 AGI 系统，抱歉又绕回来，但 AlphaEvolve 实在太酷了。在编程这一侧，AlphaEvolve 有可能带来某种递归自我改进。设想一下那个 AGI 系统，也许不是第一个版本，而是再往后几个版本，它究竟长什么样？你觉得它会很简单吗？会不会就是一个能自我改进的程序，而且是个简单的程序？

哈萨比斯： 有可能，我会说那是可能的。但我不确定这是不是我们想要的，因为那算是一种硬起飞（hard takeoff）的情形。像 AlphaEvolve 这样的现有系统，在很多环节都有人在回路中做决定，它们是分离的、互相交互的混合系统。你可以想象最终把这些端到端地打通，我看不出为什么不可能。但就眼下而言，我觉得系统还不足以做到那一点，尤其是在提出代码架构这件事上。

哈萨比斯： 这又回到了"提出新猜想、新假设"那个问题。如果你给它非常具体的指令，告诉它你要做什么，它们表现很好。但如果你给的是非常模糊的高层指令，现在是行不通的。我觉得这和"发明一个和围棋一样好的游戏"是同一类事情。想象一下这就是提示词，它太欠具体了。现在的系统我觉得不知道该拿它怎么办，不知道怎么把它收窄成可处理的东西。"去做一个更好版本的你自己"也是类似的，约束太少了。

哈萨比斯： 但我们确实做到过一些事情，比如你知道的，AlphaEvolve 在更快的矩阵乘法上的成果。当你把目标收窄到非常具体的东西，它非常擅长在那上面做增量改进。不过目前这些更像是增量式的提升，是小步迭代。而如果你想要理解上的大跃迁，你需要大得多的推进。

主持人： 不过反过来说，这也可以用来反驳硬起飞。它可能就是一连串像矩阵乘法那样的增量改进，它得在那儿琢磨好几天，想怎么把一件事往前推一点点，然后递归地这么做下去。而且随着改进越来越多，速度会慢下来。于是通往 AGI 的路径不会是一声炸响，而是一段时间里的渐进提升。

哈萨比斯： 是的。如果只有增量改进，那看起来就会是这样。所以问题在于：它能不能拿出像 Transformer 架构那样的新跃迁？2017 年那会儿，我们和 Brain 都做出了这个东西，它能不能也做到？目前还看不出 AlphaEvolve 这类系统能完成那么大的跃迁。所以这些系统确实很强，我们有能做增量爬坡的系统。而更大的问题是：从这里往前，这样就够了吗，还是我们真的还需要一到两个大突破？

主持人： 而且同一类系统能不能自己提供那些突破？这样就形成一串 S 形曲线：多数时候是增量改进，但时不时来一次跃迁。

哈萨比斯： 我不认为现在有谁的系统已经毫无争议地展示出那种大跃迁。我们有很多系统能在你当前所处的那条 S 曲线上爬坡。

主持人： 而那种跃迁就会是第 37 手。

哈萨比斯： 我觉得那会是一次跃迁，类似那样的东西。

规模定律与算力

主持人： 你觉得规模定律在预训练、后训练和测试时计算上还站得住吗？反过来说，你预计 AI 的进展会撞墙吗？

哈萨比斯： 我们确实觉得单靠规模化还有很大空间，而且是所有环节：预训练、后训练和推理时。所以现在是三种规模化同时在发生。在这件事上，关键还是你能有多创新。我们为自己拥有最广、最深的研究班底而自豪。我们有非常出色的研究者，比如提出 Transformer 的诺姆·沙泽尔，比如领导 AlphaGo 项目的大卫·西尔弗等等。这样的研究底盘意味着，如果真的需要某种新突破，像当年的 AlphaGo 或 Transformer 那样，我会押我们就是那个做出来的地方。

哈萨比斯： 所以其实地形变难的时候我还挺高兴的，因为那时天平会从工程更多地偏向真正的研究，或者说研究加工程，而那正是我们的甜蜜点。发明东西比快速跟随要难。我们并不知道答案，我会说这是五五开：究竟需要新东西，还是把现有的东西规模化就够了。所以我们以真正的经验主义方式，两边都用尽全力去推：全新的自由探索型想法，大概占我们一半的资源；另一半则把现有能力推到极限。而我们在 Gemini 的每一个新版本上，依然看到非常好的进展。

主持人： 你刚才说的"深厚班底"这个角度很有意思：如果通往 AGI 的路不只是堆算力，不只是工程问题，而更多是需要科学突破的那一侧，那你就相信谷歌 DeepMind 在那个领域有绝对的位置优势？

哈萨比斯： 如果你看过去十年、十五年的历史，支撑起今天整个现代 AI 领域的那些突破，我不确定具体数字，大概 80% 到 90% 出自最初的 Google Brain、Google Research 和 DeepMind。所以是的，我押注这会延续下去。

主持人： 数据这边呢？你担心高质量数据耗尽吗？尤其是高质量的人类数据。

哈萨比斯： 我不太担心，一部分原因是我认为数据够用，而且已经被证明足以把系统训练得相当好。这又回到仿真：你有没有足够的数据去构建仿真，从而生成更多来自正确分布的合成数据？显然那才是关键。你需要足够的真实世界数据，才能造出这些数据生成器。我认为我们目前正处在这一步上。

主持人： 是啊，你们在科学和生物学那一侧做了那么多了不起的事，用的数据其实不算多。当然还是很多数据，但大概够起飞了。

哈萨比斯： 够把这个循环转起来，正是如此。

主持人： 算力规模化对建造 AGI 有多关键？这是个工程问题，几乎也是个地缘政治问题，因为它牵扯到供应链和能源，而能源正是你非常关心的领域，比如核聚变，在能源这一侧也要创新。你觉得我们会继续把算力做大吗？

哈萨比斯： 我觉得会，理由有几个。训练所用的算力往往需要集中在同一处，所以哪怕是数据中心之间的带宽限制都会造成影响，这里有额外的约束。这对训练尽可能大的模型显然重要。但另外，现在 AI 系统已经进入产品，被全球数十亿人使用，你需要海量的推理算力。再加上去年出现的新范式，会思考的系统，你在测试时给它们越多的推理时间，它们就越聪明。所有这些都要吃掉大量算力，我看不出这会放缓。而随着 AI 系统变得更好，它们会更有用，需求就更大。所以训练这一侧其实只是其中一部分，甚至可能变成整体所需算力里较小的那部分。

主持人： 这有点像一个梗：Veo 3 越成功、越惊艳，大家就越拿"服务器在冒汗"开玩笑，因为推理压力太大。

哈萨比斯： 我们还做了个小视频，服务器在煎鸡蛋。确实如此，我们得想办法应对。我们在硬件上也做了很多有意思的创新，我们有自己的 TPU 产品线，正在研究只做推理的芯片，怎么让它们更高效。

哈萨比斯： 我们也非常有兴趣用 AI 系统来帮助降低能耗，比如让数据中心的制冷系统更高效，做电网优化，最终还包括帮助核聚变反应堆做等离子体约束。这方面我们和 Commonwealth Fusion 做了很多工作。你也可以设想反应堆设计。而材料设计我认为是最激动人心的方向之一：新型太阳能材料、太阳能板材料，室温超导体一直在我梦想的突破清单上，还有最优电池。我认为其中任何一项被解决，对气候和能源使用都将是彻底革命性的。而我们大概很接近了，还是那句话，未来五年内，我们就会拥有能在这些问题上实质性帮忙的 AI 系统。

主持人： 如果让你下注，恕我问得离谱，二三十年、四十年之后，人类主要的能源来源会是什么？你觉得会是核聚变吗？

哈萨比斯： 我会押核聚变和太阳能这两样。太阳能嘛，太阳本来就是天上那个聚变反应堆。我觉得真正的难点在电池和输电。所以除了越来越高效的太阳能材料之外，也许最终还会走到太空里去，就是那种戴森球式的想法。至于聚变，我觉得只要反应堆设计对了，只要我们能足够快地控制等离子体，它显然是可行的。我认为这两件事最终都会被解决。所以我们大概至少会有这两个主要的可再生、清洁、几乎免费甚至完全免费的能源来源。

走向丰裕时代

主持人： 活在这个时代真是不可思议。如果我和你一起穿越到一百年后，如果人类已经跨过卡尔达肖夫 I 型文明的门槛，你会有多惊讶？

哈萨比斯： 如果是从现在算起一百年的时间尺度，我不会太惊讶。我觉得很清楚的一点是：如果我们用刚才说的某种方式解决了能源问题，聚变或者极高效的太阳能，那么一旦能源变得基本免费、可再生、清洁，一大堆别的问题就跟着解决了。

哈萨比斯： 比如水资源问题就消失了，因为你可以直接海水淡化。技术早就有，只是太贵。所以现在只有新加坡、以色列这样相当富裕的国家在用。但如果它便宜了，所有有海岸线的国家都能用。另外你还会有无限的火箭燃料，你可以用能源把海水电解成氢和氧，那就是火箭燃料。再配上埃隆那些了不起的可自主着陆的火箭，那就有点像通往太空的公交服务了。这会打开全新的资源和疆域，我觉得小行星采矿会成为现实，人类可以最大限度地繁荣，一直繁荣到群星之间。这就是我梦想的东西。也包括卡尔·萨根那个想法：把意识带向宇宙，把宇宙唤醒。我认为，如果我们把 AI 这件事做对了，并且用它解决其中一些问题，人类文明在足够长的时间里会做到这一点。

主持人： 我在想，如果你只是个在太空里飞过的游客，你大概会注意到地球，因为如果能源问题解决了，你会看到很多火箭。那就像伦敦这边的交通，只不过是在太空里，全是火箭。然后你大概还会看到太空里漂浮着某种能源来源，比如太阳能装置。于是地球表面看上去会更技术化，而你会用那些能量去保护自然，保护雨林之类的东西。

哈萨比斯： 正是。因为人类历史上第一次，我们将不再受资源约束。我觉得那可能是人类了不起的新纪元，因为它不再是零和的。现在是我占了这块地，你就没有；或者老虎占了这片森林，当地村民就没得用，那他们靠什么活？我觉得这会有很大帮助。当然，它不会解决所有问题，因为人类还有别的弱点，但它至少会移除一个我认为很大的矛盾源头，那就是资源稀缺，包括土地、材料和能源。

哈萨比斯： 我们有时候，也有别人，把这叫做"激进丰裕"（radical abundance）的时代，资源多到够分。当然，接下来更大的问题是确保它被公平地分享，让社会中每个人都从中受益。

竞技、输赢与精进

主持人： 不过人性里确实有点什么。就像《波拉特》里那句话，我的邻居，你总会去挑事。我们确实会制造冲突。而我越来越多地了解古代史之后发现，游戏一直在扮演一个角色：把人从战争里拉开，从真正的热战里拉开。也许我们可以设计越来越精巧的电子游戏，把我们拉进去，替我们挠一挠冲突这种人性的痒，从而避开真正的热战。毕竟我们早就过了那个阶段，如今能造出的武器足以毁掉整个人类文明，所以那不再是跟邻居挑事的好办法了，不如下一盘棋。

哈萨比斯： 或者踢场球。我觉得现代体育就是这样的东西。我很爱足球，爱看，以前也踢得很多。它非常直观、非常有部落感，我觉得它确实把很多那样的能量导向了别处，导向了一种归属于某个群体的人类需求，但以有趣的、健康的方式，而不是破坏性的方式，是建设性的。

哈萨比斯： 再说回游戏。我觉得游戏之所以对孩子那么好，比如下棋，是因为它们是这个世界绝妙的微缩仿真。它们是世界的仿真，是某种真实世界情境的简化版本，无论是扑克、围棋还是国际象棋，或者外交游戏，对应真实世界的不同侧面。而且它们让你可以反复练习。因为想想看，你一生中有多少次机会去练习那种重大决定的时刻？该接哪份工作、该上哪所大学？你一辈子大概只有十来个关键决定要做，而你必须尽可能做好。游戏是一个安全的、可重复的环境，你可以在里面提升自己的决策过程。而它还有个额外的好处，就是把一部分能量导向更具创造性和建设性的追求。

主持人： 我还觉得，练习输和赢都非常重要。输是很重要的一课，这也是我爱游戏的原因，甚至是我爱巴西柔术的原因：你可以在一个安全的环境里被反复揍。它提醒你物理是怎么回事，世界是怎么运转的，提醒你有时会输、有时会赢，而你依然可以和所有人做朋友。输的那种感觉，对我们人类来说是很难消化的东西：输本来就是生活的一部分，是生活最根本的一部分。

哈萨比斯： 据我理解，武术是这样，国际象棋也是这样。至少我是这么理解的：它很大程度上关乎自我提升和自我认知。"好，我做了这件事。"重点其实不在于打败对方，而在于把自己的潜力最大化。如果你以健康的方式去做，你会学会如何使用胜利和失败：不要被胜利冲昏头脑，以为自己天下第一；而失败让你保持谦卑，让你永远知道还有东西要学，永远有更厉害的高手可以指点你。我相信你在武术里也学到了这个，而这也是我在国际象棋里受到的训练方式。它可以非常硬核，也非常重要。你当然想赢，但你也需要学会以健康的方式面对挫折，把输的时候那种感受接进来，转化成一种建设性的东西：下次我要在这里进步，要在这一点上做得更好。

主持人： 有一种幸福感和意义感，正来自那个"进步"的动作，而不是输赢本身。

哈萨比斯： 是的，那种精熟感。没有什么比这更让人满足了：哇，这件事我以前做不到，现在我能做到了。而游戏，体力上的和脑力上的竞技，都是衡量的方式，它们的美就在于你可以量出那份进步。

主持人： 我想这也是我爱角色扮演游戏的原因，技能树上的数字往上涨，字面意义上的数字往上涨，对我们人类来说就是意义的来源。

哈萨比斯： 我们对这种数字上涨相当上瘾。也许正因为如此我们才做出那样的游戏，因为我们自己显然就是爬坡系统。

主持人： 如果我们没有任何这样的机制，那才叫难过。

哈萨比斯： 不同颜色的腰带。我们到处都在干这件事，这挺好的���

主持人： 我也不想轻视它，这确实是一种跨越人群的、深层的意义来源。

Gemini 的翻盘

主持人： 说到商业和领导力，过去一年里谷歌做的事情是个了不起的故事。我想公允地说，一年前在大模型产品这一侧，Gemini 1.5 的时候谷歌是落后的，而现在 Gemini 2.5 是领先的。你接过了指挥棒，带着这件事往前推。在一年的时间里，从所谓的"输"走到所谓的"赢"，靠的是什么？

哈萨比斯： 首先，我们有一支绝对出色的团队，由 Koray、Jeff Dean、Oriol 他们带领，Gemini 团队是世界级的。没有最好的人才就做不成。当然我们也有大量优质算力。但更重要的是我们打造的研究文化，以及把谷歌内部不同的团队聚到一起：曾经的 Google Brain 是世界一流的团队，还有原来的 DeepMind。我们把最好的人和最好的想法汇拢起来，围坐在一起，做出我们能做出的最强系统。

哈萨比斯： 这个过程很难，但我们都非常争强好胜，而且热爱研究，这件事本身就太有意思了。看到我们的轨迹很棒。这并不是理所当然的，但我们对现在的位置很满意，而进展速度才是最重要的东西。你看我们从两年前到一年前再到现在，我们称之为"不间断的进展"，加上把这些进展"不间断地交付出去"，一直非常成功。而且整个空间，整个 AI 领域，竞争激烈到难以置信，世界上最了不起的创业者、领导者和公司现在全都在竞争，因为所有人都意识到了 AI 有多重要。能看到我们这样的进展，我们很欣慰。

主持人： 谷歌是一家巨型公司。你能不能谈谈那些自然而然会出现的东西？比如官僚化，你得当心那种自然生长出来的会议、层级、经理。从领导者的角度，要突破那些东西、像你说的那样把一个又一个产品交付出去，挑战在哪里？过去一年里发布的 Gemini 相关产品数量简直离谱。

哈萨比斯： 确实如此，这就是"不间断"的样子。我觉得问题在于，任何一家大公司最后都会有很多层管理，这是运作方式使然。但我自己一直是按创业公司的方式在运作的，原来的 DeepMind 就是这样，一家大型的创业公司，但仍然是创业公司。今天的谷歌 DeepMind 依然如此。我们保持决断力，保持那种你在最好的小团队里才能获得的能量。

哈萨比斯： 我们努力取两边之长：一边有数十亿用户的产品界面和惊人的产品，可以用我们的 AI 和研究去赋能；另一边能做世界级的研究。这很了不起。世界上很少有地方能同时做到：今天做出世界一流的研究，第二天就把它接进产品，改善数十亿人的生活。这是非常了不起的组合。我们也在持续地搏斗、持续地砍掉官僚层，好让研究文化和不间断交付的文化能生长起来。同时作为一家大公司，你必须负责任，何况我们还有数量庞大的产品界面。我觉得我们目前的平衡相当不错。

尚未触及的世界

主持人： 你说到数十亿用户的界面，这让我想起一件有趣的事。我在这里的大英博物馆和一位杰出的学者聊过，他叫欧文·芬克尔，是研究楔形文字泥板的世界级专家。他不知道 ChatGPT，不知道 Gemini，对 AI 一无所知。而他与 AI 的第一次接触，是谷歌上的 AI 模式。他会问："你说的就是这个 AI 模式吗？"这提醒我们，世界上有很大一部分人还不知道 AI 这回事。

哈萨比斯： 我知道，这挺有意思的。如果你活在 X 和推特上，至少我的信息流里，全是 AI。有些地方，比如硅谷和某些圈子，所有人满脑子都是 AI。但很大一部分正常世界还没碰上它。

主持人： 而这意味着巨大的责任，那是他们的第一次接触。放到印度乡村，或者世界上任何地方，你都会触达他们。

哈萨比斯： 没错，你希望它尽可能好。而且很多情况下它只是在引擎盖底下发挥作用，让地图或者搜索变得更好用。对很多人来说，理想状态就是无缝的：这只是一项让他们的生活更有效率、能帮到他们的新技术。

产品设计与界面

主持人： Gemini 产品和工程团队的一些人对你评价极高，而且是在一个我几乎没预料到的维度上。我一直把你想成那种深潜的科学家，关心那些宏大的研究问题。但他们说你也是个很棒的产品人，懂得怎么做出一个很多人愿意用、用得开心的东西。你能不能讲讲，做出一个大量用户喜欢用的 AI 产品需要什么？

哈萨比斯： 这又要说回我做游戏设计的那些年，我当年就是在为数百万玩家设计游戏，人们常常忘了这一点。我有过把前沿技术做进产品的经验，九十年代的游戏正是那样。所以我特别喜欢那种组合：最前沿的研究，被用进一个产品里，撑起一种新的体验。我觉得这其实是同一种能力：设身处地去想象使用它会是什么感觉，以及拥有好的品味，又回到刚才那个词。在科学里有用的那种东西，我认为在产品设计里同样有用。

哈萨比斯： 而且我一直是个跨学科的人，我并不真的看到艺术与科学之间、产品与研究之间有什么边界，对我来说那是一个连续统。我只做前沿的东西。如果引擎盖底下没有前沿技术，我大概也做不来，如果只是普普通通的产品我不会兴奋。所以它同样需要发明和创造的能力。

主持人： 具体来说，在大模型这一侧，你和 Gemini 交互的时候，会不会觉得"这个布局不对，这个界面不对"，或者关于延迟的取舍？比如怎么呈现给用户、让他等多久、等待过程怎么展示，或者推理能力怎么呈现？这些都很有意思，因为像你说的，它太前沿了，我们还不知道怎么正确地呈现它。有没有哪些具体的心得？

哈萨比斯： 这个空间变化太快了，我们一直在重新评估。但就现在而言，你要做的是持续简化，无论是界面，还是你在模型之上搭的那些东西。你多少得给模型让路。模型这列火车正沿着轨道冲过来，而且进步快到不可思议，就是我们刚才说的那种不间断的进展。你看 2.5 和 1.5 的差距，是巨大的提升，我们预期下一个版本同样如此。

哈萨比斯： 所以模型的能力在不断变强。今天这个"AI 优先"的产品设计空间里，有意思的地方在于：你不能按技术今天能做什么来设计，而要按它一年后能做什么来设计。于是你必须是个技术功底很深的产品人，因为你得有很好的直觉和感觉去判断：我现在梦想的这个东西今天做不到，但研究进度是否会按计划在六个月或一年后与它交汇？你得去拦截这项高速变化的技术将要抵达的位置。与此同时，新能力还在不断上线，有些是你事先根本没想到的，比如让深度研究（Deep Research）成为可能，或者现在我们有了视频生成，那我们拿它做什么？

哈萨比斯： 关于多模态，我有个问题：真的还会是我们今天这种用户界面吗？一旦你考虑到这些超级多模态的系统，那种文本框聊天看起来非常不可能继续。它难道不该更像《少数派报告》那样，你和它以某种协作的方式"合拍地"互动？今天的形式看起来限制太多了。我觉得再过几年回头看，今天的界面、产品和系统会显得相当古旧。所以我认为在产品这一侧和研究一侧一样，有很大的创新空间。

主持人： 我们刚才在录制之外聊到键盘。一个开放的问题是：我们会在什么时候、以多大程度，把与身边机器互动的主要方式从打字转向语音？

哈萨比斯： 打字是一种带宽非常低的方式，哪怕你打字非常快。我觉得我们势必要开始利用别的设备，无论是智能眼镜、音频耳机，还是最终某种神经设备，把输入和输出的带宽提高到今天的大概一百倍。

主持人： 我觉得界面设计是被严重低估的艺术形式。因为如果界面不对，你根本释放不出系统的智能。界面才是你释放它力量的方式。怎么做到这一点，是个特别有意思的问题。你会以为"给模型让路"并不算什么艺术。

哈萨比斯： 可它就是。这大概就是史蒂夫·乔布斯一直在讲的东西：我们要的是简洁、美和优雅。在我看来还没有人达到那个境界，而那是我希望我们抵达的地方。这又回到围棋了：最优雅、最美的游戏。你能不能做出一个和它一样美的界面？

哈萨比斯： 而且我觉得我们会进入一个 AI 生成界面的时代，界面大概会针对你个人定制，贴合你的审美、你的感觉、你大脑运作的方式，AI 根据任务生成相应的界面。感觉这大概就是我们最终会去的方向。

主持人： 对，因为有些人是高级用户，他们希望每一个参数都摆在屏幕上，什么都要。比如我，基于键盘操作，我希望什么都有快捷键。而另一些人喜欢极简。

哈萨比斯： 把所有复杂性都藏起来，正是如此。

主持人： 很高兴你身上也有一个乔布斯模式。爱因斯坦模式，乔布斯模式，太棒了。

版本、跑批与基准

主持人： 那我来试着套你一句话：Gemini 3.0 什么时候发布？是在《GTA 6》之前还是之后？全世界都在等这两样东西。另外，从 2.5 走到 3.0 意味着什么？因为 2.5 已经发布了很多版本，每一版都是性能上的跃升。所以换一个新版本号到底意味着什么？是性能，还是完全不同风味的体验？

哈萨比斯： 我们的版本号是这样运作的。做一次全新的完整训练跑批加上完整的产品化，大概需要六个月左右。在这段时间里，会冒出很多新的有趣研究、迭代和想法，我们把它们收集起来。你可以想象过去六个月里在架构方面、也许在数据方面，各种各样的有趣想法，我们把这些打包在一起，测试哪些可能对下一次迭代有用，然后捆成一包。接着我们启动新的、巨大的"英雄训练跑批"（hero training run），全程监控。预训练结束之后是全部的后训练，那里有很多种做法、很多种打补丁的方式，那是一个完整的实验阶段，也能榨出很多收益。

哈萨比斯： 所以版本号通常指的是基座模型，也就是预训练模型。而 2.5 的那些中间版本、不同尺寸、各种小增补，往往是在同一个基础架构上做的补丁或者后训练层面的想法。在这之上我们还有不同尺寸：Pro、Flash 和 Flash-Lite，它们通常是从最大的那个蒸馏出来的，比如 Flash 来自 Pro。这意味着如果你是开发者，你有一系列选择：你想优先要性能，还是速度和成本？我们喜欢用帕累托前沿来思考这件事，纵轴是性能，横轴是成本或者延迟和速度。我们的模型完整地定义了这条前沿，所以无论你作为个人用户还是开发者想要什么样的取舍，都应该能找到一款满足你约束的模型。

主持人： 所以版本变化背后是一次大的英雄跑批，然后是复杂到疯狂的产品化，再沿着帕累托前沿做不同尺寸的蒸馏。而每走一步，你又会发现可能藏着一个很酷的产品，于是出现支线任务。但你又不能接太多支线任务，否则你会有一百万个版本和一百万个产品，那就说不清楚了。可你同时又超级兴奋，因为它实在太酷了。哪怕看 Veo，那也非常酷，它怎么装进更大的那件事里去？

哈萨比斯： 完全正确。然后你就处在一个我们称之为"向上游收敛"的持续过程里：把产品界面上的想法，或者后训练里的想法，甚至比这还更下游的东西，往上游收进下一次跑批的核心模型训练里。于是主模型、Gemini 主干道就变得越来越通用。最终，那就是 AGI。

主持人： 一次一个英雄跑批。

哈萨比斯： 正是如此。

主持人： 那么，当你们发布这些新版本时，基准测试对展示模型性能是帮助还是妨碍？

哈萨比斯： 你需要它们，但重要的是不要过拟合到它们上面。它们不该是终极标准。有 LM Arena，以前叫 LMSYS，它有点自发地变成了大家检验这些系统的主要方式之一，至少对聊天机器人是这样。当然还有一大堆学术基准，测数学、编程、通用语言、科学能力等等。我们自己也有内部关心的基准。

哈萨比斯： 这本质上是一个多目标优化问题，你不想只在一件事上出色。我们要造的是全面通用的系统。你要追求的是"无悔改进"：你在编程上提升了，但不会让别的领域退化。难就难在这里。你当然可以塞更多编程数据，或者塞更多游戏数据，但那会不会让你的语言系统、翻译系统或者其他你在意的能力变差？所以你必须持续监控一个越来越庞大的基准套件。而且当你把这些模型放进产品，你还得关心真实使用情况、直接的统计数据，以及来自终端用户的信号，无论他们是程序员还是使用聊天界面的普通人。

主持人： 因为你最终想衡量的是"有用性"，但这太难转成一个数字了。它其实是大规模用户身上的那种"感觉"基准，很难说清楚。对我来说会挺可怕的：你明明有了一个聪明得多的模型，但某种感觉上就是不太对劲。而且你刚才说的这一切，它必须在那么多领域上都既聪明又有用。所以你会突然超级兴奋，因为它解决了以前解决不了的编程问题，可现在它写诗又变差了。

哈萨比斯： 正是如此。

主持人： 这太难平衡了。而且既然不能完全信任基准，你就真的得信任终端用户。

哈萨比斯： 是的。而且还有更玄的东西会掺进来，比如系统的风格、它的人格：它啰嗦吗？简洁吗？幽默吗？不同的人喜欢不同的东西，所以这非常有意思。这几乎像是心理学研究或者人格研究的前沿。我读博的时候做过这类东西，比如五因素人格模型。我们究竟希望我们的系统是什么样的？而且不同的人喜欢的东西也不一样。这些都是产品空间里的新问题，我觉得以前从没真正有人处理过，但我们现在必须迅速面对了。

主持人： 我觉得这是个特别迷人的空间：塑造这个东西的性格。而这样做，等于给我们自己照了一面镜子：我们到底喜欢什么样的东西？提示词工程能让你控制不少这类要素，但产品能不能让你更容易地去调节那些不同风味的体验、那些不同的性格？

哈萨比斯： 正是如此。

竞争、合作与责任

主持人： 那么，谷歌 DeepMind 赢下来的概率有多大？

哈萨比斯： 我并不把它看成"赢"。考虑到我们正在建造的东西有多重要、后果有多重大，我觉得用"赢"来看待这件事是错的。说来好笑，我反而尽量不把它当成一场比赛或竞争，尽管那确实是我很大一部分的思维方式。在我看来，我们所有站在前沿的人，都有责任把这项不可思议的技术，这项既可能带来巨大善果、也带有风险的技术，安全地引导到世界上来，为人类造福。那一直是我梦想的事，也是我们一直努力在做的事。我希望，随着我们越来越接近 AGI，当这一点变得显而易见时，整个社群，也许是整个国际社会，最终会围绕这件事凝聚起来。

主持人： 我同意，说得很好。你说过你和其中一些实验室的负责人有交流，关系不错。随着竞争升温，维持这些关系有多难？

哈萨比斯： 到目前为止还好。我自认是个合作型的人。研究是协作的事业，科学是协作的事业。到头来，这对人类都是好事。如果你治好了可怕的疾病，拿出了了不起的疗法，这对人类就是净收益。能源也是。所有我有兴趣用 AI 去帮忙解决的事情都是如此。我只是希望那项技术能存在于世，被用在正确的地方，并且它带来的好处、它带来的生产力红利，能为所有人共享。

哈萨比斯： 所以我尽量和所有领先实验室的人保持良好关系。他们中很多人都是非常有意思的角色，这大概也在你意料之中。但我和几乎所有人都算关系不错。我觉得当事情变得比现在更严峻时，这一点会很重要：那些沟通渠道要在，这才可能促成合作或协作，特别是在安全这类问题上。

主持人： 我也希望在一些没那么高风险的事情上有合作，并且以此作为维系友谊和关系的机制。比如说，如果你和埃隆能一起做个电子游戏，互联网会爱死这个的。那种事能建立起同袍之情，而且你们俩都是正经玩家，一起做点东西本身就很好玩。

哈萨比斯： 那会很棒。我们过去也聊过这件事，也许真是件很酷的事。我同意你的看法：有些副业项目是好的，你可以纯粹地投入到合作的那一面，对双方都是双赢，而且能练出那块"合作的肌肉"。

主持人： 我把科学事业看作人类的那种"副业项目"。而谷歌 DeepMind 一直在大力推动它。我很希望看到别的实验室多做点科学，然后一起合作，因为在宏大的科学问题上合作似乎更容易。

哈萨比斯： 我同意。而且我很希望看到更多人这么做。很多其他实验室都在谈科学，但我觉得真正把 AI 用在科学上、真正在做这件事的，基本只有我们。这也是为什么像 AlphaFold 这样的项目对我这么重要。我觉得对我们的使命来说，它展示了 AI 如何能以非常具体的方式明确地造福人类。我们还从 AlphaFold 衍生出了 Isomorphic 这样的公司去做药物发现，进展非常好，你可以把它理解成再造一批 AlphaFold 式的系统，进入化学空间，帮助加速药物设计。我认为我们需要展示、社会也需要理解的，正是这些 AI 能带来巨大好处的例子。

主持人： 那我发自内心地感谢你，把科学事业向前推，带着严谨，带着乐趣，也带着谦逊。我就是喜欢看到这个。而且我们居然还在聊 P=NP，太棒了。

人才争夺战

主持人： 外界似乎在打一场人才争夺战，其中一部分可能只是梗，我说不准。你怎么看 Meta 用天价薪酬扫货人才、这场抢人大战不断升温？我也应该说，我觉得很多人把 DeepMind 看作做前沿工作的绝佳去处，理由正是你刚才讲的那些，比如那种生机勃勃的科学文化。

哈萨比斯： 是的。当然，Meta 现在采取的是一种策略。至少从我的角度看，我认为那些真正相信 AGI 这个使命、明白它能做什么、明白由此而来的正反两方面真实后果以及那份责任意味着什么的人，他们之所以做这件事，大多和我一样，是为了站在那项研究的前沿，好让自己能影响它的走向，把这项技术安全地引导到世界上来。

哈萨比斯： 而 Meta 目前不在前沿，也许他们能重新回到前沿。从他们的角度看，他们现在做的事大概是理性的，因为他们落后，必须做点什么。但我认为有比钱更重要的东西。当然你得按市场价付给员工报酬，这些价码还在往上走。而且我早就料到会这样，因为越来越多的人，尤其是公司的领导者们，终于意识到我三十多年来一直清楚的事：AGI 大概是有史以来将被发明出来的最重要的技术。所以某种意义上，他们那么做是理性的。

哈萨比斯： 不过我觉得还有个大得多的问题。现在 AI 领域的人报酬非常高。我还记得我们 2010 年起步的时候，有好几年我根本没给自己发工资，因为钱不够，我们也融不到钱。而如今一个实习生拿到的钱，相当于我们当年整个种子轮融到的数目。挺好笑的。我还记得我当年得白干活、几乎自掏腰包去做实习，现在完全反过来了。但事情就是这样，这是新世界。

哈萨比斯： 不过我们刚才在讨论 AGI 之后会发生什么、能源问题被解决之后会发生什么，那时候钱到底还意味着什么？还有经济，我们会有大得多的问题要处理：在那个世界里经济怎么运转，公司怎么运转。所以我觉得，今天关于薪水之类的讨论，多少算是个枝节问题。

主持人： 是啊，当你面对的是如此巨大的后果和如此迷人的科学问题的时候。

哈萨比斯： 而且这些可能只有几年之遥。

程序员与十倍速革命

主持人： 那从务实的角度，我们把镜头拉近到工作岗位上。就看程序员好了，因为 AI 系统现在在编程上表现好得惊人，而且越来越好。所以很多靠写程序为生、热爱编程的人在担心自己会丢掉工作。你觉得他们该有多担心？以及在这个新现实里，怎样调整才能作为人类既活下来又活得好？

哈萨比斯： 有意思的是，编程这件事，跟我们多年前的预期又是反直觉的：我们以为更难的那些技能，因为种种原因，反而可能是更容易被攻克的。编程和数学就是如此，因为你可以生成大量合成数据，并且可以验证这些数据是否正确。正因为它有这种性质，做出可供训练的合成数据更容易。当然这也是我们所有人都感兴趣的领域，因为我们都是程序员，都希望它帮我们更快、更高产。

哈萨比斯： 我认为在下一个时代，也就是接下来五到十年里，我们会看到：那些拥抱这些技术、几乎与它们合为一体的人，无论在创意行业还是技术行业，会变得近乎超人般高产。最优秀的程序员会变得更好，甚至比今天强十倍，因为他们能用自己的本事把工具用到极致、榨到极致。我觉得这就是下一个阶段会出现的景象。

哈萨比斯： 这当然会带来相当大的变化，而变化正在到来。很多人会从中受益。举个例子，如果编程变得更容易，就会有更多创作者能用它做更多事。但我认为顶尖程序员仍然有巨大优势，回到"给出规格"这件事：架构该是什么样，问题该怎么提，怎么以有用的方式引导这些编程助手，怎么检查它们产出的代码好不好。所以在可预见的未来几年里，这方面还有很大空间。

主持人： 这里有几个有意思的点。一是有一种紧迫感，你得持续地、稳定地把这些工具用得越来越好，也就是骑在模型改进的浪头上，而不是和它们竞争。但遗憾的是，按照地球上生活的规律，某些前沿的编程工作价值会极高，而另一些则会贬值。比如前端网页设计可能更容易被 AI 生成，而游戏引擎设计，或者后端设计，或者在高性能场景下引导系统、做高性能编程的那类设计决策，可能会极有价值。但"人类最被需要的位置"会发生转移，而这对人们来说是可怕的。

哈萨比斯： 我觉得你说得对。任何时候只要出现大量颠覆和变化，而这不是第一次，我们在人类历史上经历过很多次，互联网、移动互联网，在那之前当然还有工业革命，那就会是一个变化剧烈的时代。我认为会出现今天我们根本想象不到的新工作，就像互联网创造出来的那些。而那些具备合适技能、能骑上这波浪的人，他们的技能会变得极有价值。但也有人得重新学习，或者调整自己现有的技能。

哈萨比斯： 这一次更难应付的地方在于，我认为我们将看到的大概是工业革命十倍的冲击力，同时速度也快十倍。所以不是一百年，而是十年。两者相乘，就是一百倍。我觉得这才是社会更难消化的地方。有太多东西需要想清楚，而我认为我们现在就该开始讨论。我也鼓励世界顶尖的经济学家和哲学家开始思考：社会将如何被这件事影响，我们该怎么做？其中也包括普遍基本供给（universal basic provision）之类的方案，让增加的生产力被拿出来分享、分配给社会，也许以服务和其他形式提供；如果你想要更多，那你仍然可以去掌握某些极稀缺的技能，让自己独一无二，但基本供给是有保障的。

主持人： 如果你把政府也看成一种技术，那就还有有意思的问题，不只在经济上，也在政治上。你如何设计一个能够回应快速变化的系统，让不同群体感受到的不同痛苦都能被代表？你如何重新分配资源，既回应那种痛苦，又能代表不同人群的希望、痛苦与恐惧，而不至于走向撕裂？因为政客往往非常擅长煽动分裂，并靠它当选，先定义出一个"他者"，然后说他们是坏的。在我看来，这对于利用一项飞速变化的技术让世界繁荣起来，常常是帮倒忙。所以如果把政治体制也当成技术，我们几乎也得同样迅速地改进它。

哈萨比斯： 毫无疑问。我认为我们会需要新的治理结构，很可能是新的制度，来帮助完成这次过渡。所以政治哲学和政治学会是关键。但我觉得首要的、排第一的事情，是先创造出更充裕的资源，提高生产力，拿到更多资源，最终走出零和局面。第二个问题才是如何使用和分配这些资源。但没有先把丰裕做出来，你是做不到后者的。

冯·诺依曼与人文

主持人： 你跟我提过本雅明·拉巴图特的《疯狂》（The MANIAC）。首先，关于你也有一本传记，很奇怪。

哈萨比斯： 是挺奇怪的。

主持人： 也说不清里面有多少是虚构、多少是事实。不过书的核心人物我想是约翰·冯·诺依曼。我会说这是一本令人不安又美丽的书，探讨疯狂与天才，以及发现这件事的双刃性。对不了解的人说一句：冯·诺依曼是传奇般的头脑，他对量子力学有贡献，参与过曼哈顿工程，被广泛认为是现代计算机的奠基者或先驱，也是 AI 的先驱。很多人说他是有史以来最聪明的人之一，这本身就很迷人。同样迷人的是，作为一个亲眼看着核科学和物理学变成原子弹的人，他见证了想法如何变成对世界产生巨大冲击的现实，而他对计算也预见到了同样的事。这也是那本书既美丽又令人不安的地方。再往前跳一步，看看 AlphaZero、AlphaGo，那个重大时刻也许正是冯·诺依曼的思考变成现实。所以问题是：如果你现在能和冯·诺依曼待一会儿，你觉得他会怎么评价眼下发生的事？

哈萨比斯： 那会是一次了不起的体验。他是个了不起的头脑。我也很喜欢他把大量时间花在普林斯顿高等研究院的做法，那是个非常适合思考的特别地方。他身上的博学程度、他参与发明的东西的跨度，都令人惊叹，当然还包括所有现代计算机赖以为基础的冯·诺依曼架构。

哈萨比斯： 他有惊人的前瞻力。我想他会喜欢我们今天的位置。我觉得他会真的很喜欢 AlphaGo 这件事，毕竟那是一个游戏，而他也研究博弈论。我认为他预见到了学习机器会发生的很多事，那种"被养出来"而不是"被编出来"的系统，我记得他大概就是这么说的。所以我甚至不确定他会不会感到意外，这可能只是他在五十年代就已经预见到的东西的落地。

主持人： 我很好奇他会给出什么建议。他亲眼见过曼哈顿工程造出原子弹。我猜其中有些东西是被谈论得不够的，也许是某些官僚层面的东西，也许是政客的影响，也许是没能多拿起电话、和那些被政客称作敌人的人说说话。那个年代也许有些深刻的智慧，我们其实已经丢失了。

哈萨比斯： 我相信有。我读过很多那个时期的书，那是个被详细记录下来的时代，牵涉到一些非常杰出的人。我同意你说的，也许需要更多对话和理解，我希望我们能从那个时代学到东西。我觉得这一次的不同在于，AI 是多用途技术。显然我们想做的是治好所有疾病、解决能源和稀缺问题，这些了不起的事情，这正是我和我们所有人三十多年前踏上这条路的原因。但风险同样存在。我猜冯·诺依曼两边都预见到了。我记得他曾对妻子说过，计算机对世界的影响会更大。就像我们刚才讨论的，我觉得他说得对，这至少会是工业革命的十倍。所以我想他大概会对我们如今所处的位置着迷。

主持人： 也许你可以纠正我，但我从那本书里读到的一个结论是：理性，用书里的话说，理性的疯狂之梦，不足以在我们建造这些超级强大的技术时为人类指路，还需要别的东西。其中也有类似宗教的成分。无论是什么样的神、什么样的信仰，它触动了人类精神里某种冷冰冰的纯粹理性给不了的东西。

哈萨比斯： 我同意这一点。我认为我们需要带着某种维度去面对它，你可以叫它精神维度，也可以叫它人文维度，它不一定和宗教有关。但那种关于灵魂的观念，关于是什么让我们成为人、我们身上那点火花，也许它最终和意识有关，等我们真正理解意识的那一天，我认为它必须处在这整件事的核心。

哈萨比斯： 而技术，我一直把技术看作赋能者，是让我们得以繁盛、得以更多地理解世界的工具。在这一点上我站费曼那边。他总是说科学和艺术是伙伴，你可以从两边去理解一朵花的美：它多么美，同时也理解为什么花的颜色会那样演化出来。那只会让它更美，而不会损害花本身固有的美。我一直是这么看的。

哈萨比斯： 也许在文艺复兴时期，像达·芬奇那样的伟大发现者，我不认为他会觉得科学与艺术，甚至与宗教之间有什么区别。一切都只是身为人的一部分，是被周遭世界所激发的一部分。这也是我努力采取的哲学。我最喜欢的哲学家之一是斯宾诺莎，我觉得他把这一切结合得非常好：试图理解宇宙，同时理解我们在其中的位置，那就是他理解宗教的方式。我觉得这相当美。对我来说，所有这些都是相互关联的，技术与身为人的意义。

哈萨比斯： 而我认为很重要的一点是，当我们沉浸在技术和研究里的时候，要记住这件事。我看到我们领域里不少研究者视野有点太窄，只懂技术。我也因此认为，这件事必须交给整个社会来讨论。我非常支持即将举行的那些 AI 峰会，支持各国政府去理解它。我觉得聊天机器人时代、AI 产品时代有一个好处：普通人真的可以亲手触碰、亲自感受最前沿的 AI。

主持人： 因为它们逼着技术人员去进行那场属于人的对话。这是其中充满希望的一面。就像你说的，这是一项两用技术，而我们正在强行把整个人类拉进关于 AI 的讨论里。因为归根结底，AI 和 AGI 会被用在国家惯常使用技术的那些事情上，包括冲突。而我们通过让人们跟它聊天，把越来越多的人纳入这幅图景，我们才越有可能去引导它。

哈萨比斯： 是的，社会才能适应这些技术，就像我们过去面对那些了不起的发明时一直做的那样。

曼哈顿还是 CERN

主持人： 你觉得会不会出现类似曼哈顿工程的东西？也就是这项技术的能力被不断升级，而各国按照旧有的思维方式，试图把它当作武器技术来用，于是形成某种军备升级？

哈萨比斯： 我希望不会。我觉得那样做非常危险，也不是这项技术的正确用法。我希望我们最终走向更具协作性的形式，如果确实需要的话，更像 CERN 那样的项目：以研究为中心，世界上最好的头脑聚到一起，谨慎地完成最后几步，确保以负责任的方式完成，然后再把它部署到世界上。我们走着瞧。以当前的地缘政治气候，合作确实很难想象，但情况是会变的。而且我认为至少在科学层面，研究者之间保持联系、在这些话题上保持亲近是很重要的。

主持人： 我个人也相信教育和移民这一侧的作用。如果两个方向都能流动，西方的人到中国去，中国的人过来，那会很好。这里面有一种家庭式的、属于人的东西：人们混在一起，纽带就长结实了，你就没法用那种老派思维把彼此分成对立阵营。所以多文化、多学科的研究团队一起攻克科学问题，那就是希望所在。别让那些好战的领导人把我们分开。我觉得科学最终是非常美的连接器。

哈萨比斯： 科学一直是相当协作的事业。科学家也知道这是集体性的事业，我们都能互相学习。所以它也许能成为促成一点合作的载体。

p(doom) 与风险

主持人： 又是个离谱的问题：你的 p(doom) 是多少，也就是人类文明自我毁灭的概率？

哈萨比斯： 我没有一个 p(doom) 数字。原因是我觉得给出数字意味着一种并不存在的精确度。我不知道人们的 p(doom) 数字是怎么得出来的，我觉得那多少有点荒唐。我会说的是：它肯定不为零，而且很可能不可忽略。光这一点就已经足够让人清醒了。

哈萨比斯： 我的看法是，这里的不确定性极大。这些技术究竟能做到什么？它们会以多快的速度起飞？它们有多可控？有些事情可能会比我们想的容易得多，但也可能有些难题比我们今天猜测的更难，我们无法确定。在这种高度不确定、而两个方向的赌注都极大的条件下，一方面我们可能治好所有疾病、解决能源问题、解决稀缺问题，然后走向群星，把意识带向群星，实现最大程度的人类繁荣；另一方面则是那些 p(doom) 的情形。

哈萨比斯： 所以鉴于它的不确定性和重要性，我很清楚，唯一理智、唯一说得通的做法是"审慎的乐观"。我们想要那个结果，我们想要 AI 能带来的全部好处和所有了不起的东西。而且说实话，考虑到我们面临的其他挑战，气候、疾病、老龄化、资源，如果我不知道 AI 正在路上，我会真的为人类担心，我们怎么解决那些问题？我觉得很难。

哈萨比斯： 所以它可能带来惊人的正向变革。但另一方面，那些我们知道存在、却无法精确量化的风险也在。最好的做法就是用科学方法去做更多研究，更精确地界定这些风险，当然还要处理它们。我觉得这正是我们在做的事。而且随着我们离 AGI 那条线越来越近，这方面的投入大概需要比现在多十倍。

主持人： 对你来说，更大的担忧来源会是哪一个：人为的，还是 AGI 本身的？是人类滥用这项技术，还是 AGI 自身通过你谈过的那些机制，比如那种很迷人的欺骗行为，悄悄变得越来越强，然后还有国家？

哈萨比斯： 我认为它们作用在不同的时间尺度上，而且同样重要，都要处理。一方面是最常见的那种：坏人拿到新技术，在这里是一项通用技术，把它改用于有害目的。这是巨大的风险，而且情况很复杂。因为总体上我是开放科学和开源的坚定支持者，事实上我们所有科学项目都这么做了，比如 AlphaFold，全是为了科学共同体的利益。但你如何限制坏人，无论是个人还是流氓国家，获得这些强大系统的能力，同时又让好人能获得它、在它之上尽可能地建设？这是个相当棘手的问题，我还没听到过清晰的解法。

哈萨比斯： 另一方面，随着系统变得越来越具备能动性（agentic）、越来越接近 AGI、越来越自主，我们如何确保护栏有效，让它们坚持做我们希望它们做的事，并处在我们的控制之下。

主持人： 也许是我想象力有限，我倾向于更担心人，也就是坏人。而这件事一方面是"如何不让破坏性技术落到坏人手里"，另一方面，从地缘政治和技术的角度看，是"如何减少世界上坏人的数量"。那也是个有意思的人类问题。

哈萨比斯： 这是个难题。不过你看，我们也许可以用技术本身来对某些坏人用例做早期预警，无论是生物的、核的还是别的，AI 在这里可能很有帮助，前提是你用的那个 AI 本身是可靠的。所以这是个环环相扣的问题，正因如此才棘手。而且这可能需要某种国际层面的共识，至少在中美之间要有一些基本标准。

神之一手与人之为人

主持人： 我得再问一次《疯狂》那本书里的东西：那个"神之一手"的时刻，李世石的第 78 手。那也许是最后一次，一个人类下出纯粹属于人类天才的一手，击败了 AlphaGo，或者说把它的脑子打断了。抱歉我拟人化了。但那是个很有意思的时刻，因为我觉得在许多领域，这样的事还会不断发生。

哈萨比斯： 那是个特别的时刻。对李世石来说很了不起。而且某种意义上，他们是在互相激发。我们作为团队被李世石的才华和风度所激励，而他也许是被 AlphaGo 正在做的事所激励，才召唤出那个令人振奋的时刻。关于这件事的纪录片把它记录得非常好。

哈萨比斯： 我认为这在很多领域还会继续发生，至少在可预见的未来：人类带来创造力，提出正确的问题，然后以某种方式使用这些工具，最终把问题攻克。

主持人： 随着 AI 越来越聪明，我们可以问自己一个有意思的问题：是什么让人类特别？总觉得"我们人类极其特别"这种想法带着偏见。我不知道那是不是我们的智能，也许是别的什么东西，那个落在"理性的疯狂之梦"之外的东西。

哈萨比斯： 这正是我小时候、在踏上这条路的时候一直设想的事。我当然被意识这类问题迷住，为此去读了神经科学博士，研究大脑如何运作，尤其是想象和记忆，我主攻海马体。当然，你可以对这件事做哲学思辨，做思想实验，甚至像神经科学那样在真实大脑上做实验。但我一直觉得，最好的办法是造出一个 AI，一个智能的造物，然后把它和人类心智做比较，看看差别在哪里，这才是揭示人类心智有何特别之处的最佳途径，如果确实有什么特别之处的话。我猜多半是有的，但很难说清楚。我觉得我们正在走的这段旅程会帮我们理解并定义它。

哈萨比斯： 而且，碳基基底（也就是我们）和硅基基底在处理信息时，可能确实存在差别。我很喜欢的一个关于意识的定义是：意识是信息被处理时的那种感觉。这当然不是一个特别有用的科学解释，但我觉得它作为直觉挺有意思。所以我认为这趟科学旅程会帮我们揭开那个谜。

主持人： "凡我不能创造的，我就不理解。"这话出自你深深敬佩的人，你刚提到的理查德·费曼。你也在追求某种普适性的梦想，既在受限的领域里，也在数学等更广的层面上，你在推进那么多方向。不想在结尾挑事，但还是要提罗杰·彭罗斯。你觉得意识，这个"困难问题"，信息被处理时的感觉，首先，它是一种计算吗？如果它是，如果一切都是信息处理，那它是能被经典计算机建模的东西，还是量子力学性质的？

哈萨比斯： 彭罗斯是了不起的思想家，现代最伟大的之一。我们就这件事讨论过很多次，当然我们客气地各执一词。他和不少优秀的神经科学家合作，想看看能不能在大脑中找到量子力学行为的机制。据我所知，他们至今没有找到令人信服的东西。所以我押的是：大脑里发生的基本上就是经典计算，这意味着所有这些现象都可以被经典计算机建模或模仿。

哈萨比斯： 但我们走着瞧。也许最后还剩下那个神秘的部分，意识的感受、感质（qualia），哲学家们争论的那些东西，它们可能是基底特有的。而我们甚至可能会通过某些途径去理解它，比如做类似 Neuralink 那样的东西，或者建立通往 AI 系统的神经接口。我觉得最终我们大概会这么做，也许是为了跟上 AI 系统。到那时，我们也许真的能亲身体会在硅上计算是什么感觉，也许那会告诉我们答案。

哈萨比斯： 我曾和已故的丹尼尔·丹尼特辩论过一个问题：我们为什么认为彼此是有意识的？有两个理由。第一，你表现出和我一样的行为，从行为上看，如果我是有意识的存在，你看起来也是。第二点常被忽略：我们跑在同样的基底上。所以如果你的行为方式和我一样，而我们又跑在同一种基底上，那么最简洁的假设就是：你感受到的体验和我感受到的一样。

哈萨比斯： 但面对一个跑在硅上的 AI，我们就没法依赖第二点了。即便它满足第一点，行为看起来像一个有意识的存在，它甚至会宣称自己有意识，我们也无法知道它实际的感受是什么。而它大概也无法知道我们的感受，至少在最初阶段是这样。也许等我们抵达超级智能、抵达它所建造的那些技术之后，我们能架起这座桥。

主持人： 这对"激进的共情"是个巨大的考验：去共情一种不同的基底。

哈萨比斯： 正是。我们此前从未需要面对这个问题。

主持人： 所以也许通过脑机接口，我们能真正体会到"作为一台计算机、去计算"是什么感觉。

哈萨比斯： 是让信息在非碳基系统上被计算的感觉。

主持人： 有些人会在植物身上、在其他和我们很不一样的生命形态身上想这类问题。

哈萨比斯： 完全可能。

主持人： 基底相似，但在演化树上已经离得足够远，所以同样需要激进的共情。何况对象换成计算机。

哈萨比斯： 我们其实已经有这方面的动物研究了。那些更高级的动物，虎鲸、海豚、狗、猴子，还有大象，它们肯定具备意识的某些方面，尽管以智商衡量未必那么聪明。我们已经能对它们共情了。也许有一天我们的某些系统也能帮上忙，比如我们做过一个叫 DolphinGemma 的东西，那是用海豚和鲸鱼的声音训练的一个版本。也许我们能在某个时候造出一个解读器或者翻译器，那会相当酷。

希望所在

主持人： 是什么给了你对人类文明未来的希望？

哈萨比斯： 给我希望的，首先是我们几乎无穷无尽的创造力。我觉得我们中最好的那些人、最好的那些头脑令人惊叹。我特别喜欢见到、看到任何一个处在自己巅峰状态的人，无论是体育、科学还是艺术，看着他们在自己的元素里、在心流之中，没有什么比这更美妙了。这几乎是无上限的。我们的大脑是通用系统、智能系统，所以我们能用它做的事情几乎没有边界。

哈萨比斯： 另一件事是我们极强的适应力。我觉得事情会没事的。当然会有大量变化，但你看看我们现在的处境：我们带着的其实还是狩猎采集者的大脑。我们怎么可能应付得了现代世界？坐飞机，录播客，玩电子游戏和虚拟仿真。考虑到我们的心智本来是为在苔原上猎野牛而发展出来的，这已经很炸裂了。所以我觉得这只是下一步而已。而且看着社会已经如何适应今天这项炸裂的 AI 技术，其实挺有意思的，大家的反应就是："哦，我跟聊天机器人说话，完全没问题。"

主持人： 而且完全有可能，我正在做的这件事，播客，将来会被 AI 彻底取代。我很容易被取代，我也在等着那一天。

哈萨比斯： 我不认为它能做到你这个水平，莱克斯。

主持人： 谢谢。这就是我们人类对彼此做的事，互相恭维。

哈萨比斯： 正是如此。

主持人： 我也深深感激，我们人类拥有无尽的好奇心、你说的那种适应力，还有同情心和爱的能力。所有那些属于人的东西。

哈萨比斯： 所有那些深深属于人的东西。

主持人： 这是莫大的荣幸，戴密斯。你是这个世界上真正特别的人之一。谢谢你所做的一切，也谢谢你今天来聊。

哈萨比斯： 非常感谢你，莱克斯。