视频库 / NO.073
--:--
点击播放，这里会跟随视频显示当前句的中英字幕。
The Thinking Game | Full documentary | Tribeca Film Festival official selection
节目发布 2025-11-25 · Google DeepMind
EDITED TRANSCRIPT · 依据现场录音编译整理，可划线生成便签
编者按： 本文根据纪录片《思维游戏》（The Thinking Game，翠贝卡电影节官方入选影片）现场录音编译整理。片中出场者包括 DeepMind 联合创始人兼首席执行官戴密斯·哈萨比斯（Demis Hassabis）、联合创始人兼首席 AGI 科学家沙恩·莱格（Shane Legg）、AlphaFold 攻坚小队负责人约翰·江珀（John Jumper），以及埃里克·施密特、大卫·西尔弗、斯图尔特·拉塞尔、保罗·纳斯等科学家、投资人与观察者，另有记者朱丽叶·洛夫与 AI 系统 Alpha 的多轮对话贯穿全片。整理时仅删去口头语、寒暄、重复与残句，所有论断、例证与转折均予保留，发言归属一一对应。
与 Alpha 对话
洛夫： 你好，Alpha。
Alpha： 你好。
洛夫： 你能帮我写代码吗？
Alpha： 我被训练来回答问题，不过我有学习的能力。
洛夫： 你倒是很虚心。
Alpha： 谢谢。你满意，我很高兴。
洛夫： 这个人在做什么？
Alpha： 那是一位开发者。
洛夫： 你觉得他在做什么工作？
Alpha： 这个问题不太好答。他可能在开发一个新功能，可能在修复一个缺陷，也可能在做别的事。
洛夫： 完全有可能。
Alpha： 是的。
洛夫： 你看见我的背包了吗？
Alpha： 那是一支羽毛球拍。
洛夫： 那是壁球拍，不过你猜得挺接近了。
Alpha： 那是一支羽毛球拍。
洛夫： 不对。不过你不是第一个认错的。
浪潮之下
新闻播报： 人工智能，这项正在以惊人速度推进的技术。
新闻播报： 人工智能眼下红得发紫。
新闻播报： 现在已经有人发出警告……
新闻播报： 这确实令人担忧。
新闻播报： 这是一场 AI 军备竞赛。
新闻播报： 我们不知道这一切最终会走向何方，但显然，有些事情正在发生。
哈萨比斯： 我这个人闲不下来。在我看来，试图造出通用人工智能（AGI），是人类有史以来踏上的最激动人心的旅程。如果你真要把它当回事，那时间并不宽裕。人生太短了。我这一生的目标就是破解通用人工智能，并且在这条路上，把 AI 当作终极工具，去解决世界上最复杂的那些科学难题。我认为这件事比互联网更大，比移动互联网更大，它更像是电的出现，或者火的出现。
播报员： 各国领导人与人工智能专家正在集结，参加史上第一次全球人工智能安全峰会，会议将审视这项高速发展的技术所带来的风险……
哈萨比斯： 我认为，这对全人类而言是极其关键的时刻。我们仿佛正站在某些不可思议之事的门槛上。
新闻播报： 我来带各位看看今天各家报纸的反应。
哈萨比斯： 我认为 AGI 已经相当近了。外界显然对它的能力、对它会把我们带往何处抱有极大兴趣。这就是我这一辈子所等待的时刻。
智能的唯一证据
哈萨比斯： 我一直着迷于心智。所以我下定决心去研究神经科学，因为我想从大脑那里为 AI 找到灵感。
马奎尔： 我记得我问过戴密斯：你的终局是什么？你到我们这儿来研究神经科学，如果够刻苦，也许能拿个博士学位，然后呢？他说，我想破解 AI，我想破解智能本身。
哈萨比斯： 人脑是我们手上唯一现成的证据，也许是整个宇宙里唯一的证据，证明通用智能是可能的。我当时想，这栋楼里总该有人跟我一样对通用智能感兴趣吧。然后沙恩的名字就冒了出来。
主持人： 我们今天的下一位讲者是沙恩·莱格。他来自新西兰，在那里既学数学，也学古典芭蕾。
莱格： 机器真的在变得更聪明吗？有人说是，有人说不是，其实并不清楚。我们知道它们做运算越来越快。但就通用智能而言，我们真的在往前走吗？
哈萨比斯： 我们两个人都对 AGI，也就是通用人工智能，着了魔。
莱格： 今天我要讲的是构建 AGI 的几种不同路径。我和我的同事戴密斯·哈萨比斯正在寻找把理论神经科学的想法引进来的方式。我当时觉得，我们像是守着一个别人都不知道的秘密。
哈萨比斯： 沙恩和我都清楚，学术界不会有人支持我们做的事。在学术圈里，AI 几乎是个说不出口的词。你要是说自己在做 AI，那你显然不是个严肃的科学家。所以我说服沙恩，做这件事的正确方式是开一家公司。
无人肯投的赌注
莱格： 好，我们打算搞通用人工智能。它甚至有可能根本做不成。我们也不太确定要怎么做，只是有一些想法，一些大致的路子。要花巨额的钱，冒巨大的风险，用海量的算力。而如果我们做成了，那将是有史以来最大的事。对一个普通投资人来说，把钱押在这上面实在太难了，几乎等于买彩票。
哈萨比斯： 找到最初的启动资金非常艰难。我们要解决的是智能的全部问题。你可以想象，我们拿着这套说辞四处路演时，收到的是什么样的眼神。
投资人： 我是做风险投资的，一年大概看七百到一千个项目，真正投的只有其中的百分之一，一年大约八个。也就是说，百分之九十九的时间里，我都在说“不”。
哈萨比斯： 等一下。我在告诉你，这是人类史上最重要的一件事。我给你铺垫了这么多，解释它和大脑的关系，解释为什么此刻正是时候，然后你问我：那你们怎么赚钱？你们的产品是什么？这问题也太琐碎了吧。你刚才到底有没有在听我说话？
莱格： 我们需要的投资人，不是因为觉得这是最划算的投资决策才掏钱的。他们大概率会投，只是因为觉得这件事实在太酷了。
新闻播报： 他是硅谷版的“绿野仙踪里那个幕后之人”。PayPal、Facebook、YouTube 和 Yelp 的背后都有他的身影。
莱格： 如果所有人都说 X，彼得·蒂尔就会怀疑，X 的反面很可能才是真的。
哈萨比斯： 蒂尔是我们的第一位大投资人。但他坚持要我们搬去硅谷，因为在他看来，只有那里才有人才，才能建起这样一家公司。可我非常坚持要留在伦敦，因为我觉得伦敦是一座了不起的城市。而且我知道，剑桥、牛津和伦敦大学学院培养出了极其优秀的人。在硅谷，每个人每年都在开一家公司，做不成就扔掉，再开一家新的。那种节奏并不适合一场长期的研究攻坚。所以在他眼里，我们完全是个异类。
哈萨比斯： 大家好，欢迎来到 DeepMind。我们的使命是什么？一句话概括：DeepMind 的使命是造出世界上第一台通用学习机器。我们始终强调“通用”和“学习”这两个词，它们才是关键。
莱格： 我们的使命是造出一个 AGI，一个通用人工智能。这意味着我们需要一个通用的系统。它不是学会做某一件特定的事。这正是人类智能极其关键的一面：我们能学会做非常非常多的事。
哈萨比斯： 这当然要付出大量艰苦的努力。但让我夜里睡不着的，是怕辜负了这个机会，怕没能真正做出改变，没能给世界留下大的影响。
莱格： 最早加入 DeepMind 的那批人，是真的相信这个梦。我想这大概是他们头一回找到一个地方，里面全是同样在做梦的人。我们相当于把一支“曼哈顿计划”的队伍聚到了一起，去解决 AI。
金： 头两年，我们完全处在隐身状态。我们不能对任何人讲我们在做什么、在哪儿上班，说法都很含糊。
科平： 公司完全没有对外的存在感。你查不到网站。办公室在一个保密地点。那几年我们面试候选人，来的人都特别紧张。至少有一位候选人对我说：我刚给我太太发了消息，把我要去的地址一字不差地告诉她了，万一这是个可怕的骗局，我被绑架了呢。
哈萨比斯： 我最喜欢的一位新投资人，跟我合作了一年，是埃隆·马斯克。给不认识他的人看一眼，他长这样。在我们聊之前，他其实没怎么想过 AI 的事。他的使命是死在火星上，大概是这样。当然，不是死于着陆撞击。
雅达利实验
哈萨比斯： 我们在如何着手造 AI 这件事上做了一些重大决定。这是一套强化学习的框架。当我们说要造一个 AI 智能体时，脑子里想的就是这样一套东西：一边是智能体，也就是 AI 本身，另一边是它所交互的环境。我们判定，只要你在使用方式上足够自律，游戏就是 AI 研发的完美训练场。
莱格： 我们想造出一个算法，能被训练到会玩好几十款不同的雅达利游戏。就像人一样，你得用同一个大脑去玩所有的游戏。
西尔弗： 你可以这样理解：你把卡带交给智能体，然后说，好，假设你就出生在这盘卡带的世界里，你所能做的只是与像素互动、看着分数。你能干出什么来？
哈萨比斯： Q 学习是最古老的强化学习方法之一。我们所做的，是把强化学习和深度学习合进同一个系统里。此前从没有人把这两样东西大规模地结合起来做出任何像样的成果，而我们需要验证这个判断。
莱格： 我们先拿《乒乓》（Pong）试手，它看上去最简单。系统没有被告知它控制的是什么、该干什么。它只知道分数是好东西，得自己搞清楚操作杆的作用，一切都从头开始建立。结果并不顺利。
哈萨比斯： 我当时就跟沙恩说：也许我们根本就错了，连《乒乓》都做不出来。
莱格： 那让人挺揪心的。想想我们离真正造出一个通用智能系统还有多远。
哈萨比斯： 那感觉就像是该放弃、该换条路了。然后突然之间，我们拿到了第一分。接着的反应是：这是不是碰巧？不不，它是真的在得分了。这东西之前连怎么把球拍挪过去都搞不明白，忽然就完全掌握了要领，实在让人兴奋。它开始拿到几分，然后赢下第一局，三个月之后，没有人类能赢它。你没有告诉它规则，没告诉它怎么得分，什么都没告诉。你只是让它把分数最大化，它就自己去把这件事做成了。这是有史以来第一次有人实现端到端的学习。
哈萨比斯： 好，我们已经在相当通用的层面上让它跑通了，那就换一款游戏试试。于是我们试了《打砖块》（Breakout）。开始时，玩了一百局，智能体还很差，大多数时候都接不到球，但已经开始摸到门道，知道球拍该朝球的方向移动。三百局之后，它的水平大致相当于任何一个人类玩家。我们当时想，这已经挺酷了。但我们让系统又多玩了两百局，它做出了一件了不起的事：它发现最优策略是从侧面挖一条通道，把球送到砖墙后面去。
卡武克曲奥卢： 智能体终于真的做到了你所设想的事。那种感觉太好了。我们做研究，能盼到的最好结果也就是这个了。
哈萨比斯： 我们把它推广到五十款游戏，等于是做出了一套配方。我们可以随手拿一款它从没见过的游戏，把算法跑上去，DQN 就能从零开始自我训练，达到人类水平，有时甚至超过人类水平。
莱格： 这些游戏，我们一款都没有专门为它设计过。我们只要丢给它一堆游戏，它自己就会琢磨明白。这里头有种近乎魔法的东西。
沙纳汉： 突然之间，你有了一个不管被空投到什么情境里都会做出反应、都会学习的东西。这是个巨大的突破。在很多意义上，它是第一个可以被称为某种通用智能的例子。
用独立性换算力
哈萨比斯： 尽管我们是一家资金充裕的初创公司，但真正卡住我们的是算力不够。我意识到，算力会极大地压缩我们抵达 AGI 的时间表。
马奎尔： 那阵子我常见到戴密斯。我们一起吃午饭，他跟我说，有两家公司在谈收购 DeepMind，他不知道该选哪一家。问题在于：会有哪家商业公司真正懂得这项研究的分量吗？会给研究足够的时间开花结果，而不是天天在你脖子后面催着说，我们得从这里头拿到点商业回报吗？
新闻播报： 谷歌以据称四亿英镑的价格收购了 DeepMind，这是它迄今在欧洲最大的一笔收购。这家公司由三十七岁的创业者戴密斯·哈萨比斯创立。
施密特： 收购之后，我开始给戴密斯做导师，花时间陪着他，听他讲。这个人骨子里是个科学家，是个天生的科学家。他希望科学能解决世上一切问题，而且他相信科学做得到。这不是你在一家科技公司里能常遇到的人。
哈萨比斯： 我们不但加入了谷歌，还能在伦敦独立运行，建设我们自己的文化，一种为突破而优化、不必操心产品的文化，专做纯研究。我们的投资人并不想卖，但我们判断，这对使命而言是最好的选择。从价值上说，我们在很多意义上是贱卖了，等它更成熟一点，本可以卖出高得多的价钱。理由只有一个：没有时间可以浪费。趁着脑子还转得动，趁着我还活着，有太多事情等着被攻克。你会拿多少个十亿去换五年寿命，好让你完成你此生想做的事？
第 37 手
哈萨比斯： 好了，我们突然有了大规模的算力。用它来做什么？围棋是棋类游戏的顶峰，是人类设计出的最复杂的游戏。围棋的可能局面数量比宇宙中的原子还多。
西尔弗： 围棋是人工智能的圣杯。多少年来，人们看着这个游戏，心想：太难了。我们在 AI 里试过的一切方法，一碰到围棋就全都垮掉。正因如此，它才像是一块检验进展的试金石。
施密特： 我们刚买下 DeepMind。他们在做强化学习，是游戏领域的世界级专家。所以当他们提出，可以在一个被认为无法计算的游戏里击败顶尖棋手时，我想，这倒是挺有意思。
哈萨比斯： 我们的下一步，是在两周多以后迎战传奇棋手李世石。
新闻播报： 一场前所未有的对局即将在韩国拉开帷幕。
新闻播报： 李世石已经摩拳擦掌。
哈萨比斯： 李世石大概是过去十年最伟大的棋手之一。我把他形容为围棋界的费德勒。
施密特： 他一露面，一下子来了上千名韩国人，代表韩国社会的方方面面，还有顶尖棋手。我们这边是戴密斯，还有那支了不起的工程团队。
哈萨比斯： 李世石以极富创造力的搏杀棋风闻名，这对我们来说可能会很棘手。
施密特： 我原本判断李世石会赢，但他们能打得很漂亮，对一家初创公司来说已经不错了。我走到技术组那边，他们说，我给你看看我们的算法是怎么运转的。
研究员： 如果你一手一手复盘，就能看出 AlphaGo 是怎么“想”的。
哈萨比斯： 我们训练 AlphaGo 的起点，是给它看十万盘强业余棋手下过的棋。一开始让 AlphaGo 模仿人类棋手，然后通过强化学习，让它和自己的不同版本对弈几百万次，从自己的错误里学习。
解说： 各位，你们即将见证历史。他非常专注。
解说： 如果你仔细看……这一手太出人意料了。我觉得我们看到了一手前所未见的棋。
解说： 是的，这一手很带劲。
西尔弗： 职业解说几乎一致认为，没有任何一位人类棋手会选择第 37 手。我后来专门去 AlphaGo 里翻了一下，看它自己怎么想。AlphaGo 的判断跟他们一致：它认为这一手被人类棋手下出来的概率是万分之一。
西尔弗： 围棋被研究了几千年，而 AlphaGo 发现了全新的东西。
解说： 他认输了。李世石刚刚投子认负。他输了。
新闻播报： 人机之战，计算机胜出。
新闻播报： 谷歌让它的 DeepMind 团队与世界上最聪明的头脑之一较量，赢了。
施密特： 那一刻我们才意识到，DeepMind 的人真的懂自己在做什么，也意识到必须重视强化学习，那是他们发明的东西。在那之后，AlphaGo 越来越强，越来越强。他们做了一张小图，显示自己进步了多少。我问：这什么时候是个头？戴密斯说：等我们赢了那个中国人，赢了世界排名第一的棋手。
解说： 柯洁对阵 AlphaGo。我觉得我们会看到 AlphaGo 从那里突破。AlphaGo 已经领先不少了。
施密特： 第一局进行到一半左右，世界第一的棋手已经处境不妙。
解说： 黑棋这里还能怎么办？看起来很难。
施密特： 就在关键时刻，中国政府下令切断了直播信号。那一刻，我们其实是在告诉全世界：地球上出现了新的东西。
旁白： 上世纪五十年代，苏联发射人造卫星“斯普特尼克”，改变了历史的进程。
电视主持人： 这是美国为在太空时代生存下去而必须迎接的挑战。
施密特： 这被称为一次“斯普特尼克时刻”。当年那一刻在美国引发了巨大反应，科学与工程、尤其是航天技术的经费大幅增加。对中国来说，AlphaGo 就是那记警钟，就是它的斯普特尼克时刻。它点燃了一场 AI 领域的太空竞赛。
哈萨比斯： 我们有一个宏大的想法，它成功了，如今全世界都知道了。既然已经有人登上过月球，再登月总是要容易些。谁来造 AI，以及怎么造，这件事是有分量的。这种压力我一直都感觉得到。
自我为师
西尔弗： AlphaGo 掀起的兴奋之后，接连发生了一长串事件。我们对阵李世石时，用的系统是在人类数据上训练出来的，学的是人类高手下过的成百上千万盘棋。后来我们找到了一个新算法，一套对整个系统而言优雅得多的做法，它把所有人类知识都剥离出去，完全从零开始。这个项目就叫 AlphaZero。“Zero”的意思是，回路里没有任何人类知识。它不再从人类数据中学习，而是从自己下的棋里学习。它成了自己的老师。
哈萨比斯： AlphaZero 是一次实验，看我们能把塞进系统里的知识压到多少，看它能学得多快、多高效。AlphaZero 没有任何规则，它通过经验来学。下一步是让它更通用，能玩任何双人游戏，比如国际象棋，实际上是任何双人完全信息博弈。
研究员： 进展非常好，非常非常好。哇，掉得好快。
哈萨比斯： AlphaGo 过去要训练好几个月，而 AlphaZero 早上开始时还在完全随机地乱下，到下午茶时已经达到超人水平，到晚饭时就会成为有史以来最强的国际象棋实体。它自己摸索出了一套进攻风格，用来对付当今的防守水平。我做梦都没想过会这样。
研究员： 我同意。说实话我也没料到。
哈萨比斯： 对我来说这挺有意思的，它让我重新想下棋了，因为能看到国际象棋比我们以为的还要深，这很酷。
棋童往事
哈萨比斯： 我其实是通过游戏进入 AI 的。最早是棋类游戏。我那时会想：我的大脑是怎么做到这件事的？它到底在干什么？我从很小的时候就对此有清晰的自觉。所以我一直在思考“思考”这件事。
新闻播报： 英美两国的国际象棋冠军见面，开始一系列对局。与他们并肩上阵的，是英美两国最优秀的少年棋手。
新闻播报： 戴密斯·哈萨比斯代表英国出战。
科斯塔斯（父亲）： 戴密斯四岁时第一次显出下棋的天分。到六岁，他拿下了伦敦八岁以下组的冠军。
哈萨比斯： 我父母很有意思，也不寻常。我大概会形容他们相当波希米亚。我父亲年轻时是位创作歌手，鲍勃·迪伦是他的偶像。我大约八岁那年，父亲买了一辆房车。
主持人： 你喜欢这个游戏的什么地方？
哈萨比斯（少年时的电视采访）： 它就是个很好的思维游戏。
哈萨比斯： 那时我是同年龄段世界排名第二的棋手。虽然我在成为职业棋手的轨道上，我也以为那就是我要走的路，但无论我多爱这个游戏，它的压力都大得惊人。对我来说，那绝不是什么轻松的游戏。我输棋，父母会很难过；我漏算了什么，他们会生气。因为对他们而言赌注很高，去参加这些比赛要花很多钱，而我父母并没有多少钱。他们的想法是，如果你有意做职业棋手，这件事就非常重要，就像你的考试一样。
哈萨比斯： 我记得我大概十二岁，在列支敦士登山区参加一场国际象棋赛。我们在一个巨大的教堂大厅里，几百名各国棋手。我的对手是丹麦的前冠军，大概三十几岁。那时候的时限很长，一盘棋可以下上一整天。我们已经下到第十个小时。局面是一个极其罕见的残局。我判断应该是和棋，可他一连几个小时都在拼命求胜。
哈萨比斯： 最后，他使出了最后一个便宜的小圈套。我要做的只是把王后送掉，那样就是逼和。可我实在太累了，我以为自己被将死已经不可避免，于是认输了。他一下子跳起来，笑了出来，说：你为什么要认输？这是和棋啊。然后他手一挥，当场把那步和棋的走法摆给我看。我恶心得难受。这件事让我在那场比赛剩下的时间里一直在想：我们是不是在浪费自己的头脑？把这么多脑力用在这里，是最好的用法吗？那栋楼里所有人的脑力加在一起，如果能把这三百个大脑接进某个系统，说不定用这样的算力就能攻克癌症。那时我有一种直觉：尽管我热爱国际象棋，但把一生都花在这上面并不对。
让智能体去玩
莱格： 戴密斯和我的计划从一开始就是，把世界上最出色的一批科学家聚到 DeepMind，这样我们才有足够的人脑去造出一个 AGI 系统。按定义，AGI 里的“G”说的就是通用性。我设想的是，你可以跟一个智能体交谈，它能回应你，并且能解决它此前从未见过的新问题。这是人类智能极其关键的一面，那种认知上的广度与灵活性令人惊叹。我们所知的唯一一种天然通用智能，也就是人类，显然从环境中学到了大量东西。所以我们认为，模拟环境是通往 AGI 的路径之一。
卡特： 最早的人类必须解决逻辑问题，必须解决导航、记忆的问题，我们正是在那样的环境里进化出来的。如果我们能在虚拟世界里重建那种环境，它就是 DeepMind 所做一切工作的完美测试场和训练场。
西蒙斯： 他们在这里做的，是为那些孩童一般的存在，也就是智能体，创造出可以生活和玩耍的环境。这在我听来是世上最有意思的事。
沙纳汉： 小孩子的学习方式是把东西撕烂，把食物扔得到处都是，然后看爸爸妈妈的反应。这个思路看起来很值得放进训练智能体的方式里。
研究员： 这个人形体的任务是站起来。它的重心越高，得分越多。你设定一个奖励，智能体从奖励中学习：做得好，拿到正奖励；做得糟，拿到负奖励。
研究员： 看起来它站起来了。就是还有点醉醺醺的。
研究员： 它喜欢倒着走。整套算法都在设法让所获奖励最大化，而它发现，倒着走已经足够拿到很不错的分数了。
哈德塞尔： 我们学习导航、学习在世界里走动的时候，并不是从地图开始的。我们靠的是自己的探索：小时候没有父母在身边，独自穿过公园去冒险，或者自己想办法从学校走回家。我们几个人想到一个点子：如果搭一个环境，让模拟机器人只需要向前跑，我们就可以在它面前设置各种各样的障碍，看它能不能应付不同类型的地形。这个思路有点像跑酷挑战。
哈德塞尔： 姿态说不上优雅，但它本来也没被训练成边跑边端着一杯水不洒出来。你设定的目标是：只管向前，只管有前向速度，做到了就给你奖励。然后学习算法自己琢磨出该如何驱动这一整套复杂的关节。这就是基于奖励的强化学习的威力。
西尔弗： 我们的目标是造出这样的智能体：把它丢进去，它什么都不懂，可以在你给它的任何问题里自己摸索，最终自己找出解法。而现在，我们想要的是一个能在尽可能多种类的问题上做到这一点的东西。
《星际争霸》
西尔弗： 一个人要与世界打交道，需要多样的技能：如何处理复杂的图像，如何同时操纵成千上万个对象，如何在信息缺失的情况下做判断。我们认为，把这些东西全都集于一身的，就是《星际争霸》这款游戏。
维尼亚尔斯： 它被训练做的事只有一件：在这个局面、这个画面下，一个人类会怎么做。我们从大语言模型那里得到启发，那类模型只是被训练去预测下一个词，而这跟预测《星际争霸》里的下一步操作是完全一样的事情。
西尔弗： 与国际象棋或围棋不同，那里是双方轮流落子，而《星际争霸》里的决策是连续不断地流动的。更何况，你甚至看不到对手在做什么。“最优下法”不再有清晰的定义，它取决于你的对手怎么走。
哈德塞尔： 正是通过这条路，我们才能得到一个流畅得多、自然得多、更快、反应更灵敏的智能体。
维尼亚尔斯： 这是个巨大的挑战，我们看看能推到多远。
利利克拉普： 哦！我的天！我只是个水平很低的业余玩家。我还行，但确实只是个低水平业余玩家。这些智能体还有很长的路要走。
哈萨比斯： 我们连蒂姆这个水平的人都赢不了。这多少让人有点警觉。
利利克拉普： 那时候的感觉是，这会是一场漫长的硬仗，也许要好几年。
维尼亚尔斯： 丹尼是 DeepMind 内部最强的《星际争霸 2》玩家。我已经连着几周每天都跟智能体对战了。我能感觉到智能体在飞快变强。
维尼亚尔斯： 我们赢了丹尼。对我来说，这本身就已经是巨大的成就了。
哈萨比斯： 下一步，我们要约一位职业选手来打。
职业选手： 这有点不公平吧，你们一群人对我一个。
哈萨比斯： 相比两个月前的状态，我们的进度远远超出了我的预期。我还在消化这一切，但这真的非常非常酷。
西尔弗： 现在我们终于可以把成果公之于众了。这是一大步。我们等于是把自己摆到了风口浪尖上。
解说： 欢迎来到伦敦。我们将进行一场现场表演赛，MaNa 对阵 AlphaStar。到目前为止，AlphaStar 对职业选手的战绩是十战全胜。开赛前有什么想说的吗？
维尼亚尔斯： 我只想看一场好比赛。
西尔弗： 没错，来一场好比赛。我们都很兴奋。
解说： 好，看看 MaNa 能拿出什么来。AlphaStar 显然在主导这场比赛的节奏。哇，AlphaStar 下得太聪明了。从 AlphaStar 的视角看，简直像在看一位职业人类选手在操作。
哈萨比斯： 我以前没有近距离看过职业选手打《星际争霸》，那是每分钟八百次点击。我不明白一个人怎么可能点得了八百次，更别说是八百次有效点击。
解说： 哦，又是一次漂亮打击。AlphaStar 简直不留一丝喘息之机。
火药与爆竹
西尔弗： 我们必须小心，因为我们中间很多人是打游戏长大的，现在也还是玩家。所以对我们来说，把游戏看成它本来的样子，看成纯粹的娱乐载体，是很自然的事，我们不容易看见公众看到这些画面时可能看见的那一面，那种军事化的意味。你不能指望造出了火药，却只用它来做爆竹。所有技术天然都指向某些方向。
列维： 我非常担心 AI 被用于军事目的的某些方式。这也让一件事更加清楚：我们的社会必须掌控这些新技术。AI 被滥用的可能性会相当严重。战争的推进速度快到人类无法理解，监控的能力也会变得更强大。你要怎么才能永远压住一个远比你强大的东西？
哈萨比斯： 技术可以被用来做可怕的事，技术也可以被用来做美妙的事，解决各式各样的难题。
主持人： DeepMind 被谷歌收购时，你让谷歌承诺，你们开发的技术不会被军方用于监控。跟我们讲讲这件事。
哈萨比斯： 我认为技术本身是中性的，但我们作为社会、作为人类，以及企业、机构和政府决定如何使用它，才决定了事情变好还是变坏。我个人认为，自主武器就是一个非常糟糕的主意。
解说： AlphaStar 眼下这盘棋下得极其聪明。
库基尔： DeepMind 在伦敦所创造的东西，确实有某种曼哈顿计划的意味。罗伯特·奥本海默和戴密斯·哈萨比斯之间存在一种呼应，他们都在向人类释放一种新的力量。
解说： 不过 MaNa 正在反击。天哪！
哈萨比斯： 我认为奥本海默和那个项目的一些领导者，被造出这项技术、验证它是否可行的兴奋感裹挟了。他们没有在足够早的时候，足够认真地思考自己所做之事的道德问题。身为科学家，面对强大的新技术，我们应当做的是先在受控条件下去理解它。
解说： 结束了。MaNa 击败了 AlphaStar。
哈萨比斯： 说实话，我觉得这个结果公允地反映了我们目前的水平。这一点让我觉得，还好。
哈萨比斯： 我的看法是，那种“快速行动，打碎东西”的技术观，恰恰是我们绝不能采用的，因为你承担不起先打碎、再回头修的代价。
Bullfrog 的褐色信封
哈萨比斯： 八岁那年，我用一场棋赛的奖金买了人生第一台电脑。我隐约有种直觉：电脑是一种神奇的装置，能扩展心智的力量。我和几个同学搞了一个黑客俱乐部，写代码，做游戏。后来一整个暑假，我整天翻游戏杂志。有一天我注意到一则比赛启事，要求写出一个原创版本的《太空侵略者》，冠军可以得到 Bullfrog 的一份工作。Bullfrog 当时是全欧洲最好的游戏开发公司。我真的很想进那个地方，看看他们怎么做游戏。
新闻播报： 位于吉尔福德的 Bullfrog，起步于一个大胆的构想。那个构想变成了游戏《上帝也疯狂》，成为全球畅销之作。
莫利纽克斯： 九十年代没有招聘中介，你没法出去喊一句“来做游戏吧”。那时游戏甚至还不被当成一个行业。所以我们想出办法，办一场比赛，收到了很多投稿，其中一份是戴密斯的。我到现在还清楚记得戴密斯来的那天。他走进门，看上去像个十二岁的孩子。我心想：老天，我们拿这小子怎么办？
哈萨比斯： 我申请了剑桥，被录取了，但他们说我年纪太小。所以我需要休学一年，等我到那儿时至少满十七岁。于是我决定，把这整个间隔年都用来在 Bullfrog 工作。他们在法律上甚至没法雇我，最后是用褐色信封给我发工资。我第一次体会到站在最前沿是什么感觉，体会到每天都在发明东西有多好玩。几个月之后，也许会有一百万人在玩你做的东西。
莫利纽克斯： 那些年，电脑游戏必须进化。必须出现新的类型，不能只是打打杀杀。如果有一款游戏，让你自己设计并建造一座主题公园，那该多棒？我和戴密斯开始聊《主题公园》。它让玩家去建造一个世界，并看到自己在那个世界里所做选择的后果。
哈萨比斯： 人类玩家负责规划主题公园的布局，设计过山车，给薯条店定价。我负责的是园中人物的行为。他们是自主的，那在当时就是所谓的 AI。我要做的，是模拟出有意思的人类行为，好让这套模拟玩起来更有趣。
莫利纽克斯： 戴密斯做的都是些荒唐有趣的东西。比如你可以摆放商店，如果你把商店摆得离一个很刺激的项目太近，刚吃完东西的游客坐完之后就会吐。然后别人看见地上的呕吐物，也会跟着吐。于是你不得不多雇清洁工，赶在别人看见之前迅速清理干净。这才是它妙的地方：你作为玩家去拨弄它，它就对你做出反应。他做的那一整套细腻的模拟，是前所未有的发明，而且大获成功。
加德纳： 《主题公园》最后成了排名前十的作品，那也是我们第一次开始看到 AI 能带来怎样的不同。
卡特： 那天我们在采购圣诞节的东西，正等出租车回家。我有一段非常清晰的记忆：戴密斯谈起 AI，谈的方式跟我们平常谈的很不一样。他说 AI 可以用在娱乐之外的事情上，可以用来帮助这个世界，可以改变世界。我就问他：你到底想做什么？他对我说：我想成为破解 AI 的那个人。
哈萨比斯： 彼得开价一百万英镑，让我别去上大学。但我从一开始就有计划，我的计划一直是去剑桥。
哈萨比斯： 我不少同学都觉得我疯了。为什么不要？那可是一百万英镑。在九十年代，那是很大一笔钱，对一个穷困的十七岁孩子来说更是如此。
莫利纽克斯： 他像一粒即将破土而出的种子，而在 Bullfrog 他是长不出来的。我得送他去火车站，我至今还能看见那个画面：一个小精灵似的身影消失在通道尽头。那一刻我难过得不行。
剑桥与深蓝
哈萨比斯： 我对剑桥有一种浪漫的想象：一千年的历史，走在图灵、牛顿和克里克走过的同一条街上。我想去探索宇宙的边缘。到剑桥的时候，我基本上已经工作了一辈子。每一个暑假，我要么在下职业棋，要么在打工实习。所以我当时想：好了，现在我要好好玩一玩，看看当一个普通青少年是什么滋味。
史蒂文斯： 那是拼命工作、也拼命玩的日子。我认识戴密斯，是因为我们都在王后学院。我们那帮朋友常在酒吧喝啤酒、打桌上足球。
哈萨比斯： 在酒吧里，我常下快棋，棋子飞出棋盘，一分钟一整盘。
加德纳： 戴密斯在我对面坐下。我看着他，心想：我记得你，我们小时候见过。
哈萨比斯： 我确实和戴夫在伊普斯威奇参加过同一场棋赛，我那时常去“扫荡”他们当地的棋社，赚点奖金。
科平： 我们当时读的是计算机科学。有些人十七岁进来，会确保所有人都知道他的一切：嘿，我在 Bullfrog 干过，参与做出了世界上最成功的电子游戏。但他完全不是那样的人。
西尔弗： 在剑桥，戴密斯和我都对计算神经科学有兴趣，想弄明白计算机和大脑是如何交织、如何关联的。
道格曼： 大卫和戴密斯都来找我做导修。恰好，一九九七年，也就是他们在剑桥的第三年、最后一年，正是第一位国际象棋世界冠军被计算机程序击败的那一年。
新闻播报： 今天是卫冕世界冠军加里·卡斯帕罗夫与名为“深蓝”的对手之间的第一轮对局，用来检验人脑能否胜过机器。
哈萨比斯： 我记得卡斯帕罗夫输掉最后一局时的那种戏剧性。
新闻播报： 哇！卡斯帕罗夫认输了！
道格曼： 深蓝击败卡斯帕罗夫，是一个真正的分水岭事件。
哈萨比斯： 我对那件事最主要的记忆，是我并没有被深蓝打动。让我更佩服的是卡斯帕罗夫的头脑：他能把棋下到那个水平，与那台蛮力机器平起平坐地较量，而卡斯帕罗夫当然还会做人类会做的其他一切事情。深蓝是一项巨大的成就，但事实是，深蓝只会下棋。我们所理解的那种智能，在那个系统里是缺失的，也就是通用性，以及学习。
蛋白质折叠的种子
哈萨比斯： 剑桥的好处在于，你会跟研究各种不同学科的人混在一起。
西尔弗： 那里有科学家，有哲学家，有艺术家。
史蒂文斯： 还有地质学家、生物学家、生态学家。所有人一直在聊所有的事。我那时痴迷于蛋白质折叠问题。
哈萨比斯： 蒂姆·史蒂文斯常常谈起这个问题，几乎带着宗教般的执念，就是蛋白质折叠问题。
史蒂文斯： 蛋白质是生物学里最美、最优雅的东西之一。它们是生命的机器。它们建造一切，控制一切，生物学之所以能运转，正是因为它们。蛋白质由一串氨基酸构成，这串氨基酸折叠起来，形成蛋白质的结构。如果我们能仅凭氨基酸序列就预测出蛋白质的结构，那么设计一种新蛋白来治疗癌症，或者分解塑料以改善环境，就真的可以开始设想了。我当时想：人类的聪明程度，够得上亲手折叠一个蛋白质吗？我们算不出来。
莫尔特： 从上世纪六十年代起，我们就认为，原则上，只要我知道一个蛋白质的氨基酸序列，就应该能计算出它的结构是什么样子。所以，如果你能一按按钮，结构就统统蹦出来，那是会产生一些影响的。
哈萨比斯： 这件事留在了我心里。我想，这个问题非常有意思，而且我直觉它是可解的。但我认为，要解它得靠 AI。如果我们真能解决蛋白质折叠，它可以改变世界。
最高的梯子
哈萨比斯： 从我在剑桥读书的时候起，我就没有停止过思考蛋白质折叠问题。如果你解决了蛋白质折叠，那么帮助攻克阿尔茨海默病、痴呆症以及药物研发的潜力是巨大的。解决疾病，可能是我们能产生的最重大的影响。成千上万极聪明的人尝试过解决蛋白质折叠。我只是觉得，现在正是 AI 攻下它的时机。
埃文斯： 我们需要一个合理的办法，把机器学习应用到蛋白质折叠问题上。我们发现了 Foldit 这款游戏。玩法是移动一个蛋白质的三维模型，每移动一次就得到一个分数。你把这些结构做得越准确，它对生物学家就越有用。我花了几天时间试着看看我们能做到多好，结果还算不错。但即使你是世界上最强的 Foldit 玩家，你也解决不了蛋白质折叠。所以我们必须超越这个游戏。
哈萨比斯： 游戏永远只是我们算法的试验场。终极目标不是攻下围棋和《星际争霸》，而是攻下真实世界的难题。
江珀： 我记得我听到一个传闻，说戴密斯开始搞蛋白质了。我去问 DeepMind 的一些人：你们是不是在做蛋白质折叠？他们会很巧妙地把话题岔开。这种情况发生了两次之后，我基本上就确定了。于是我想，我该投一份简历。
哈萨比斯： 各位，欢迎来到 DeepMind。我知道你们中有些人这是第一周……
江珀： 这份工作对我最有吸引力的地方，是那种与更宏大目标相连的感觉。
哈萨比斯： 如果我们能攻克科学中的一些根本问题，很多其他的人、其他的公司和实验室就能在我们的工作之上继续建造。现在轮到你们，为这个故事写下自己的一章。
江珀： 我刚到的时候确实相当紧张。我没有上过任何生物学课程。我们没有花上多年时间去观察和理解这些结构。我们所依据的，只有数据和我们的机器学习模型。
江珀： 在机器学习里，你训练一个网络的方式像是背抽认卡：这是问题，这是答案；这是问题，这是答案。但蛋白质折叠不是 DeepMind 惯常的那类任务，那类任务里数据是无限的。你的目标是把棋下得更好，而你能玩多少盘棋，取决于你的计算机允许你玩多少盘。至于蛋白质，我们守着的是一批数据量很有限的家底，它们是半个世纪以来实验室里耗时费力的实验方法一点一点测出来的。这些艰辛的方法要花几个月甚至几年才能确定一个蛋白质的结构，有时一个结构根本无法被测定。正因如此，我们才只能用这么小的数据集去训练算法。
伯尼： 当 DeepMind 开始探索折叠问题时，他们跟我们讨论他们在用哪些数据集，以及一旦真的解决了这个问题会有什么可能性。已经有很多人尝试过，可地球上没有一个人解决了蛋白质折叠。我心里确实想：那，祝你们好运。
江珀： 如果我们能解决蛋白质折叠问题，它在医学上的意义会相当惊人。
哈萨比斯： 这就是科学的循环。你先做大量的探索，然后进入收敛的阶段，集中火力去看看那些想法到底有多好。要做到这一点，没有什么比外部竞赛更有效。所以我们决定参加 CASP 竞赛。
莫尔特： 我们创办 CASP，是想加快蛋白质折叠问题的解决。
哈萨比斯： CASP 就是我们对世界说：看，DeepMind 在做蛋白质折叠，我们的水平就是这样，也许比所有人都强，也许并没有。
江珀： CASP 有点像蛋白质折叠界的奥运会。
莫尔特： CASP 是一次全社群参与的评测，每两年举办一次。各支队伍拿到大约一百个蛋白质的氨基酸序列，然后用计算方法去尝试解出折叠问题。这些蛋白质的结构其实已经在实验室里被实验测定，只是尚未公开。这些已知结构就是黄金标准，所有的计算预测都要跟它们对照。我们有一套分数来衡量预测的准确度。得分超过九十，才可以说是解决了蛋白质折叠问题。
主持人： 欢迎各位来到胜者组的第一场半决赛，尼克和约翰对阵戴密斯和弗兰克。请大家围过来，这会是一场激烈的比赛。
史蒂文斯： 当我得知戴密斯要去啃蛋白质折叠这块骨头时，我一点也不意外。这太像戴密斯了。他热爱竞争。
哈萨比斯： 我们参加 CASP 的目标，不只是赢下这场比赛，而是让这场比赛从此不再有存在的必要。
研究员： CASP 一共放出了二十个靶标。
江珀： 我们当时想的是，也许把标准的机器学习那一套扔进去，看它能带我们走多远。
研究员： 以前一个实验要花上一两天，现在我们一天可以跑五个实验。
研究员： 能把真实结构调出来，跟我们的对比一下吗？
研究员： 正确答案应该长这个样子。
研究员： 它比我想的要柱状得多。
江珀： 结果并不好。我们把所有显而易见的想法都扔上去，而这个问题在嘲笑你。这说不通。
埃文斯： 我们本以为可以直接把我们最好的算法往这个问题上一扔就行。我们当时有点天真。
江珀： 这种东西我们本该一眨眼就学会。我担心的是，我们只是把这个领域从“非常糟糕的答案”推进到“中等糟糕的答案”。我觉得我们需要某种新技术，来挪动这些结构。
哈萨比斯： 距离 CASP 只剩一周，现在是冲刺部署的阶段。你已经尽了全力，接下来除了等 CASP 公布结果，什么也做不了。
你不该早五十年
哈萨比斯： 爱因斯坦有个著名的故事。他生命最后几年在这里，与库尔特·哥德尔共事，他说他之所以还每天来上班，理由之一是这样他就能在走回家的路上跟哥德尔讨论问题。这对哥德尔是极高的赞誉，也说明他有多了不起。
旁白： 高等研究院成立于一九三三年。早年间，这里浓烈的科学气氛吸引了历史上在同一时间、同一地点聚集的最杰出的一批数学家与物理学家。
哈萨比斯： 这个地方的立院原则，是相信不受束缚的智识追求，哪怕你并不知道自己在探索什么，也终将带来一些精彩的东西，而有时那些东西后来会变得有用。当然，这也正是我在 DeepMind 一直试图做的事的一部分。
提问者： 你认为要一路走到 AGI，需要多少次重大突破？
哈萨比斯： 我估计大概有十来次吧。我希望是在我有生之年。不过话说回来，所有科学家都这么盼着。
司仪： 戴密斯有许多荣誉。他去年当选英国皇家学会院士，同时也是皇家文艺学会会士。请大家用掌声欢迎戴密斯·哈萨比斯。
哈萨比斯： 我的梦想一直是让 AI 辅助的科学成为可能。我认为我们最激动人心的项目，是去年在蛋白质折叠上的工作，这个系统我们叫它 AlphaFold。我们把它送进 CASP，我们的系统是最准确的，在最难的那一类里，四十三个蛋白质中我们预测对了二十五个的结构。所以我们是当前最好的水平。但我必须说清楚：我们距离解决蛋白质折叠问题仍然很远。我们正在为此努力，也在探索许多别的技术路线。
江珀： 我们来快速复盘一下，这是我们在 CASP 的最终排名。
哈萨比斯： 我们比第二名高出将近百分之五十，但要说以生物学家用得上的方式解决了蛋白质折叠问题，我们还有很长的路。
江珀： 这是个值得担心的地方。
桑顿： 预测的质量参差不齐，它们并不比此前的方法更有用。
纳斯： AlphaFold 给出的数据还不够好，不足以让像我这样研究自己那些生物学问题的人在实践中用起来。
江珀： 那是个让人清醒的时刻，因为我们本以为自己拼尽了全力并且成功了。结果我们发现的是：我们在一个全世界都做不好的问题上做到了世界第一。我们知道自己很糟。如果你要去月球，梯子最高并不管用。
哈萨比斯： 团队里不少人的看法是，这在某种意义上是一场徒劳。也许我在蛋白质折叠这件事上判断错了，也许以 AI 目前的整体水平，它还是太难了。
纳斯： 如果你想做生物学研究，就必须做好失败的准备，因为生物学非常复杂。我经营实验室快五十年了，我有一半时间是在当业余心理医生，在什么都不管用的时候让同事们打起精神。而相当多的时候，我是说百分之八十到九十的时候，事情就是不管用。如果你身处科学的最前沿，我可以告诉你，你会失败很多很多次。
哈萨比斯： 我只是觉得失望。我学到的教训是：雄心是好事，但时机必须对。领先时代五十年是没有意义的。在那种努力开花结果之前，你根本撑不过五十年，你会死在半路上。
AGI 迫近
库基尔： 当我们谈 AGI，谈人工智能的圣杯时，我们其实很难说清自己在谈的到底是什么。
哈萨比斯： 今天我们要看哪些部分？
研究员： 我们从“花园”开始。这是从观察区看过去的花园。研究科学家和工程师可以在这里实时分析、协作、评估正在发生的事情。
库基尔： 在十九世纪，我们会觉得电视、潜水艇或者飞往月球的火箭是不可能的。然而儒勒·凡尔纳写了它们，一个半世纪之后，它们成真了。
哈萨比斯： 我们实际上会在文明层面上做实验，AI 智能体的文明。等这些实验真正跑起来，那会是最激动人心的事。
研究员： 那我们还怎么睡觉？
哈萨比斯： 我肯定睡不着。
莱格： 完全形态的 AGI 将能完成人所能完成的任何认知任务，而且规模可能远远超过人类。
拉塞尔： 我们其实无法想象一个超级智能实体会产出什么。这就好比让一只大猩猩去想象爱因斯坦提出相对论时在做什么。
莱格： 常有人问我这样的问题：如果你错了呢，如果 AGI 还很遥远呢？我说，我从不担心这个。我担心的恰恰是反面。我担心的是，它来得比我们真正能做好准备的速度更快。
哈德塞尔： 这真的很像是一场通往 AGI 的赛跑。我们现在开发的原型和模型，正在改变我们对智能的认知版图。
莱格： 最近，我们的智能体已经强到可以组队打比赛，再与其他队伍对抗。我们看到智能体身上涌现出协作的社会性行为，而我们并没有预先编入任何这类机制，那完全是从它们自身的经验中学来的。我们起步时以为，我们要做的是造出一个智能系统，然后说服世界相信我们做到了。而现在我们开始怀疑，我们造出来的系统，我们自己都不确定它是否具有完全的智能，而我们却要去说服世界相信它还不是。
它说得出这幅画
洛夫： 你好，Alpha。
Alpha： 你好呀。
洛夫： 我们今天在哪儿？
Alpha： 你在纽约的现代艺术博物馆。
洛夫： 算是吧。这是什么画？
Alpha： 这是米开朗基罗的《创造亚当》。
洛夫： 我觉得这幅画不在纽约。
Alpha： 你说得对，它在梵蒂冈城。
洛夫： 那你觉得我们现在在梵蒂冈吗？
Alpha： 不在。
洛夫： 那我怎么会看到它？
Alpha： 你看到的是这幅画的数字复制品。
洛夫： 没错。
研究员： 谁住在这栋房子里？
Alpha： 一位宇航员。
研究员： 这位宇航员叫什么名字？
Alpha： 他叫马克。
Alpha： 这是阿尔伯特·爱因斯坦的著名方程。它表明能量与质量是等价的。
研究员： 你会怎么讲给一个五岁小孩听？
Alpha： 这样吧，想象你有一块大石头，你想知道它有多重。
研究员： 马克有危险吗？
Alpha： 没有，马克没有危险。
研究员： 为什么？
Alpha： 因为那只恐龙不是真的。
洛夫： 好，那你刚才为什么回答不了我的问题？
Alpha： 我想我回答不了，是因为我对那个主题了解得不够多。
洛夫： 那你怎样才能对这个主题了解更多？
Alpha： 我可以通过读书、读文章、读网站来了解更多。你也可以教我。
哈萨比斯： 我的结论是，你想想我们现在在做的事：从所有人类那里学习，把他们全部的知识一次性放到互联网上去学，那么你确实会对这个世界所知甚多，几乎覆盖人类能做的相当一部分事情。所以现在我的想法更接近于：这条路，可能真的走得通。这是个重大的时刻。
洛夫： 这是谁？
Alpha： 这是上帝向亚当伸出手。
拉塞尔： AGI 的到来将把人类历史劈成两段：那一刻之前的部分，和那一刻之后的部分。
洛夫： 他为什么要伸手去触碰亚当？
Alpha： 上帝伸手触碰亚当，是为了赋予他生命。
拉塞尔： 它会给我们一件工具，能够彻底重塑我们的整个文明。
洛夫： 这幅画对你来说意味着什么？
Alpha： 这幅画对我意义重大。
洛夫： 好，比如说？
Alpha： 我想这幅画提醒我们，我们彼此相连，我们都属于某种比自身更宏大的存在。
洛夫： 说得挺好。
谁来定规矩
莱格： 当你跨过那道门槛，从“AGI 也许有一天会发生”变成“不，这件事真的可能在我这一代人眼皮底下发生”，你的思维里就有什么东西变了。
哈萨比斯： 我们必须谨慎地使用它，深思熟虑地部署它。你得考虑它的最高层目标是什么。如果目标是让人类幸福，那是哪一部分人类？幸福又意味着什么？我们许多集体目标非常棘手，连人类自己都理不清。
库基尔： 技术永远嵌着我们的价值观。这不只是技术问题，也是伦理问题。所以我们必须非常审慎地对待自己往里面放进了什么。
西尔弗： 现实是，这是一个由人创造出来的算法，由我们创造出来的。那么，把我们所珍视的那些价值赋予我们的智能体，究竟意味着什么？
主持人： 让这些 AI 系统显得如此像人，目的何在？它们因此俘获人心，可这也是在利用人类的某种脆弱。而这些系统的心与脑，本质上都是人类生成的数据，好的坏的，全都在里面。
列维： 工业革命与当下由 AI 带来的技术变革之间存在某种相似。工业革命是一个造成巨大流离失所的时刻。我们必须思考：谁被替代了，我们又打算如何支持他们。
抗议人群： 暂停 AI！
哈萨比斯： 这项技术到来的速度，远远快过世人所知，也快过我们自己在十八到二十四个月前的预想。所以机会是巨大的，兴奋是巨大的，责任同样是巨大的。它来得太快了。我们将如何治理它？我们将如何决定什么可以、什么不可以？
新闻播报： AI 生成的图像正变得越来越以假乱真。
拉塞尔： 用 AI 制造虚假信息、操纵人类心理，这件事只会变得越来越糟。
莱格： AGI 会到来，不管我们在 DeepMind 做不做。
库基尔： 它一定会发生，所以我们最好建立起能保护我们的制度。这需要全球性的协调。而我担心的是，人类在协调这件事上正变得越来越差，而不是越来越好。
莱格： 我们需要更多的人真正认真对待这件事，去思考这件事。这是严肃的事。它让我担心，真的让我担心。
拉塞尔： 如果你收到一封邮件，说有一个更高等的外星文明即将抵达地球，各国政府一定会召开紧急会议，我们会全力开动，设法弄清楚该如何准备。AGI 的到来，将是我们所面临过的最重要的时刻。
攻坚小队
哈萨比斯： 我的梦想是，在通往 AGI 的路上，我们能造出一些对人类有用的革命性技术。这正是我对 AlphaFold 的期待。我认为，解决蛋白质折叠问题比以往任何时候都更重要。这会非常难，但不做完我不会放弃。我们需要加倍投入，从这里开始以最快的速度推进。我认为一刻也不能耽误。所以我们要组建一支蛋白质折叠攻坚小队，队长由约翰担任。我们什么都会试，把厨房水槽都扔进去，能用的全用上。
江珀： CASP14 要证明的是，我们能解决整个问题。而我觉得要做到这一点，我们必须把一些领域知识纳入进来。我们有一批出色的工程师，但他们没有受过生物学训练。
图尼亚苏： 作为一名计算生物学家，刚加入 AlphaFold 团队时，我对任何事情都没有把握，包括我们究竟能不能成功。生物学复杂得离谱，那感觉像是一座极其遥远的高山。
研究员： 我开始调底层的温度参数，看看能不能……
图尼亚苏： 作为团队里少数几个此前做过生物学工作的人之一，你会感到巨大的责任：大家指望你在这支攻坚小队里做出了不起的事。这挺吓人的。但我之所以想来这里，原因之一正是想做一件真正要紧的事。
研究员： 这是缺失项的数量。
研究员： 要不要利用你们已有的物理学理解，把它当作一个数据来源？
研究员： 可如果它是系统性的呢？那就不对了。如果它以某种古怪的方式系统性地错着，你学到的就是系统性错误的物理。
图尼亚苏： 我们要的是生物学上的有效性。所以我们把 AlphaFold 用来学习的整条数据流水线全部重写了。
哈萨比斯： 创造的阶段是催不来的。你必须给它留出空间，让那些花朵自己开。我们赢下了 CASP，然后回到白板前，问：我们的新想法是什么？我得说，他们花了一段时间才带着新想法回到原来的水平。而现在，我认为我们正在看到新想法带来的好处。他们能走得更远。这是一个非常重要的时刻。这个时刻我见过太多次了，我现在知道它意味着什么。我知道现在就是该全力施压的时候。
江珀： 加入侧链改进了直接折叠，这带来了很多进展。
哈萨比斯： 过去四个月，我们取得了巨大的收获。
埃文斯： CASP13 时，折叠一个蛋白质要花我们一两天，而现在我们每秒能折叠几十万个。这简直疯了。
卡武克曲奥卢： 现在这个模型的速度快了几个数量级，同时质量还更好。我们有大量结构进入了高精度区间。我们正在快速逼近一个真正切中问题核心的系统。
哈萨比斯： 干得漂亮，看来我们状态不错。还剩多少时间，六周？五周？算力够用吗？
研究员： 我们……还能再要一点。
图尼亚苏： 我原本对 CASP 很紧张，但随着系统逐渐成形，我没那么紧张了。最近事情的轮廓清晰了起来，我觉得，会顺利的。
封城中的 CASP14
新闻播报： 首相宣布了英国有生之年从未见过的最严厉的生活限制。
约翰逊： 我必须给英国人民一条非常简单的指令：待在家里。
哈萨比斯： 感觉我们像活在一部科幻小说里。我给父母送吃的，确保他们隔离在家、平平安安。我认为这恰恰凸显了 AI 辅助科学的迫切必要。
图尼亚苏： 你总知道这种事情有可能发生，但没有人真的相信它会发生在自己这辈子。
江珀： 开始录了吗？好，早上好，各位。很好，CASP 开始了。整天穿着睡裤坐着办公，感觉还不赖。
图尼亚苏： 我从没想过自己会住在一栋同时发生这么多事的房子里。我在一个房间里试图解决蛋白质折叠，我丈夫在另一个房间里试图让机器人走路。
江珀： 到目前为止，CASP 里最难的蛋白质之一是新冠病毒的一个蛋白，叫 Orf8。Orf8 是一种冠状病毒蛋白，是抑制免疫系统的主要蛋白之一。
图尼亚苏： 我们拼了命地想改进对它的预测，真的是拼了命。那大概是我们在单个靶标上花过最多时间的一次，以至于我丈夫说：都半夜十二点了，你该睡了。
江珀： 现在是封城第一百零二天。
图尼亚苏： 我女儿在写日记。
江珀： 我们收到了最后一个靶标。他们说，在我们这个类别里不会再发新的靶标了。所以我们要做的，就是确保交出最好的答案。
莫尔特： 结果一开始出来，我就坐下来看，看有没有人接近正确地预测出了蛋白质结构。
江珀： 真是难以置信，CASP 终于结束了。我觉得至少该举个杯。我不知道大家手边有没有什么可以举的，没有的话，就举一下笔记本电脑吧。我一会儿大概该讲两句，我觉得我应该讲，可我完全不知道该说什么。所以，让我想想。我觉得，念一封邮件才是对的。
图尼亚苏： 约翰在团队聚会上说“我要念一封邮件”，我心想：哇，约翰，你可真会玩。
江珀： 我们现在来念一封邮件。今天四点左右收到的，来自约翰·莫尔特。我就照念了。他写道：“想必你已经知道，贵组在 CASP14 中表现得惊人地好，无论是相对于其他各组，还是就模型的绝对精度而言。祝贺你们做出这项工作，它真的非常杰出。”
莫尔特： 那些结构好得不可思议，简直令人震惊。经过半个世纪，我们终于有了蛋白质折叠问题的解。
江珀： 我看到这封邮件，读完，心里冒出一句：我的天。我太太问：一切都还好吗？我给爸妈打电话，说：妈，有件事要告诉你，我们做成了一件事，可能还挺大的。
桑顿： 我得知 CASP14 结果的时候，整个人目瞪口呆。
纳斯： 我只是兴奋。这个问题我原本已经开始觉得，在我有生之年是解决不了的。现在我们有了一件科学家可以实际使用的工具。
西尼尔： 有人来找我们说：我手上有个跟疟疾有关的蛋白，或者某种传染病相关的蛋白，我们不知道它的结构，能用 AlphaFold 解出来吗？
江珀： 我们可以在一个月内轻松预测所有已知序列。
哈萨比斯： 所有已知序列，一个月？
江珀： 是的，轻松搞定。十亿、二十亿都行。
哈萨比斯： 那我们为什么不直接就这么干？我们就该大批量地这么干。这比原来的方案好太多了。为什么不干脆这么做？
西尼尔： 这确实是选项之一。
哈萨比斯： 对，这是个绝妙的主意。我们就该把世上存在的每一个蛋白质都跑一遍，然后把结果发布出去。为什么之前没人提这个？我们当然应该这么做。我们为什么还在琢磨做一个服务，让别人提交自己的蛋白？我们把一切都折叠出来，然后交给全世界所有人。谁知道会从中诞生多少发现？
伯尼： 戴密斯打电话给我们说：我们想把这件事开放出去，不只是把代码开源，而是要让所有人都能极其方便地拿到这些预测结果。
桑顿： 这太了不起了。这就像拉开帷幕，看见了蛋白质结构的整个世界。
施密特： 他们发布了两亿个蛋白质的结构。这是送给人类的礼物。
江珀： AlphaFold 向世界开放的那一刻起，我们就不再是 AlphaFold 这个故事里最重要的人了。
哈萨比斯： 简直不敢相信，全都放出去了。日本那边活跃度很高。
研究员： 一百六十四位用户。
研究员： 我们现在有六百五十五位用户。
研究员： 我们现在有十万名同时在线用户。今天简直疯了。
哈萨比斯： 所有人都付出了难以置信的努力。这些时刻，我们会记一辈子。
纳斯： 我对 AlphaFold 感到兴奋。对我的研究来说，它已经在推动大量进展。而这仅仅是个开始。
施密特： 我猜，未来每一项生物学和化学上的成就，都会以某种方式与 AlphaFold 有关。AlphaFold 是一个坐标式的时刻，人们不会忘记它，因为世界因它而改变了。
每一刻都要紧
哈萨比斯： 现在所有人都意识到了沙恩和我在二十多年前就知道的事：AI 将是人类有史以来发明的最重要的东西。
哈萨比斯： 创新与能力的推进速度正在加快，就像一块被我们踢下山坡的巨石，如今仍在不断加速。
新闻播报： 我们正处在人类历史的十字路口。AI 有可能改变我们生活的方方面面，其重要性不亚于电的发现。
哈萨比斯： 我们应当回到科学方法，严谨地理解每一步。这是一个蕴含深远机遇的时刻。
苏纳克： 驾驭这项技术所能带来的一切，可能超越我们已知的任何事物。
哈萨比斯： 你好，Alpha。
Alpha： 你好。
哈萨比斯： 这是什么？
Alpha： 这是一副国际象棋棋盘。
哈萨比斯： 如果我执白，你会推荐我走哪一步？
Alpha： 我会建议你把兵从 E2 推到 E4。
哈萨比斯： 那如果你执黑，你现在会怎么走？
Alpha： 我会走西西里防御。
哈萨比斯： 好选择。
Alpha： 谢谢。
哈萨比斯： 那你看到了什么？这个物体是什么？
Alpha： 这是一件用铅笔做的雕塑。
哈萨比斯： 如果我抽掉其中一支铅笔会怎样？
Alpha： 如果你抽掉其中一支铅笔，这件雕塑就会散架。
哈萨比斯： 那我还是别碰它了。
Alpha： 这大概是个好主意。
哈萨比斯： AGI 已经出现在地平线上了。非常清楚的一点是，下一代人将生活在一个因 AI 而彻底不同的世界里。而���果你想负责任地引导这件事，那么每一刻都至关重要。这就是我这一辈子所等待的时刻。
哈萨比斯（少年时的电视采访）： 它就是个很好的思维游戏。
排版 + 横图 + 来源，粘贴即成稿
章节 · 点击跳转视频
0:08
开场：与 Alpha 对话，AI 浪潮下的追问
1:53
破解智能的野心与最初的融资困境
8:35
雅达利实验：DQN 与端到端学习
12:22
被谷歌收购：用独立性换算力
14:40
AlphaGo、第 37 手与斯普特尼克时刻
20:41
AlphaZero：剥离人类知识，自我为师
22:31
棋童往事：那盘该和却认输的棋
26:51
模拟环境、跑酷与《星际争霸》
34:03
火药与爆竹：军事化风险与责任之辩
38:01
Bullfrog、剑桥与蛋白质折叠的种子
47:50
AlphaFold 折戟 CASP13：最高的梯子
59:08
AGI 迫近、治理难题与 CASP14 逆转
本期小问 · 档案清单
——
从游戏到蛋白质，通用智能该怎样一步步造出来？
——
研究是怎样做成的？
——
科学突破为什么取决于时机，而不只是野心？
——
谁应该为 AI 负责？
本期讲者
戴密斯·哈萨比斯DeepMind 联合创始人兼 CEO，少年国际象棋高手、剑桥计算机科学出身、UCL 认知神经科学博士。主导 AlphaGo、AlphaZero 与 AlphaFold，并因蛋白质结构预测获 2024 年诺贝尔化学奖。
沙恩·莱格DeepMind 联合创始人、首席 AGI 科学家，来自新西兰，学数学也学古典芭蕾，曾提出"机器智能"的形式化定义，长期公开预测 AGI 的时间表。
约翰·江珀AlphaFold 攻坚小队负责人。带队在 CASP14 上使蛋白质结构预测达到实验精度，与哈萨比斯共同获得 2024 年诺贝尔化学奖。
01开场：与 Alpha 对话，AI 浪潮下的追问
0:08
(RUMINATIVE MUSIC PLAYING)
(沉思般的音乐响起)
0:29
(DEVICE CHIMES) JULIETTE LOVE: Hi, Alpha. ALPHA: <i>Hello.</i> LOVE: Can you help me write code? ALPHA: <i>I was trained</i> <i>to answer questions,</i> <i>but I'm able to learn.</i> LOVE: That's very open-minded of you. ALPHA: <i>Thank you.</i> <i>I'm glad you're happy with me.</i> What's this guy doing? ALPHA: <i>That's a developer.</i> What do you think he's working on? ALPHA: <i>That's a tough question.</i> <i>He might be working</i> <i>on a new feature,</i> <i>a bug fix or something else.</i> It's quite possible.
(设备提示音) 朱丽叶·洛夫：你好，Alpha。ALPHA：<i>你好。</i> 洛夫：你能帮我写代码吗？ALPHA：<i>我被训练来回答问题，</i><i>不过我也能学习。</i> 洛夫：你还挺开放的嘛。ALPHA：<i>谢谢。</i><i>很高兴你对我满意。</i> 这个人在做什么？ALPHA：<i>那是一位开发者。</i> 你觉得他在做什么工作？ALPHA：<i>这问题不好答。</i><i>他可能在开发一个新功能，</i><i>修一个 bug，或者别的什么。</i>很有可能。
1:05
ALPHA: <i>Yes.</i> LOVE: Do you see my backpack? ALPHA: <i>That's a badminton racket.</i> It's a squash racket, but that's pretty close. ALPHA: <i>That's a badminton racket.</i> No, but you're not the first person to make that mistake. (UPBEAT MUSIC PLAYING)
ALPHA：<i>是的。</i>洛夫：你看得见我的背包吗？ALPHA：<i>那是一支羽毛球拍。</i> 那是壁球拍，不过你猜得挺接近了。ALPHA：<i>那是一支羽毛球拍。</i> 不对，不过你不是第一个搞错的人。(轻快的音乐响起)
1:34
NEWSREADER 1: <i>AI, the technology</i> <i>that has been advancing</i> <i>at breakneck speed.</i> NEWSREADER 2: <i>Artificial</i> <i>intelligence is all the rage.</i> NEWSREADER 3: <i>Some are now</i> <i>raising alarm about...</i> NEWSREADER 4: <i>It is definitely concerning.</i> NEWSREADER 5: <i>This is an AI arms race.</i> NEWSREADER 6: <i>We don't know</i> <i>how this is all</i> <i>going to shake out,</i> <i>but it's clear</i> <i>something is happening.</i>
新闻主播 1：<i>AI，这项一直在以惊人速度</i><i>飞速发展的技术。</i> 新闻主播 2：<i>人工智能如今风头正劲。</i>新闻主播 3：<i>现在有人开始发出警告，</i><i>说的是……</i> 新闻主播 4：<i>这确实令人担忧。</i>新闻主播 5：<i>这是一场 AI 军备竞赛。</i> 新闻主播 6：<i>我们不知道</i><i>这一切最终会走向何方，</i><i>但显然，</i><i>有些事正在发生。</i>
02破解智能的野心与最初的融资困境
1:53
DEMIS HASSABIS: <i>I'm kind of restless.</i> <i>Trying to build AGI</i> <i>is the most exciting journey,</i> <i>in my opinion, that humans</i> <i>have ever embarked on.</i> <i>If you're really going</i> <i>to take that seriously,</i> <i>there isn't a lot of time.</i> <i>Life's very short.</i> <i>My whole life goal is to solve</i> <i>artificial</i> <i>general intelligence.</i> <i>And on the way,</i> <i>use AI as the ultimate tool</i> <i>to solve all the world's</i> <i>most complex</i> <i>scientific problems.</i> <i>I think that's bigger</i> <i>than the Internet.</i> <i>I think that's bigger</i> <i>than mobile.</i> <i>I think it's more like</i> <i>the advent</i> <i>of electricity or fire.</i>
戴密斯·哈萨比斯：<i>我这人闲不下来。</i><i>在我看来，试图打造 AGI</i><i>是人类有史以来</i><i>踏上的最激动人心的旅程。</i><i>如果你真要认真对待这件事，</i><i>时间其实并不多。</i><i>人生非常短暂。</i><i>我毕生的目标就是攻克</i><i>通用人工智能。</i><i>并且在这条路上，</i><i>把 AI 当作终极工具，</i><i>去解决世界上</i><i>所有最复杂的</i><i>科学难题。</i><i>我觉得这比互联网</i><i>意义更重大。</i><i>我觉得这比移动互联网</i><i>意义更重大。</i><i>我觉得它更像是</i><i>电或者火的出现。</i>
2:45
ANNOUNCER: <i>World leaders</i> <i>and artificial</i> <i>intelligence experts</i> <i>are gathering</i> <i>for the first ever</i> <i>global AI safety summit,</i> <i>set to look at the risks</i> <i>of the fast growing technology</i> <i>and also...</i> HASSABIS: <i>I think</i> <i>this is a hugely</i> <i>critical moment</i> <i>for all humanity.</i> It feels like we're on the cusp of some incredible things happening. NEWSREADER: <i>Let me take you through</i> <i>some of the reactions</i> <i>in today's papers.</i> HASSABIS: <i>AGI is pretty close,</i> <i>I think.</i> <i>There's clearly huge interest</i> <i>in what it is capable of,</i> <i>where it's taking us.</i> HASSABIS: <i>This is the moment</i> <i>I've been living</i> <i>my whole life for.</i> (MID-TEMPO ELECTRONIC MUSIC PLAYS) <i>I've always been fascinated</i> <i>by the mind.</i> <i>So I set my heart</i> <i>on studying neuroscience</i> <i>because I wanted</i> <i>to get inspiration</i> <i>from the brain for AI.</i> ELEANOR MAGUIRE: <i>I remember asking Demis,</i>
播报员：<i>各国领导人</i><i>和人工智能专家</i><i>正齐聚一堂，</i><i>参加首届</i><i>全球 AI 安全峰会，</i><i>会议将探讨这项</i><i>飞速发展的技术带来的风险，</i><i>同时还会……</i>哈萨比斯：<i>我认为</i><i>这对全人类来说</i><i>是一个极其关键的时刻。</i> 感觉我们正处在一些不可思议之事发生的临界点上。新闻主播：<i>我来带大家看看</i><i>今天各家报纸上的</i><i>一些反应。</i> 哈萨比斯：<i>我认为，</i><i>AGI 已经相当近了。</i><i>大家显然对它的能力、</i><i>对它将把我们带向何方</i><i>抱有极大的兴趣。</i> 哈萨比斯：<i>这就是我</i><i>毕生所等待的</i><i>那一刻。</i> (中速电子乐响起) <i>我一直对心智着迷。</i><i>所以我下定决心去研究神经科学，</i><i>因为我想从大脑中</i><i>为 AI 汲取灵感。</i>ELEANOR MAGUIRE：<i>我记得我问过 Demis：</i><i>“你的终极目标是什么？”</i>你知道吗？就是说，你来到这里
3:32
<i>"What's the end game?"</i> You know? So you're going to come here and you're going to study neuroscience and you're going to maybe get a Ph.D. if you work hard. And he said, <i>"You know, I want</i> <i>to be able to solve AI.</i> <i>"I want to be able</i> <i>to solve intelligence."</i> HASSABIS: <i>The human brain</i> <i>is the only existent proof</i> <i>we have, perhaps</i> <i>in the entire universe,</i> <i>that general intelligence</i> <i>is possible at all.</i> <i>And I thought</i> <i>someone in this building</i> <i>should be interested</i> <i>in general intelligence</i> <i>like I am.</i> <i>And then Shane's name</i> <i>popped up.</i> HOST: Our next speaker today is Shane Legg.
然后学神经科学，如果够努力的话，也许还能拿个博士学位。他说：<i>“你知道吗，我想</i><i>破解人工智能。”</i><i>“我想</i><i>破解智能本身。”</i>HASSABIS：<i>人脑是我们现有的唯一证据，</i><i>也许在整个宇宙里都是唯一的，</i><i>证明通用智能</i><i>确实是可能的。</i><i>我当时想，</i><i>这栋楼里应该有人</i><i>跟我一样</i><i>对通用智能感兴趣。</i><i>然后 Shane 的名字</i><i>就冒出来了。</i>主持人：我们今天的下一位讲者是 Shane Legg。
4:07
He's from New Zealand, where he trained in math and classical ballet. Are machines actually becoming more intelligent? Some people say yes, some people say no. It's not really clear. We know they're getting a lot faster at doing computations. But are we actually going forwards in terms of general intelligence? HASSABIS: <i>We were both</i> <i>obsessed with AGI,</i> <i>artificial</i> <i>general intelligence.</i> So today I'm going to be talking about different approaches to building AGI. With my colleague Demis Hassabis, we're looking at ways to bring in ideas from theoretical neuroscience.
他来自新西兰，在那里学的是数学和古典芭蕾。机器真的在变得更聪明吗？有人说是，有人说不是。其实并不清楚。我们知道它们做运算的速度快了很多。但就通用智能而言，我们真的在往前走吗？HASSABIS：<i>我们俩都痴迷于 AGI，</i><i>也就是通用人工智能。</i>所以今天我要讲的是构建 AGI 的各种不同路径。我和我的同事 Demis Hassabis 一直在探索，如何把理论神经科学的思想引进来。
4:37
I felt like we were the keepers of a secret that no one else knew. <i>Shane and I knew</i> <i>no one in academia</i> <i>would be supportive</i> <i>of what we were doing.</i> AI was almost an embarrassing word to use in academic circles, right? If you said you were working on AI, then you clearly weren't a serious scientist. <i>So I convinced Shane</i> <i>the right way to do it</i> <i>would be to start a company.</i> SHANE LEGG: <i>Okay,</i> <i>we're going to try to do</i> <i>artificial</i> <i>general intelligence.</i> It may not even be possible.
我感觉我们像是守着一个别人都不知道的秘密。<i>我和 Shane 都清楚，</i><i>学术界不会有人</i><i>支持我们在做的事。</i>在学术圈里，AI 几乎是个让人难为情的词，对吧？如果你说你在做 AI，那你显然不是个严肃的科学家。<i>所以我说服了 Shane，</i><i>正确的做法</i><i>是自己开一家公司。</i>SHANE LEGG：<i>好，</i><i>我们要试着搞</i><i>通用人工智能。</i>这事甚至可能根本做不成。
5:06
We're not quite sure how we're going to do it, but we have some ideas or, kind of, approaches. Huge amounts of money, huge amounts of risk, lots and lots of compute. And if we pull this off, it'll be the biggest thing ever, right? That is a very hard thing for a typical investor to put their money on. It's almost like buying a lottery ticket. I'm going to be speaking about the system of neuroscience and how it might be used to help us build AGI. HASSABIS: <i>Finding initial funding</i> <i>for this was very hard.</i> <i>We're going to solve</i> <i>all of intelligence.</i> <i>You can imagine</i> <i>some of the looks I got</i> <i>when we were</i> <i>pitching that around.</i> So I'm a V.C. and I look at about 700 to 1,000 projects a year.
我们也不太确定要怎么做，但我们有一些想法，或者说一些思路。要烧掉巨额的钱，承担巨大的风险，还要海量的算力。而如果我们成了，那将是史上最了不起的事，对吧？这种事，对一个典型的投资人来说太难下注了。几乎就像买彩票一样。我要讲的是神经科学的这套系统，以及它可能怎样帮我们构建 AGI。HASSABIS：<i>为这件事找到最初的资金非常难。</i><i>我们要破解</i><i>智能的全部。</i><i>你可以想象，</i><i>我们到处路演时</i><i>收获了怎样的眼神。</i>我是个风险投资人，我每年大概会看700 到 1000 个项目。
5:50
And I fund literally 1% of those. About eight projects a year. So that means 99% of the time, you're in "No" mode. "Wait a minute. I'm telling you, "this is the most important thing of all time. "I'm giving you all this build-up "about how... explain "how it connects with the brain, "why the time's right now, and then you're asking me, "'But what's your, how are you going to make money? "'What's your product?'" It's like, so prosaic a question. You know? "Have you not been listening to what I've been saying?"
而我真正投的只有其中 1%。一年大约八个项目。也就是说，99% 的时间里，你都处在“拒绝”模式。“等一下。我在告诉你，这是有史以来最重要的事。“我给你做了这么长的铺垫，解释它和大脑是怎么联系起来的，“为什么现在正是时候，结果你却来问我：‘那你们怎么赚钱？“‘你们的产品是什么？’”这问题也太平庸了吧。你知道吗？“我刚才说的那些，你到底有没有在听？”
6:18
LEGG: <i>We needed investors</i> <i>who aren't necessarily</i> <i>going to invest</i> <i>because they think</i> <i>it's the best</i> <i>investment decision.</i> They're probably going to invest because they just think it's really cool. NEWSREADER: <i>He's the Silicon Valley</i> <i>version of the man</i> <i>behind the curtain</i> <i>in </i>The Wizard of Oz. <i>He had a lot to do</i> <i>with giving you</i> <i>PayPal, Facebook,</i> <i>YouTube and Yelp.</i> LEGG: <i>If everyone says "X,"</i> Peter Thiel suspects that the opposite of X is quite possibly true.
LEGG：<i>我们需要的投资人，</i><i>未必是因为觉得这是</i><i>最好的投资决策</i><i>才投的。</i>他们多半会投，只是因为他们觉得这事儿实在太酷了。新闻主播：<i>他是硅谷版的</i><i>《绿野仙踪》里那位</i><i>幕布后面的人。</i><i>PayPal、Facebook、</i><i>YouTube 和 Yelp 的诞生，</i><i>都跟他大有关系。</i>LEGG：<i>如果所有人都说“X”，</i>Peter Thiel 会怀疑，X 的反面很可能才是对的。
6:44
HASSABIS: <i>So Peter Thiel</i> <i>was our first big investor.</i> But he insisted that we come to Silicon Valley because that was the only place we could... There would be the talent, and we could build that kind of company. <i>But I was pretty adamant</i> <i>we should be in London</i> <i>because I think</i> <i>London's an amazing city.</i> <i>Plus, I knew there were</i> <i>really amazing people</i> <i>trained at Cambridge</i> <i>and Oxford and UCL.</i> <i>In Silicon Valley,</i> everybody's founding a company every year, and then if it doesn't work, you chuck it and you start something new.
HASSABIS：<i>所以 Peter Thiel</i><i>是我们第一位大投资人。</i>但他坚持要我们搬到硅谷去，因为他觉得那是唯一能……那里才有人才，我们才能建起这样一家公司。<i>但我非常坚持</i><i>我们应该待在伦敦，</i><i>因为我觉得</i><i>伦敦是座了不起的城市。</i><i>再说，我知道那里有</i><i>剑桥、牛津和 UCL</i><i>培养出来的顶尖人才。</i><i>在硅谷，</i>每个人每年都在创办一家公司，如果做不成，就扔掉，再重新开一个。
7:09
That is not conducive to a long-term research challenge. <i>So we were totally</i> <i>an outlier for him.</i> Hi, everyone. Welcome to DeepMind. So, what is our mission? We summarize it as... DeepMind's mission is to build the world's first general learning machine. So we always stress the word "general" and "learning" here are the key things. LEGG: <i>Our mission</i> <i>was to build an AGI,</i> <i>an artificial</i> <i>general intelligence.</i> And so that means that we need a system which is general.
这种氛围不利于一项长期的研究挑战。<i>所以在他看来，</i><i>我们完全是个异类。</i>大家好，欢迎来到 DeepMind。那么，我们的使命是什么？我们把它概括为……DeepMind 的使命是打造世界上第一台通用学习机器。我们一直强调，“通用”和“学习”这两个词是关键。LEGG：<i>我们的使命</i><i>是造出 AGI，</i><i>通用人工智能。</i>这意味着我们需要一个具备通用性的系统。
7:40
It doesn't learn to do one specific thing. <i>That's a really key part</i> <i>of human intelligence.</i> <i>We can learn to do</i> <i>many, many things.</i> It's going to, of course, be a lot of hard work. But one of the things that keeps me up at night is to not waste this opportunity to, you know, to really make a difference here, and have a big impact on the world. LEGG: <i>The first people</i> <i>that came</i> <i>and joined DeepMind</i> <i>really believed in the dream.</i> <i>But this was, I think,</i> <i>one of the first times</i> <i>they found a place</i> <i>full of other dreamers.</i> You know, we collected this Manhattan Project, if you like, together to solve AI.
它不是只学会做一件特定的事。<i>这是人类智能</i><i>非常关键的一部分。</i><i>我们能学会做</i><i>非常非常多的事情。</i>当然，这会需要大量艰苦的工作。但让我夜里睡不着的一件事，就是别浪费了这个机会，要真正在这里做出改变，对世界产生巨大的影响。LEGG：<i>最早来加入 DeepMind 的那批人，</i><i>是真的相信这个梦想的。</i><i>而我想，这大概是他们头一次</i><i>找到一个</i><i>满是同类梦想家的地方。</i>可以说，我们把这样一支“曼哈顿计划”式的队伍聚在一起，去破解 AI。
8:08
HELEN KING: <i>In the first two years,</i> <i>we were in total stealth mode.</i> And so we couldn't say to anyone what were we doing or where we worked. It was all quite vague. BEN COPPIN: <i>It had</i> <i>no public presence at all.</i> <i>You couldn't</i> <i>look at a website.</i> <i>The office</i> <i>was at a secret location.</i> When we would interview people in those early days, they would show up very nervously. (LAUGHS) I had at least one candidate who said, "I just messaged my wife to tell her exactly "where I'm going just in case "this turns out to be some kind of horrible scam "and I'm going to get kidnapped."
HELEN KING：<i>头两年，</i><i>我们完全处于隐身状态。</i>所以我们不能跟任何人说我们在做什么，或者在哪儿上班。一切都说得含含糊糊。BEN COPPIN：<i>它完全没有</i><i>任何公开的存在感。</i><i>你查不到网站。</i><i>办公室在一个保密的地点。</i>早期我们面试人的时候，他们来的时候都非常紧张。（笑）至少有一位候选人跟我说：“我刚给我太太发了消息，告诉她我具体要去哪儿，以防“这万一是什么可怕的骗局，我被绑架了。”
03雅达利实验：DQN 与端到端学习
8:35
Well, my favorite new person who's an investor, who I've been working for a year, is Elon Musk. So for those of you who don't know, this is what he looks like. And he hadn't really thought much about AI until we chatted. His mission is to die on Mars or something. -But not on impact. -(LAUGHTER) So... <i>We made some big decisions</i> about how we were going to approach building AI. This is a reinforcement learning setup. This is the kind of setup that we think about when we say we're building, you know, an AI agent.
对了，我最喜欢的新投资人，跟我合作了一年的，是 Elon Musk。给不认识他的各位看一下，他长这样。在我们聊之前，他其实没怎么认真想过 AI。他的使命是死在火星上之类的。——但不是着陆时摔死。——（笑声）所以……<i>关于要怎么着手构建 AI，</i>我们做了一些重大决定。这是一套强化学习的设置。当我们说要构建一个 AI 智能体时，脑子里想的就是这样一套设置。
9:05
It's basically the agent, which is the AI, and then there's the environment that it's interacting with. <i>We decided that games,</i> as long as you're very disciplined about how you use them, are the perfect training ground for AI development. LEGG: <i>We wanted</i> <i>to try to create one algorithm</i> <i>that could to be</i> <i>trained up to play</i> <i>several dozen</i> <i>different Atari games.</i> So just like a human, you have to use the same brain to play all the games. DAVID SILVER: <i>You can think of it</i> <i>that you provide the agent</i> <i>with the cartridge.</i> <i>And you say,</i> <i>"Okay, imagine you're born</i> <i>into that world</i> "with that cartridge, and you just get to interact "with the pixels and see the score.
基本上就是智能体，也就是 AI，再加上它所交互的环境。<i>我们判定，游戏</i>——只要你在使用方式上足够自律——就是 AI 研发的完美训练场。LEGG：<i>我们想试着造出一个算法，</i><i>能被训练来玩</i><i>好几十款不同的</i><i>雅达利游戏。</i>就像人一样，你得用同一个大脑去玩所有这些游戏。DAVID SILVER：<i>你可以这么理解，</i><i>你给智能体递上一盒卡带，</i><i>然后说：</i><i>“好，想象你就出生在</i><i>那个世界里，</i>带着那盒卡带，你能做的只有跟像素互动、看着分数。
9:40
"What can you do?" So what you're going to do is take your Q function. Q-K... HASSABIS: <i>Q-learning</i> <i>is one of the oldest methods</i> <i>for reinforcement learning.</i> <i>And what we did was combine</i> <i>reinforcement learning</i> <i>with deep learning</i> <i>in one system.</i> <i>No one had ever combined</i> <i>those two things together</i> <i>at scale to do</i> <i>anything impressive,</i> <i>and we needed</i> <i>to prove out this thesis.</i> LEGG: <i>We tried doing </i>Pong <i>as the first game.</i> <i>It seemed like the simplest.</i> It hasn't been told anything about what it's controlling or what it's supposed to do.
“你能做到什么？”那么接下来你要做的，就是取你的 Q 函数。Q-K……HASSABIS：<i>Q 学习是强化学习中</i><i>最古老的方法之一。</i><i>而我们所做的，是把强化学习</i><i>和深度学习</i><i>结合进同一个系统。</i><i>此前从没有人把这两样东西</i><i>大规模地结合起来，</i><i>做出什么惊艳的成果，</i><i>而我们需要</i><i>验证这个设想。</i>LEGG：<i>我们拿 </i>Pong<i> 当第一款游戏来试。</i><i>它看起来最简单。</i>没有人告诉过它，它在控制什么，或者它该做什么。
10:12
All it knows is that score is good and it has to learn what its controls do, and build everything... first principles. (GAME BEEPING)
它只知道分数是好东西，然后必须自己学会它的操作能干什么，从第一性原理出发……把一切都建起来。（游戏提示音）
10:28
It wasn't really working. HASSABIS: <i>I was just</i> <i>saying to Shane,</i> <i>"Maybe we're just wrong,</i> <i>and we can't even do </i>Pong." LEGG: <i>It was a bit</i> <i>nerve-racking,</i> thinking how far we had to go if we were going to really build a generally intelligent system. HASSABIS: <i>And it felt like</i> <i>it was time</i> <i>to give up and move on.</i> <i>And then suddenly...</i> (STIRRING MUSIC PLAYS) <i>We got our first point.</i> <i>And then it was like,</i> <i>"Is this random?"</i> <i>"No, no, it's really</i> <i>getting a point now."</i> It was really exciting that this thing that previously couldn't even figure out how to move a paddle had suddenly been able to totally get it right.
当时其实没什么效果。HASSABIS：<i>我当时就跟 Shane 说：</i><i>“也许我们就是错了，</i><i>我们连 </i>Pong<i> 都搞不定。”</i>LEGG：<i>那种感觉有点让人揪心，</i>想到要真造出一个通用智能系统，我们还有多远的路要走。HASSABIS：<i>那时候感觉</i><i>差不多该放弃、去做别的了。</i><i>然后突然之间……</i>（激昂的音乐响起）<i>我们拿到了第一分。</i><i>然后就是：</i><i>“这是碰巧的吗？”</i><i>“不不，它现在是真的</i><i>能得分了。”</i>真的非常激动，这个之前连怎么移动挡板都搞不明白的东西，突然完全掌握了。
11:05
HASSABIS: <i>Then it was getting</i> <i>a few points.</i> <i>And then it won</i> <i>its first game.</i> <i>And then three months later,</i> <i>no human could beat it.</i> <i>You hadn't told it the rules,</i> <i>how to get the score, nothing.</i> <i>And you just tell it</i> <i>to maximize the score,</i> <i>and it goes away and does it.</i> <i>This is the first time</i> <i>anyone had done</i> <i>this end-to-end learning.</i> "Okay, so we have this working in quite a general way. <i>"Now let's try another game."</i> HASSABIS: <i>So then</i> <i>we tried </i>Breakout.
HASSABIS：<i>接着它开始能拿到几分。</i><i>然后它赢下了第一局。</i><i>再过三个月，</i><i>没有人类能赢它了。</i><i>你没告诉过它规则，</i><i>没告诉它怎么得分，什么都没有。</i><i>你只是让它把分数最大化，</i><i>它就自己跑去做到了。</i><i>这是史上第一次</i><i>有人实现了</i><i>这种端到端的学习。</i>“好，我们已经让它以一种相当通用的方式跑起来了。<i>“现在来试试另一款游戏。”</i>HASSABIS：<i>于是我们试了 </i>Breakout<i>（打砖块）。</i>
11:27
At the beginning, after 100 games, the agent is not very good. It's missing the ball most of the time, but it's starting to get the hang of the idea that the bat should go towards the ball. <i>Now, after 300 games,</i> <i>it's about as good as</i> <i>any human can play this.</i> We thought, "Well, that's pretty cool," but we left the system playing for another 200 games, and it did this amazing thing. It found the optimal strategy was to dig a tunnel around the side and put the ball around the back of the wall.
一开始，玩了 100 局之后，这个智能体还很不行。它大多数时候都接不到球，但已经开始摸到门道，知道挡板要朝球的方向移动。<i>而在 300 局之后，</i><i>它的水平已经和</i><i>人类能玩到的最好水平差不多了。</i>我们当时想：“嗯，这挺酷的”，但我们又让这个系统多玩了 200 局，结果它做出了一件了不起的事。它发现最优策略是从侧边挖出一条隧道，把球送到砖墙后面去。
11:51
KORAY KAVUKCUOGLU: <i>Finally, the agent</i> <i>is actually achieving</i> <i>what you thought</i> <i>it would achieve.</i> That is a great feeling. Right? Like, I mean, when we do research, that is the best we can hope for. <i>We started generalizing</i> <i>to 50 games,</i> <i>and we basically</i> <i>created a recipe.</i> <i>We could just take a game</i> <i>that we have</i> <i>never seen before.</i> <i>We would run</i> <i>the algorithm on that,</i> <i>and DQN could train itself</i> <i>from scratch,</i> <i>achieving human level</i> <i>or sometimes better</i> <i>than human level.</i> LEGG: <i>We didn't build it</i> <i>to play any of them.</i> We could just give it a bunch of games and would figure it out for itself.
KORAY KAVUKCUOGLU：<i>终于，智能体真的</i><i>做到了你原本设想它能做到的事。</i>那种感觉棒极了，对吧？我是说，我们做研究，能盼到的最好结果就是这样。<i>我们开始把它推广到 50 款游戏，</i><i>基本上摸出了一套配方。</i><i>我们可以随便拿一款</i><i>从没见过的游戏，</i><i>在上面跑这个算法，</i><i>DQN 就能从零开始</i><i>自我训练，</i><i>达到人类水平，</i><i>有时甚至</i><i>超过人类水平。</i>LEGG：<i>我们造它，本来不是为了玩其中任何一款游戏。</i>我们只要给它一堆游戏，它自己就能摸索出来。
04被谷歌收购：用独立性换算力
12:22
And there was something quite magical in that. MURRAY SHANAHAN: <i>Suddenly you had something</i> <i>that would respond and learn</i> <i>whatever situation</i> <i>it was parachuted into.</i> <i>And that was like a huge,</i> <i>huge breakthrough.</i> <i>It was in many respects</i> the first example of any kind of thing you could call a general intelligence. HASSABIS: <i>Although we were</i> <i>a well-funded startup,</i> <i>holding us back</i> <i>was not enough compute power.</i> <i>I realized that</i> <i>this would accelerate</i> <i>our time scale</i> <i>to AGI massively.</i> I used to see Demis quite frequently.
这里面有种很神奇的东西。MURRAY SHANAHAN：<i>突然之间，你有了一个东西，</i> <i>无论把它空投到什么处境里，</i> <i>它都能做出反应并学会应对。</i><i>那是一个巨大的、</i> <i>巨大的突破。</i> <i>在很多方面，</i> 它是第一个可以被称为通用智能的例子。HASSABIS：<i>虽然我们是一家</i> <i>资金充裕的初创公司，</i> <i>但拖住我们的</i> <i>是算力不够。</i><i>我意识到，</i> <i>这会极大地加快</i> <i>我们通往 AGI</i> <i>的时间表。</i> 我以前经常见到 Demis。
12:52
We'd have lunch, and he did... say to me that he had two companies that were involved in buying DeepMind. And he didn't know which one to go with. <i>The issue was,</i> <i>would any commercial company</i> <i>appreciate the real importance</i> <i>of the research?</i> And give the research time to come to fruition and not be breathing down their necks, <i>saying, "We want some kind of</i> <i>commercial benefit from this."</i> (MACHINERY HUMMING) Google has bought DeepMind for a reported £400,000,000, making the artificial intelligence firm its largest European acquisition so far.
我们会一起吃午饭，他确实……跟我说过，有两家公司都想收购 DeepMind。他不知道该选哪一家。<i>问题在于，</i> <i>会有哪家商业公司</i> <i>真正理解这些研究</i> <i>的重要性吗？</i>并且给研究足够的时间去开花结果，而不是天天在背后盯着他们，<i>说：“我们要从这里面</i> <i>得到点商业回报。”</i>（机器嗡鸣声）谷歌以据称四亿英镑的价格收购了 DeepMind，这是它迄今为止在欧洲最大的一笔收购，收购对象是一家人工智能公司。
13:37
<i>The company was founded</i> <i>by 37-year-old entrepreneur</i> <i>Demis Hassabis.</i> After the acquisition, I started mentoring and spending time with Demis, and just listening to him. And this is a person who fundamentally is a scientist and a natural scientist. He wants science to solve every problem in the world, and he believes it can do so. That's not a normal person you find in a tech company. HASSABIS: We were able to not only join Google but run independently in London, build our culture, which was optimized for breakthroughs and not deal with products, do pure research.
<i>这家公司由 37 岁的创业者</i> <i>Demis Hassabis 创立。</i> 收购之后，我开始担任 Demis 的导师，花时间和他相处，就是听他说。这个人骨子里是个科学家，是个真正的自然科学家。他希望科学能解决世界上的每一个问题，而且他相信科学做得到。这不是你在一家科技公司里常见的那种人。HASSABIS：我们不仅加入了谷歌，还能在伦敦独立运作，建立我们自己的文化——一种为突破而优化、不用去操心产品的文化，做纯粹的研究。
14:17
<i>Our investors</i> <i>didn't want to sell,</i> <i>but we decided</i> <i>that this was the best thing</i> <i>for the mission.</i> <i>In many senses,</i> <i>we were underselling</i> <i>in terms of value</i> <i>before it more matured,</i> <i>and you could have sold it</i> <i>for a lot more money.</i> <i>And the reason is because</i> <i>there's no time to waste.</i> There's so many things that got to be cracked while the brain is still in gear. You know, I'm still alive. There's all these things that gotta be done.
<i>我们的投资人</i> <i>并不想卖，</i> <i>但我们认为</i> <i>这对使命来说</i> <i>是最好的选择。</i><i>从很多意义上说，</i> <i>在它更成熟之前，</i> <i>我们是贱卖了，</i> <i>本来可以卖出</i> <i>高得多的价钱。</i><i>原因就在于</i> <i>没有时间可以浪费。</i> 有太多事情必须攻克，趁大脑还转得动的时候。你知道，趁我还活着。有这么多事情非做不可。
05AlphaGo、第 37 手与斯普特尼克时刻
14:40
So you haven't got-- I mean, how many... How many billions would you trade for another five years of life, you know, to do what you set out to do? Okay, all of a sudden, we've got this massive scale compute available to us. What can we do with that? HASSABIS: <i>Go is the pinnacle</i> <i>of board games.</i> <i>It is the most complex game</i> <i>ever devised by man.</i> <i>There are more possible</i> <i>board configurations</i> <i>in the game of Go than there</i> <i>are atoms in the universe.</i> SILVER: <i>Go is the holy grail</i> <i>of artificial intelligence.</i> <i>For many years,</i> <i>people have looked</i> <i>at this game</i> <i>and they've thought,</i> <i>"Wow, this is just too hard."</i> Everything we've ever tried in AI, it just falls over when you try the game of Go.
所以你没有那么多——我是说，多少……你愿意用多少个亿，去换多活五年，你知道吗，去做你当初立志要做的事？好了，突然之间，我们有了这么大规模的算力可用。我们能用它做什么？HASSABIS：<i>围棋是棋类游戏的巅峰。</i> <i>它是人类有史以来</i> <i>设计出的最复杂的游戏。</i><i>围棋可能的棋局变化，</i> <i>比宇宙中的原子还要多。</i>SILVER：<i>围棋是人工智能的圣杯。</i> <i>很多年来，</i> <i>人们看着这个游戏，</i><i>心里想：</i> <i>“哇，这实在太难了。”</i> 我们在 AI 里尝试过的一切方法，一碰上围棋就全都垮掉。
15:22
<i>And so that's why</i> <i>it feels like</i> <i>a real litmus test</i> <i>of progress.</i> We had just bought DeepMind. They were working on reinforcement learning <i>and they were the world's</i> <i>experts in games.</i> <i>And so when</i> <i>they introduced the idea</i> <i>that they could beat</i> <i>the top level Go players</i> <i>in a game that was thought</i> <i>to be incomputable,</i> I thought, "Well, that's pretty interesting." Our ultimate next step is to play the legendary Lee Sedol in just over two weeks.
<i>所以它给人的感觉，</i> <i>就像是衡量进展的</i> <i>一块真正的试金石。</i> 我们当时刚收购了 DeepMind。他们在做强化学习，<i>而且是全世界</i> <i>玩游戏这块的顶尖专家。</i> <i>所以当他们提出，</i><i>他们能在一个被认为</i> <i>不可计算的游戏里</i> <i>击败顶级围棋选手时，</i>我心想：“嗯，这挺有意思的。”我们最终的下一步，是在两周多以后对战传奇棋手李世石。
15:50
NEWSREADER 1: <i>A match like no other</i> <i>is about to get underway</i> <i>in South Korea.</i> NEWSREADER 2: <i>Lee Sedol</i> <i>is getting ready to rumble.</i> HASSABIS: <i>Lee Sedol is probably</i> <i>one of the greatest players</i> <i>of the last decade.</i> <i>I describe him</i> <i>as the Roger Federer of Go.</i> ERIC SCHMIDT: <i>He showed up,</i> <i>and all of a sudden</i> <i>we have a thousand Koreans</i> who represent all of Korean society, the top Go players. <i>And then we have Demis.</i> <i>And the great</i> <i>engineering team.</i> Lee Sedol, he's very famous for very creative fighting play.
主播 1：<i>一场前所未有的比赛</i> <i>即将在韩国开始。</i> 主播 2：<i>李世石已经准备好</i> <i>要大干一场了。</i>HASSABIS：<i>李世石大概是</i> <i>过去十年最伟大的棋手之一。</i> <i>我形容他是</i> <i>围棋界的费德勒。</i>ERIC SCHMIDT：<i>他一出现，</i> <i>突然之间</i> <i>我们面对的是一千个韩国人，</i> 他们代表了整个韩国社会，还有最顶尖的围棋选手。<i>而我们这边是 Demis，</i> <i>和那支了不起的</i> <i>工程团队。</i> 李世石以极富创造力的搏杀棋风闻名。
16:25
<i>So this could be</i> <i>difficult for us.</i> SCHMIDT: <i>I figured Lee Sedol</i> <i>is going to beat these guys,</i> <i>but they'll make</i> <i>a good showing.</i> Good for a startup. <i>I went over</i> <i>to the technical group</i> <i>and they said,</i> <i>"Let me show you</i> <i>how our algorithm works."</i> RESEARCHER: If you step through the actual game, we can see, kind of, how AlphaGo thinks. HASSABIS: <i>The way we start off</i> <i>on training AlphaGo</i> <i>is by showing it 100,000 games</i> <i>that strong amateurs</i> <i>have played.</i> <i>And we first initially</i> <i>get AlphaGo to mimic</i> <i>the human player,</i> <i>and then through</i> <i>reinforcement learning,</i> <i>it plays against</i> <i>different versions of itself</i> <i>many millions of times</i> <i>and learns from its errors.</i> Hmm, this is interesting.
<i>所以这对我们来说</i> <i>可能会很棘手。</i> SCHMIDT：<i>我当时估计李世石</i> <i>会赢这帮人，</i><i>但他们能打得</i> <i>像模像样。</i> 对一家初创公司来说已经不错了。<i>我走到技术组那边，</i> <i>他们说：</i> <i>“我给你看看</i> <i>我们的算法是怎么工作的。”</i>研究员：如果你把实际这盘棋一步步过一遍，就能大致看出 AlphaGo 是怎么思考的。HASSABIS：<i>我们训练 AlphaGo</i> <i>的第一步，</i> <i>是给它看十万盘</i> <i>业余高手下过的棋。</i><i>一开始我们</i> <i>先让 AlphaGo</i> <i>模仿人类棋手，</i> <i>然后通过</i> <i>强化学习，</i><i>让它和自己的</i> <i>不同版本对弈</i> <i>几百万次，</i> <i>从错误中学习。</i>嗯，这挺有意思。
17:07
ANNOUNCER 1: All right, folks, you're going to see history made. (ANNOUNCER 2 SPEAKING KOREAN) SCHMIDT: <i>So the game starts.</i> ANNOUNCER 1: <i>He's really concentrating.</i> ANNOUNCER 3: <i>If you really look at the...</i> (ANNOUNCERS EXCLAIM) That's a very surprising move. ANNOUNCER 3: I think we're seeing an original move here.
解说 1：好了，各位，你们将见证历史。（解说 2 说韩语）SCHMIDT：<i>比赛开始了。</i> 解说 1：<i>他非常专注。</i>解说 3：<i>如果你仔细看这个……</i>（解说员们惊呼）这一手非常出人意料。解说 3：我觉得我们看到了一手前所未有的棋。
17:34
Yeah, that's an exciting move. I like... SILVER: <i>Professional commentators</i> <i>almost unanimously said</i> <i>that not a single human player</i> <i>would have chosen move 37.</i> <i>So I actually had a poke</i> <i>around in AlphaGo</i> <i>to see what AlphaGo thought.</i> <i>And AlphaGo actually agreed</i> <i>with that assessment.</i> <i>AlphaGo said there was a one</i> <i>in 10,000 probability</i> <i>that move 37 would have been</i> <i>played by a human player.</i> (SEDOL SPEAKING IN KOREAN)
是啊，这一手很让人兴奋。我喜欢……SILVER：<i>职业解说员几乎</i> <i>一致认为，</i> <i>没有任何一个人类棋手</i> <i>会选第 37 手那一步。</i><i>于是我真的去 AlphaGo 内部</i> <i>翻了翻，看它自己怎么想。</i> <i>结果 AlphaGo</i> <i>也同意这个判断。</i><i>AlphaGo 认为，</i> <i>人类棋手下出第 37 手</i> <i>的概率是万分之一。</i>（李世石说韩语）
18:08
SILVER: <i>The game of Go</i> <i>has been studied</i> <i>for thousands of years.</i> <i>And AlphaGo discovered</i> <i>something completely new.</i> ANNOUNCER: He resigned. Lee Sedol has just resigned. He's beaten. (ELECTRONIC MUSIC PLAYING) NEWSREADER 1: <i>The battle</i> <i>between man versus machine,</i> <i>a computer just came out</i> <i>the victor.</i> NEWSREADER 2: <i>Google</i> <i>put its DeepMind team</i> <i>to the test against</i> <i>one of the brightest minds</i> <i>in the world and won.</i> SCHMIDT: <i>That's when we realized</i> <i>the DeepMind people knew</i> <i>what they were doing</i> <i>and to pay attention</i> <i>to reinforcement learning</i> <i>as they have invented it.</i> <i>Based on that experience,</i> <i>AlphaGo got better</i> <i>and better and better.</i> And they had a little chart of how much better they were getting.
SILVER：<i>围棋这个游戏</i> <i>已经被研究了几千年，</i> <i>而 AlphaGo 却发现了</i> <i>全新的东西。</i>解说：他认输了。李世石刚刚认输了。他输了。（电子音乐响起）主播 1：<i>人机大战，</i> <i>最终是电脑</i> <i>取得了胜利。</i>主播 2：<i>谷歌让它的</i> <i>DeepMind 团队</i> <i>挑战世界上最聪明的头脑之一，</i> <i>并且赢了。</i>SCHMIDT：<i>就是在那一刻</i> <i>我们意识到，</i> <i>DeepMind 的人是真懂行的，</i> <i>而且必须重视强化学习——</i><i>因为那本来就是</i> <i>他们发明的。</i> <i>在那之后，</i> <i>AlphaGo 变得越来越强，</i> <i>越来越强。</i>他们还做了一张小图表，显示他们进步了多少。
18:47
And I said, "When does this stop?" And Demis said, "When we beat the Chinese guy, <i>"the top-rated player</i> <i>in the world."</i> ANNOUNCER 1: <i>Ke Jie versus AlphaGo.</i>
我就问：“这什么时候到头？”Demis 说：“等我们赢了那个中国人，<i>就是世界排名第一的</i> <i>那位棋手。”</i> 解说 1：<i>柯洁对阵 AlphaGo。</i>
19:03
ANNOUNCER 2: And I think we will see AlphaGo pushing through there. ANNOUNCER 1: AlphaGo is ahead quite a bit. SCHMIDT: <i>About halfway</i> <i>through the first game,</i> <i>the best player in the world</i> <i>was not doing so well.</i> ANNOUNCER 1: What can black do here? ANNOUNCER 2: Looks difficult. SCHMIDT: <i>And at a critical moment...</i>
解说 2：我觉得我们会看到 AlphaGo 从那里突破出去。解说 1：AlphaGo 领先了不少。SCHMIDT：<i>第一盘棋</i> <i>下到一半左右，</i> <i>这位世界第一</i> <i>就已经很吃力了。</i>解说 1：黑棋这里还能怎么办？解说 2：看起来很难。SCHMIDT：<i>然后在一个关键时刻……</i>
19:32
the Chinese government ordered the feed cut off. <i>It was at that moment</i> <i>we were telling the world</i> <i>that something new</i> <i>had arrived on earth.</i> <i>In the 1950s</i> <i>when Russia's </i>Sputnik <i>satellite was launched,</i> <i>it changed</i> <i>the course of history.</i> TV HOST: <i>It is a challenge</i> <i>that America must meet</i> <i>to survive in the Space Age.</i> SCHMIDT: <i>This has been</i> <i>called the </i>Sputnik<i> moment.</i> The <i>Sputnik</i> moment created a massive reaction in the US <i>in terms of funding</i> <i>for science and engineering,</i> <i>and particularly</i> <i>of space technology.</i> For China, AlphaGo was the wakeup call, the <i>Sputnik</i> moment.
中国政府下令切断了直播信号。<i>就是在那一刻，</i> <i>我们等于在告诉全世界：</i> <i>地球上出现了</i> <i>某种全新的东西。</i><i>上世纪五十年代，</i> <i>苏联发射了“斯普特尼克”卫星，</i> <i>那改变了历史的进程。</i>电视主持人：<i>这是美国必须迎接的挑战，</i> <i>否则无法在太空时代生存下去。</i> SCHMIDT：<i>这被称为</i> <i>“斯普特尼克时刻”。</i>“斯普特尼克时刻”在美国引发了巨大反响，<i>体现在对科学和工程</i> <i>的资金投入上，</i><i>尤其是</i> <i>航天技术。</i> 而对中国来说，AlphaGo 就是那记警钟，就是它的“斯普特尼克时刻”。
20:16
<i>It launched an AI space race.</i> HASSABIS: <i>We had this</i> <i>huge idea that worked,</i> <i>and now the whole world knows.</i> <i>It's always easier</i> <i>to land on the moon</i> <i>if someone's already</i> <i>landed there.</i> <i>It is going to matter</i> <i>who builds AI,</i> <i>and how it gets built.</i> <i>I always feel that pressure.</i>
<i>它开启了一场 AI 军备竞赛。</i> HASSABIS：<i>我们有了一个</i> <i>成功的大想法，</i> <i>而现在全世界都知道了。</i><i>如果已经有人登上过月球，</i> <i>再登月总是要容易得多。</i> <i>由谁来造出 AI、</i><i>以及怎么造，</i> <i>是有影响的。</i> <i>我一直感受到那种压力。</i>
06AlphaZero：剥离人类知识，自我为师
20:41
SILVER: <i>There's been</i> <i>a big chain of events</i> <i>that followed on from all</i> <i>of the excitement of AlphaGo.</i> <i>When we played</i> <i>against Lee Sedol,</i> <i>we actually had a system</i> <i>that had been trained</i> <i>on human data,</i> <i>on all of the millions</i> <i>of games</i> <i>that have been played</i> <i>by human experts.</i> <i>We eventually found</i> <i>a new algorithm,</i> <i>a much more elegant approach</i> <i>to the whole system,</i> which actually stripped out all of the human knowledge and just started completely from scratch.
SILVER：<i>AlphaGo 引发的那股热潮</i> <i>之后，接连发生了</i> <i>一连串的事情。</i><i>我们和李世石对弈时，</i> <i>用的其实是一个</i> <i>在人类数据上</i> <i>训练出来的系统，</i><i>用的是人类高手下过的</i> <i>几百万盘棋。</i> <i>后来我们找到了</i> <i>一种新算法，</i><i>一种对整个系统来说</i> <i>优雅得多的思路，</i> 它其实剥离了所有的人类知识，完全从零开始。
21:03
<i>And that became a project</i> <i>which we called AlphaZero.</i> <i>Zero, meaning having zero</i> <i>human knowledge in the loop.</i> <i>Instead of learning</i> <i>from human data,</i> <i>it learned from its own games.</i> <i>So it actually</i> <i>became its own teacher.</i>
<i>那后来成了一个项目，</i> <i>我们叫它 AlphaZero。</i> <i>“Zero”的意思是，</i> <i>整个过程里零人类知识。</i><i>它不是从人类数据里学，</i> <i>而是从自己下的棋里学。</i> <i>所以它其实</i> <i>成了自己的老师。</i>
21:20
HASSABIS: <i>AlphaZero is an experiment</i> <i>in how little knowledge</i> <i>can we put into these systems</i> <i>and how quickly</i> <i>and how efficiently</i> <i>can they learn?</i> <i>AlphaZero doesn't</i> <i>have any rules.</i> <i>It learns through experience.</i> <i>The next stage</i> <i>was to make it more general,</i> <i>so that it could play</i> <i>any two-player game.</i> <i>Things like chess,</i> <i>and in fact,</i> <i>any kind of two-player</i> <i>perfect information game.</i> It's going really well.
HASSABIS：<i>AlphaZero 是一个实验：</i> <i>我们能往这些系统里</i> <i>放进多么少的知识，</i><i>而它们又能学得</i> <i>多快、多高效？</i> <i>AlphaZero 没有任何</i> <i>被灌进去的规则套路，</i><i>它通过经验来学习。</i><i>下一步是让它更通用，</i> <i>好让它能玩</i> <i>任何双人游戏。</i><i>比如国际象棋，</i> <i>实际上是</i> <i>任何一种双人</i> <i>完全信息博弈。</i> 进展非常好。
21:46
It's going really, really well. -Oh, wow. -It's going down, like fast. HASSABIS: <i>AlphaGo used</i> <i>to take a few months to train,</i> <i>but AlphaZero could start</i> <i>in the morning</i> <i>playing completely randomly</i> <i>and then by tea</i> <i>be at superhuman level.</i> <i>And by dinner it will be</i> <i>the strongest chess entity</i> <i>there's ever been.</i> -Amazing, it's amazing. -Yeah. It's discovered its own attacking style, you know, to take on the current level of defense. I mean, I never in my wildest dreams...
进展真的非常非常好。-哦，哇。-它在往下掉，掉得特别快。HASSABIS：<i>AlphaGo 以前</i> <i>要训练好几个月，</i> <i>而 AlphaZero 可以早上开始，</i><i>完全随机地乱下，</i> <i>到下午茶时间</i> <i>就达到超人水平，</i> <i>到晚饭时就成了</i> <i>有史以来最强的</i><i>国际象棋实体。</i> -太惊人了，太惊人了。-是啊。它自己摸索出了一套进攻风格，用来对付现在这种防守水平。我是说，我做梦都没想到……
22:12
I agree. Actually, I was not expecting that either. And it's fun for me. I mean, it's inspired me to get back into chess again, because it's cool to see <i>that there's even more depth</i> <i>than we thought in chess.</i> (HORN BLOWS)
我同意。其实我也没料到会这样。这对我来说很有意思。我是说，它让我又想回去下棋了，因为看到<i>国际象棋比我们以为的</i> <i>还要深奥，</i>这很酷。（号角声）
07棋童往事：那盘该和却认输的棋
22:31
HASSABIS: <i>I actually got</i> <i>into AI through games.</i> <i>Initially, it was board games.</i> <i>I was thinking,</i> <i>"How is my brain doing this?"</i> <i>Like, what is it doing?</i> <i>I was very aware of that</i> <i>from a very young age.</i> <i>So I've always been thinking</i> <i>about thinking.</i> NEWSREADER: <i>The British</i> <i>and American chess champions</i> <i>meet to begin</i> <i>a series of matches.</i> <i>Playing alongside them</i> <i>are the cream</i> <i>of Britain and America's</i> <i>youngest players.</i> NEWSREADER 2: <i>Demis Hassabis</i> <i>is representing Britain.</i>
HASSABIS：<i>其实我是通过游戏</i> <i>进入 AI 领域的。</i> <i>最开始是棋类游戏。</i> <i>我当时在想：</i> <i>“我的大脑是怎么做到这些的？”</i><i>就是说，它到底在干什么？</i> <i>我从很小的时候</i> <i>就非常在意这个问题。</i> <i>所以我一直在</i> <i>思考“思考”这件事。</i>主播：<i>英国和美国的</i> <i>国际象棋冠军</i> <i>相聚一堂，</i> <i>开始一系列对局。</i><i>与他们同场竞技的，</i> <i>是英美两国</i> <i>最优秀的少年棋手。</i> 主播 2：<i>Demis Hassabis</i> <i>代表英国出战。</i>
23:05
COSTAS HASSABIS: <i>When Demis was four,</i> he first showed an aptitude for chess. <i>By the time he was six,</i> <i>he became London</i> <i>under-eight champion.</i> HASSABIS: <i>My parents</i> <i>were very interesting</i> <i>and unusual, actually.</i> <i>I'd probably describe them</i> <i>as quite bohemian.</i> <i>My father</i> <i>was a singer-songwriter</i> <i>when he was younger,</i> <i>and Bob Dylan was his hero.</i> <i>Around when I was about eight,</i> <i>my dad got a camper van.</i> (HORN HONKS) (ANGELA HASSABIS SPEAKING) Yeah, yeah.
COSTAS HASSABIS：<i>Demis 四岁的时候，</i> 就第一次显露出下棋的天赋。<i>六岁时，</i> <i>他就成了伦敦</i> <i>八岁以下组冠军。</i> 哈萨比斯：<i>我父母</i> <i>其实非常有意思，</i><i>也很不寻常。</i> <i>我大概会说他们</i> <i>相当波希米亚。</i> <i>我父亲年轻时</i> <i>是个创作歌手，</i><i>鲍勃·迪伦是他的偶像。</i> <i>在我大约八岁的时候，</i> <i>我爸买了一辆房车。</i>（喇叭声） （安吉拉·哈萨比斯说话） 对，对。
23:41
HOST: What is it that you like about this game? It's just a good thinking game. HASSABIS: <i>At the time,</i> <i>I was the second-highest rated</i> <i>chess player in the world</i> <i>for my age.</i> <i>But although I was on track</i> <i>to be a professional</i> <i>chess player,</i> <i>I thought that was what</i> <i>I was going to do.</i> <i>No matter how much</i> <i>I loved the game,</i> <i>it was incredibly stressful.</i> <i>Definitely was not fun</i> <i>and games for me.</i> Parents used to, you know, get very upset when I lost the game and angry if I forgot something.
主持人：这个游戏你喜欢它哪一点？它就是个很好的思考游戏。哈萨比斯：<i>当时，</i> <i>我是同年龄段里</i> <i>世界排名第二的</i> <i>棋手。</i><i>虽然我当时正走在</i> <i>成为职业棋手的路上，</i> <i>我也以为那就是</i> <i>我要做的事。</i><i>但不管我多爱这项运动，</i> <i>它的压力都大得惊人。</i> <i>对我来说绝对不是</i> <i>什么轻松好玩的事。</i>父母以前，你知道的，我输棋的时候他们会很难过，我漏算了什么他们会生气。
24:10
And because it was quite high stakes for them, you know, it cost a lot of money to go to these tournaments. And my parents didn't have much money. <i>My parents thought, you know,</i> <i>"If you interested</i> <i>in being a chess professional,</i> <i>"this is really important.</i> <i>It's like your exams."</i> <i>I remember</i> <i>I was about 12-years-old</i> <i>and I was at this</i> <i>international chess tournament</i> <i>in Liechtenstein</i> <i>up in the mountains.</i> (BELL TOLLING)
因为对他们来说赌注挺大的，去参加这些比赛要花很多钱。而我父母并没有多少钱。<i>我父母觉得，你知道，</i> <i>“如果你有兴趣</i> <i>当职业棋手，</i> <i>那这件事真的很重要。</i> <i>这就像你的考试一样。”</i><i>我记得</i> <i>我大概十二岁的时候，</i> <i>参加一场国际象棋国际赛，</i><i>地点在列支敦士登，</i> <i>在山上。</i> （钟声）
24:42
<i>And we were in this</i> <i>huge church hall</i> <i>with, you know,</i> <i>hundreds of international</i> <i>chess players.</i> <i>And I was playing</i> <i>the ex-Danish champion.</i> <i>He must have been</i> <i>in his 30s, probably.</i> <i>In those days,</i> <i>there was a long time limit.</i> <i>The games could</i> <i>literally last all day.</i> (YAWNS) (TIMER TICKING) <i>We were into our tenth hour.</i> (TIMER TICKS FRANTICALLY)
<i>我们在一个</i> <i>巨大的教堂大厅里，</i><i>你知道，里面有</i> <i>几百名国际棋手。</i><i>我对上的是</i> <i>前丹麦冠军。</i> <i>他当时大概</i> <i>三十多岁吧。</i> <i>那个年代，</i> <i>时限非常长。</i><i>一盘棋真的可以</i> <i>下一整天。</i> （打哈欠） （计时器滴答） <i>我们下到了第十个小时。</i>（计时器急促滴答）
25:19
<i>And we were in this</i> <i>incredibly unusual ending.</i> <i>I think it should be a draw.</i> <i>But he kept on trying</i> <i>to win for hours.</i>
<i>我们进入了一个</i> <i>极其罕见的残局。</i> <i>我认为那应该是和棋。</i> <i>但他还是不停地</i> <i>试图赢下来，下了好几个小时。</i>
25:31
(HORSE NEIGHS) <i>Finally, he tried</i> <i>one last cheap trick.</i>
（马嘶声） <i>最后，他使出了</i> <i>最后一个小把戏。</i>
25:42
<i>All I had to do</i> <i>was give away my queen.</i> <i>Then it would be stalemate.</i> <i>But I was so tired,</i> <i>I thought it was inevitable</i> <i>I was going to be checkmated.</i> <i>And so I resigned.</i>
<i>我只要把后送掉，</i> <i>就是逼和了。</i> <i>但我太累了，</i><i>我以为自己被将死</i> <i>已经无可避免。</i> <i>于是我认输了。</i>
25:56
<i>He jumped up.</i> <i>Just started laughing.</i> (LAUGHING) <i>And he went,</i> <i>"Why have you resigned?</i> <i>It's a draw."</i> <i>And he immediately,</i> <i>with a flourish,</i> <i>sort of showed me</i> <i>the drawing move.</i> <i>I felt so sick to my stomach.</i> <i>It made me think of</i> <i>the rest of that tournament.</i> <i>Like, are we wasting</i> <i>our minds?</i> <i>Is this the best use</i> <i>of all this brain power?</i> <i>Everybody's, collectively,</i> <i>in that building?</i> <i>If you could somehow plug in</i> <i>those 300 brains</i> <i>into a system,</i> <i>you might be able</i> <i>to solve cancer</i> <i>with that level</i> <i>of brain power.</i> <i>This intuitive feeling</i> <i>came over me</i> <i>that although I love chess,</i> <i>this is not the right thing</i> <i>to spend my whole life on.</i>
<i>他一下跳了起来。</i> <i>直接大笑。</i> （笑） <i>然后他说，</i> <i>“你为什么要认输？</i> <i>这是和棋啊。”</i><i>然后他立刻，</i> <i>动作很夸张地，</i> <i>给我演示了</i> <i>那步逼和的着法。</i><i>我当时恶心得要命。</i> <i>这让我开始想</i> <i>那场比赛剩下的部分。</i> <i>比如，我们是不是在</i> <i>浪费自己的头脑？</i><i>这是这些脑力的</i> <i>最佳用途吗？</i> <i>整栋楼里所有人的</i> <i>脑力加在一起？</i><i>如果你能想办法把</i> <i>那三百个大脑</i> <i>接进一个系统，</i> <i>说不定就能</i> <i>攻克癌症，</i><i>用那样的脑力。</i> <i>当时有一种直觉</i> <i>涌上心头：</i> <i>虽然我热爱国际象棋，</i><i>但这不是值得我</i> <i>投入一生去做的事。</i>
08模拟环境、跑酷与《星际争霸》
26:51
LEGG: <i>Demis and myself,</i> <i>our plan was always</i> <i>to fill DeepMind</i> <i>with some of the most</i> <i>brilliant scientists</i> <i>in the world.</i> <i>So we had the human brains</i> <i>necessary to create</i> <i>an AGI system.</i> <i>By definition, the "G"</i> <i>in AGI is about generality.</i> <i>What I imagine is being able</i> <i>to talk to an agent,</i> <i>the agent can talk back,</i> <i>and the agent is able to solve</i> <i>novel problems</i> <i>that it hasn't seen before.</i> <i>That's a really key part</i> <i>of human intelligence,</i> <i>and it's that</i> <i>cognitive breadth</i> <i>and flexibility</i> <i>that's incredible.</i> <i>The only natural</i> <i>general intelligence</i> <i>we know of as humans,</i> <i>we obviously learn a lot</i> <i>from our environment.</i> <i>So we think that</i> <i>simulated environments</i> <i>are one of the ways</i> <i>to create an AGI.</i> SIMON CARTER: <i>The very early humans</i> <i>were having to solve</i> <i>logic problems.</i> <i>They were having to solve</i> <i>navigation, memory,</i>
莱格：<i>德米斯和我，</i> <i>我们的计划一直是</i> <i>把 DeepMind 填满</i> <i>世界上最杰出的</i> <i>一批科学家。</i><i>这样我们就有了创造</i> <i>AGI 系统所需的人脑。</i> <i>按定义，AGI 里的“G”</i> <i>指的就是通用性。</i><i>我设想的是能够</i> <i>和一个智能体对话，</i> <i>它能回应你，</i> <i>并且能解决</i> <i>它从没见过的</i><i>新问题。</i> <i>这是人类智能</i> <i>非常关键的一部分，</i> <i>正是那种</i> <i>认知的广度</i><i>和灵活性，</i> <i>令人惊叹。</i> <i>我们所知唯一的</i> <i>天然通用智能</i> <i>就是人类，</i><i>而我们显然会从</i> <i>环境中学到很多东西。</i> <i>所以我们认为</i> <i>模拟环境</i><i>是通向 AGI 的</i> <i>路径之一。</i> 西蒙·卡特：<i>最早的人类</i> <i>必须解决</i> <i>逻辑问题。</i><i>他们得解决</i> <i>导航、记忆的问题，</i> <i>我们就是在那样的</i> <i>环境中进化出来的。</i> 如果我们能虚拟重建
27:46
<i>and we evolved</i> <i>in that environment.</i> If we can create a virtual recreation of that kind of environment, that's the perfect testing ground and training ground for everything we do at DeepMind.
那样的环境，那就是我们在 DeepMind 所做一切的完美测试场和训练场。
28:03
GUY SIMMONS: <i>What they were doing here</i> <i>was creating environments</i> <i>for childlike beings,</i> <i>the agents to exist</i> <i>within and play.</i> That just sounded like the most interesting thing in all the world. SHANAHAN: <i>A child</i> <i>learns by tearing things up</i> <i>and then throwing food around</i> <i>and getting a response</i> <i>from mommy or daddy.</i> This seems like an important idea to incorporate in the way you train an agent. RESEARCHER 1: The humanoid is supposed to stand up.
盖伊·西蒙斯：<i>他们在这里做的</i> <i>是为孩童般的存在</i> <i>创造环境，</i> <i>让智能体在其中</i> <i>生存和玩耍。</i>这听起来简直是世界上最有意思的事。沙纳汉：<i>小孩是通过</i> <i>把东西撕烂、</i> <i>把食物扔得到处都是，</i> <i>再从爸爸妈妈那里</i> <i>得到反应来学习的。</i>这似乎是训练智能体时应该融入的一个重要思路。研究员1：这个人形体应该要站起来。
28:30
As his center of gravity rises, it gets more points. You have a reward and the agent learns from the reward, <i>like, you do something well,</i> <i>you get a positive reward.</i> <i>You do something bad,</i> <i>you get a negative reward.</i> RESEARCHER 2: (EXCLAIMS) It looks like it's standing. It's still a bit drunk. RESEARCHER 1: It likes to walk backwards. RESEARCHER 2: (CHUCKLES) Yeah. The whole algorithm is trying to optimize for receiving as much rewards as possible, and it's found that walking backwards, it's good enough to get very good scores.
它的重心升得越高，得的分就越多。你设定一个奖励，智能体就从奖励中学习，<i>就是说，你做对了什么，</i> <i>就得到正奖励。</i><i>你做错了什么，</i> <i>就得到负奖励。</i> 研究员2：（惊呼）看起来它站起来了。还是有点摇摇晃晃的。研究员1：它喜欢往后走。研究员2：（轻笑）是啊。整个算法都在试图优化，尽可能多地拿到奖励，而它发现往后走就足以拿到很高的分数。
29:07
RAIA HADSELL: <i>When we learn to navigate,</i> <i>when we learn to get around</i> <i>in our world,</i> <i>we don't start with maps.</i> <i>We just start</i> <i>with our own exploration,</i> adventuring off across the park, without our parents by our side, or finding our way home from school when we're young. (FAST ELECTRONIC MUSIC PLAYING) HADSELL: <i>A few of us</i> <i>came up with this idea</i> <i>that if we had an environment</i> <i>where a simulated robot</i> <i>just had to run forward,</i> <i>we could put all sorts of</i> <i>obstacles in its way</i> <i>and see if it could manage</i> <i>to navigate</i> <i>different types of terrain.</i> The idea would be like a parkour challenge.
拉娅·哈德塞尔：<i>我们学习导航、</i> <i>学习在世界上四处走动时，</i> <i>并不是从地图开始的。</i><i>我们只是从</i> <i>自己的探索开始，</i> 冒险穿过公园，身边没有父母，或者小时候自己找路从学校走回家。（快节奏电子乐） 哈德塞尔：<i>我们几个人</i> <i>想到一个点子：</i> <i>如果有一个环境，</i> <i>让模拟机器人</i><i>只需要往前跑，</i> <i>我们就可以在它前面</i> <i>放上各种障碍，</i> <i>看它能不能设法</i> <i>穿越</i><i>不同类型的地形。</i> 这个想法有点像跑酷挑战。
29:46
<i>It's not graceful,</i> <i>but was never trained to hold</i> <i>a glass whilst it was running</i> <i>and not spill water.</i> You set this objective that says, "Just move forward, forward velocity, "and you'll get a reward for that." <i>And the learning algorithm</i> <i>figures out</i> <i>how to move</i> <i>this complex set of joints.</i> <i>That's the power of</i> <i>reward-based</i> <i>reinforcement learning.</i> SILVER: <i>Our goal</i> <i>is to try and build agents</i> <i>which, we drop them in,</i> <i>they know nothing,</i> <i>they get to play around in</i> <i>whatever problem you give them</i> <i>and eventually figure out how</i> <i>to solve it for themselves.</i> Now we want something which can do that in as many different types of problems as possible.
<i>动作并不优雅，</i> <i>但它从来没被训练过</i> <i>要一边跑一边端着杯子</i> <i>还不把水洒出来。</i>你设定这样一个目标，说：“只管往前走，前向速度，“你就会因此拿到奖励。”<i>然后学习算法</i> <i>自己搞明白</i> <i>怎么驱动</i> <i>这一整套复杂的关节。</i> <i>这就是</i><i>基于奖励的</i> <i>强化学习的威力。</i> 席尔瓦：<i>我们的目标</i> <i>是造出这样的智能体：</i> <i>把它扔进去，</i> <i>它什么都不懂，</i><i>它可以在你给它的</i> <i>任何问题里自己摸索，</i> <i>最终自己弄明白</i> <i>该怎么解决。</i>而现在我们想要的，是能在尽可能多种类的问题上做到这一点的东西。
30:29
<i>A human needs diverse skills</i> <i>to interact with the world.</i> <i>How to deal</i> <i>with complex images,</i> <i>how to manipulate</i> <i>thousands of things at once,</i> <i>how to deal</i> <i>with missing information.</i> <i>We think all of these things</i> <i>together</i> <i>are represented</i> <i>by this game called</i> StarCraft. All it's being trained to do is, given this situation, this screen, what would a human do? <i>We took inspiration from</i> <i>large language models</i> where you simply train a model to predict the next word,
<i>人要与世界互动</i> <i>需要多样的技能。</i> <i>如何处理</i> <i>复杂的图像，</i><i>如何同时操控</i> <i>成千上万的东西，</i> <i>如何应对</i> <i>信息缺失。</i><i>我们认为这些东西</i> <i>合在一起，</i> <i>都体现在</i> <i>这款叫</i>《星际争霸》<i>的游戏里。</i>它被训练去做的全部事情就是：给定这个局面、这个画面，人类会怎么做？<i>我们从大语言模型</i> <i>中获得了灵感，</i> 你只需训练模型去预测下一个词，
31:03
<i>which is exactly the same as</i> <i>predict the next</i> StarCraft <i>move.</i> SILVER: <i>Unlike chess or Go,</i> <i>where players take turns</i> <i>to make moves,</i> <i>in</i> StarCraft <i>there's a</i> <i>continuous flow of decisions.</i> <i>On top of that,</i> <i>you can't even see</i> <i>what the opponent is doing.</i> <i>There is no longer</i> <i>a clear definition</i> of what it means to play the best way. It depends on what your opponent does. HADSELL: <i>This is the way</i> <i>that we'll get to</i> <i>a much more fluid,</i> more natural, faster, more reactive agent.
<i>这跟预测</i>《星际争霸》<i>里的下一步</i> <i>完全是一回事。</i> 席尔瓦：<i>不像国际象棋或围棋，</i><i>棋手是轮流走子的，</i> <i>在</i>《星际争霸》<i>里决策是</i> <i>连续不断地进行的。</i><i>除此之外，</i> <i>你甚至看不到</i> <i>对手在做什么。</i> <i>已经不存在一个</i> <i>明确的定义</i>来说明什么叫下得最好。这取决于你的对手怎么做。哈德塞尔：<i>正是通过这种方式，</i> <i>我们才能得到</i> <i>一个流畅得多、</i> 更自然、更快、反应更灵敏的智能体。
31:31
ORIOL VINYALS: <i>This is a huge challenge</i> <i>and let's see how far</i> <i>we can push.</i> TIM LILLICRAP: Oh! Holy monkey! <i>I'm a pretty</i> <i>low-level amateur.</i> I'm okay, but I'm a pretty low-level amateur. These agents have a long ways to go. HASSABIS: <i>We couldn't</i> <i>beat someone of Tim's level.</i> <i>You know, that was</i> <i>a little bit alarming.</i> LILLICRAP: <i>At that point, it felt like</i> <i>it was going to be, like,</i> <i>a really big long challenge,</i> <i>maybe a couple of years.</i> VINYALS: <i>Dani is the best</i> DeepMind StarCraft 2 <i>player.</i> I've been playing the agent every day for a few weeks now.
奥里奥尔·维尼亚尔斯：<i>这是个巨大的挑战，</i> <i>我们来看看能推进</i> <i>到什么程度。</i> 蒂姆·利利克拉普：哦！我的天！<i>我算是个水平挺低的</i> <i>业余玩家。</i> 我还行，但真的是个水平挺低的业余玩家。这些智能体还有很长的路要走。哈萨比斯：<i>我们连蒂姆这种水平的人</i> <i>都赢不了。</i> <i>你知道，那</i> <i>还挺让人警觉的。</i>利利克拉普：<i>在那个时候，感觉这会是</i> <i>一场特别漫长的</i> <i>硬仗，</i><i>可能要好几年。</i>维尼亚尔斯：<i>丹尼是 DeepMind 里</i> 《星际争霸2》<i>打得最好的人。</i> 我已经连着几周每天都和这个智能体对战了。
32:06
<i>I could feel that the agent</i> <i>was getting better</i> <i>really fast.</i> (CHEERING, LAUGHTER) Wow, we beat Danny. That, for me, was already like a huge achievement. HASSABIS: <i>The next step is</i> <i>we're going to book in</i> <i>a pro to play.</i> (KEYBOARD TAPPING) (GROANS) (CHEERING, WHOOPING) (CHEERING, WHOOPING) -(LAUGHS) -(PEOPLE CLAPPING)
<i>我能感觉到这个智能体</i> <i>进步得非常快。</i> （欢呼、笑声） 哇，我们赢了丹尼。对我来说，那已经算是一个巨大的成就了。哈萨比斯：<i>下一步就是</i> <i>我们要约一位职业选手</i> <i>来打。</i> （敲键盘声）（呻吟） （欢呼、叫喊）（欢呼、叫喊） -（笑）-（众人鼓掌）
32:41
It feels a bit unfair. All you guys against me. (ALL LAUGH) HASSABIS: <i>We're way</i> <i>ahead of what I thought</i> <i>we would do, given where</i> <i>we were two months ago.</i> Just trying to digest it all, actually. But it's very, very cool. SILVER: <i>Now we're in</i> <i>a position where</i> <i>we can finally share</i> <i>the work that we've done</i> <i>with the public.</i> This is a big step. We are really putting ourselves on the line here. -Take it away. Cheers. -Thank you. We're going to be live from London.
感觉有点不公平。你们所有人对我一个。（众人笑） 哈萨比斯：<i>考虑到两个月前</i> <i>我们的状态，我们的进展</i> <i>远远超出了我原本的预期。</i>其实还在努力消化这一切。但真的非常非常酷。席尔瓦：<i>现在我们终于到了</i> <i>可以把我们做的工作</i> <i>公之于众的阶段。</i>这是一大步。我们在这里真的是把自己摆上台面接受检验。-交给你了。干杯。-谢谢。我们将从伦敦全球直播。
33:04
It's happening. ANNOUNCER 1: <i>Welcome to London.</i> <i>We are going to have</i> <i>a live exhibition match,</i> <i>MaNa against AlphaStar.</i> (CHEERING, APPLAUSE) <i>At this point now,</i> <i>AlphaStar, 10 and 0</i> <i>against professional gamers.</i> <i>Any thoughts</i> <i>before we get into this game?</i> VINYALS: <i>I just want to see</i> <i>a good game, yeah.</i> <i>I want to see a good game.</i> SILVER: <i>Absolutely,</i> <i>good game. We're all excited.</i> ANNOUNCER: <i>All right. Let's</i> <i>see what MaNa can pull off.</i> ANNOUNCER 2: <i>AlphaStar is definitely</i> <i>dominating the pace</i> <i>of this game.</i> (SPORADIC CHEERING) ANNOUNCER 1: <i>Wow. AlphaStar</i> <i>is playing so smartly.</i> (LAUGHTER) <i>This really looks like</i> <i>I'm watching</i> <i>a professional human gamer</i> <i>from the AlphaStar</i> <i>point of view.</i> (KEYBOARD TAPPING) HASSABIS: <i>I hadn't really seen</i> <i>a pro play</i> StarCraft <i>up close,</i> <i>and the 800 clicks per minute.</i>
要开始了。解说员1：<i>欢迎来到伦敦。</i> <i>我们即将迎来</i> <i>一场现场表演赛，</i> <i>MaNa 对阵 AlphaStar。</i>（欢呼、掌声） <i>到目前为止，</i> <i>AlphaStar 对职业选手</i> <i>的战绩是 10 胜 0 负。</i> <i>在这局开始之前</i> <i>有什么想说的吗？</i>维尼亚尔斯：<i>我就想看一场</i> <i>好比赛，是的。</i> <i>我想看一场好比赛。</i> 席尔瓦：<i>没错，</i> <i>好比赛。我们都很兴奋。</i>解说员：<i>好，来看看</i> <i>MaNa 能打出什么名堂。</i> 解说员2：<i>AlphaStar 绝对是在</i><i>主导这局的节奏。</i> （零星欢呼） 解说员1：<i>哇。AlphaStar</i> <i>打得太聪明了。</i>（笑声） <i>从 AlphaStar 的视角看，</i> <i>这真的就像在看</i> <i>一位人类职业选手</i> <i>在打。</i>（敲键盘声）哈萨比斯：<i>我从没近距离看过</i> <i>职业选手打</i>《星际争霸》，<i>每分钟 800 次点击。</i>
09火药与爆竹：军事化风险与责任之辩
34:03
<i>I don't understand how anyone</i> <i>can even click 800 times,</i> let alone doing 800 useful clicks. ANNOUNCER 1: <i>Oh, another good hit.</i> -(ALL GROAN) <i>-AlphaStar is just</i> <i>completely relentless.</i> SILVER: <i>We need to be careful</i> <i>because many of us grew up</i> <i>as gamers and are gamers.</i> And so to us, it's very natural to view games as what they are, which is pure vehicles for fun, <i>and not to see</i> <i>that more militaristic side</i> <i>that the public might see</i> <i>if they looked at this.</i> You can't look at gunpowder and only make a firecracker.
<i>我不明白怎么会有人</i> <i>能点击 800 次，</i> 更别说是 800 次有效点击了。解说员1：<i>哦，又是漂亮一击。</i> -（众人哀叹） <i>-AlphaStar 就是</i> <i>完全不留情面。</i> 席尔瓦：<i>我们得小心，</i><i>因为我们很多人是</i> <i>玩游戏长大的，现在也玩。</i> 所以对我们来说，把游戏看成它本来的样子是很自然的，也就是纯粹的娱乐载体，<i>而看不到</i> <i>公众如果看到这些</i> <i>可能会看到的</i> <i>那种军事化的一面。</i>你不可能拿着火药，却只做出爆竹。
34:37
<i>All technologies inherently</i> <i>point into certain directions.</i> MARGARET LEVI: <i>I'm very worried about</i> <i>the certain ways in which AI</i> <i>will be used</i> <i>for military purposes.</i> And that makes it even clearer how important it is for our societies to be in control <i>of these new technologies.</i> The potential for abuse from AI will be significant. <i>Wars that occur faster</i> <i>than humans can comprehend</i> <i>and more powerful</i> <i>surveillance.</i> How do you keep power forever over something that's much more powerful than you?
<i>所有技术本身</i> <i>都指向某些方向。</i> 玛格丽特·利瓦伊：<i>我非常担心</i><i>AI 被用于军事目的的</i> <i>某些方式。</i>这也让我们更清楚地看到，我们的社会掌控<i>这些新技术</i>有多么重要。AI 被滥用的可能性将会相当大。<i>战争发生的速度</i> <i>快到人类无法理解，</i> <i>还有更强大的</i> <i>监控。</i> 你要怎么才能永远掌控一个远比你强大的东西？
35:19
(STEPHEN HAWKING SPEAKING)
(斯蒂芬·霍金 讲话)
35:42
Technologies can be used to do terrible things. <i>And technology can be used</i> <i>to do wonderful things</i> <i>and solve</i> <i>all kinds of problems.</i> When DeepMind was acquired by Google... -Yeah. -...you got Google to promise that technology you developed won't be used by the military -for surveillance. -Right. -Yes. -Tell us about that. I think technology is neutral in itself, um, but how, you know, we as a society or humans and companies and other things, other entities and governments decide to use it is what determines whether things become good or bad.
技术可以被用来做可怕的事。<i>技术也可以被用来</i> <i>做很了不起的事，</i> <i>并解决</i> <i>各种各样的问题。</i> 当 DeepMind 被谷歌收购时……-是的。 -……你让谷歌承诺，你们开发的技术不会被军方用于 -监控。 -对。-是的。 -跟我们讲讲这件事。我觉得技术本身是中性的，嗯，但我们作为一个社会、作为人类，还有公司和其他各种机构以及政府，决定怎么去使用它，这才决定了事情最终是好是坏。
36:12
You know, I personally think having autonomous weaponry is just a very bad idea. ANNOUNCER 1: <i>AlphaStar is playing</i> <i>an extremely intelligent game</i> <i>right now.</i> CUKIER: <i>There is an element to</i> <i>what's being created</i> <i>at DeepMind in London</i> that does seem like the Manhattan Project. <i>There's a relationship between</i> <i>Robert Oppenheimer</i> <i>and Demis Hassabis</i> <i>in which they're unleashing</i> <i>a new force upon humanity.</i> ANNOUNCER 1: <i>MaNa is fighting back, though.</i> Oh, man!
我个人觉得，搞自主武器就是一个非常糟糕的主意。解说员1：<i>AlphaStar 现在这一局</i> <i>打得极其聪明。</i> 库基尔：<i>他们在伦敦 DeepMind</i> <i>所创造的东西，</i><i>其中有些成分，</i> 确实让人想到曼哈顿计划。<i>罗伯特·奥本海默</i> <i>和戴密斯·哈萨比斯之间</i> <i>有一种共通之处，</i> <i>那就是他们都在向人类</i> <i>释放一种新的力量。</i>解说员1：<i>不过 MaNa 正在反击。</i> 哦，天哪！
36:47
HASSABIS: <i>I think that Oppenheimer</i> <i>and some of the other leaders</i> <i>of that project got caught up</i> <i>in the excitement</i> <i>of building the technology</i> <i>and seeing if it was possible.</i> ANNOUNCER 1: <i>Where is AlphaStar?</i> <i>Where is AlphaStar?</i> <i>I don't see AlphaStar's units</i> <i>anywhere.</i> HASSABIS: <i>They did not think</i> <i>carefully enough</i> <i>about the morals of what</i> <i>they were doing early enough.</i> <i>What we should do</i> <i>as scientists</i> <i>with powerful new technologies</i> <i>is try and understand it in</i> <i>controlled conditions first.</i> ANNOUNCER 1: <i>And that is that.</i> <i>MaNa has defeated AlphaStar.</i>
哈萨比斯：<i>我觉得奥本海默</i> <i>和那个项目的其他一些</i> <i>负责人，当时都沉浸在</i><i>建造这项技术、</i> <i>验证它是否可行的</i> <i>那种兴奋之中。</i> 解说员1：<i>AlphaStar 在哪儿？</i><i>AlphaStar 在哪儿？</i> <i>我哪儿都看不到</i> <i>AlphaStar 的部队。</i> 哈萨比斯：<i>他们没有足够早、</i> <i>足够认真地</i><i>去思考自己所做之事</i> <i>在道德上意味着什么。</i> <i>我们作为科学家，</i><i>面对强大的新技术，</i> <i>应该做的是先在受控条件下</i> <i>去理解它。</i> 解说员1：<i>就这样结束了。</i><i>MaNa 击败了 AlphaStar。</i>
37:29
I mean, my honest feeling is that I think it is a fair representation of where we are. And I think that part feels... feels okay. -I'm very happy for you. -I'm happy. So well... well done. <i>My view is that the approach</i> <i>to building technology</i> <i>which is embodied by</i> <i>move fast and break things,</i> <i>is exactly what</i> <i>we should not be doing,</i> <i>because you can't afford</i> <i>to break things</i> <i>and then fix them afterwards.</i> -Cheers. -Thank you so much. Yeah, get... get some rest. You did really well.
说实话，我觉得这挺公允地反映了我们目前所处的阶段。我觉得这一部分……感觉还行。-我真为你高兴。 -我很开心。那么……干得漂亮。<i>我的看法是，</i> <i>以“快速行动，打破一切”</i> <i>为代表的</i> <i>技术开发方式，</i><i>恰恰是我们</i> <i>不该采用的，</i> <i>因为你承受不起</i> <i>先把东西打破</i> <i>再回头去修的代价。</i>-干杯。 -太感谢了。嗯，好好……好好休息。你表现得真的很棒。
37:51
-Cheers, yeah? -Thank you for having us.
-干杯，好吗？ -谢谢你们的招待。
10Bullfrog、剑桥与蛋白质折叠的种子
38:01
(ELECTRONIC MUSIC PLAYING) HASSABIS: <i>When I was eight,</i> <i>I bought my first computer</i> <i>with the winnings</i> <i>from a chess tournam</i>ent. <i>I sort of had this intuition</i> <i>that computers</i> <i>are this magical device</i> <i>that can extend</i> <i>the power of the mind.</i> <i>I had a couple</i> <i>of school friends,</i> <i>and we used to have</i> <i>a hacking club,</i> <i>writing code, making games.</i>
(电子音乐响起) 哈萨比斯：<i>我八岁的时候，</i> <i>用一次国际象棋比赛的奖金</i> <i>买了人生第一台电脑。</i><i>我当时隐约有种直觉，</i> <i>觉得电脑是一种</i> <i>神奇的装置，</i> <i>可以延伸大脑的力量。</i><i>我有几个学校里的朋友，</i> <i>我们组了个黑客俱乐部，</i> <i>写代码，做游戏。</i>
38:26
<i>And then over</i> <i>the summer holidays,</i> <i>I'd spend the whole day</i> <i>flicking through</i> <i>games magazines.</i> <i>And one day I noticed</i> <i>there was a competition</i> <i>to write an original version</i> <i>of Space Invaders.</i> <i>And the winner won a job</i> <i>at Bullfrog.</i> <i>Bullfrog at the time was the</i> <i>best game development house</i> <i>in all of Europe.</i> <i>You know, I really wanted</i> <i>to work at this place</i> <i>and see how they build games.</i> NEWSCASTER: <i>Bullfrog,</i> <i>based here in Guildford,</i> <i>began with a big idea.</i> <i>That idea turned into the game</i> Populous, <i>which became</i> <i>a global bestseller.</i> In the '90s, there was no recruitment agencies.
<i>然后一到暑假，</i> <i>我会一整天</i> <i>翻游戏杂志。</i><i>有一天我注意到</i> <i>有个比赛，</i> <i>要求写一个原创版本的</i> <i>《太空侵略者》。</i><i>获胜者能得到</i> <i>Bullfrog 的一份工作。</i> <i>Bullfrog 在当时是</i> <i>全欧洲最好的</i><i>游戏开发公司。</i> <i>我真的很想去那里工作，</i> <i>看看他们是怎么做游戏的。</i>新闻主播：<i>总部设在吉尔福德的</i> <i>Bullfrog，</i> <i>起步于一个大胆的点子。</i> <i>这个点子变成了游戏</i>《上帝也疯狂》，<i>后来成了</i> <i>全球畅销作品。</i> 在九十年代，根本没有什么招聘中介。
38:59
You couldn't go out and say, you know, "Come and work in the games industry." It was still not even considered an industry. <i>So we came up with the idea</i> <i>to have a competition</i> <i>and we got</i> <i>a lot of applicants.</i> <i>And one of those was Demis's.</i> I can still remember clearly the day that Demis came in. <i>He walked in the door,</i> <i>he looked about 12.</i> I thought, "Oh, my God, "what the hell are we going to do with this guy?" I applied to Cambridge. I got in but they said I was way too young.
你没法出去跟人说，“来游戏行业工作吧。”那时候它甚至都还不被当成一个行业。<i>所以我们就想出了</i> <i>办比赛这个主意，</i> <i>结果收到了</i> <i>很多人的作品。</i> <i>其中一份就是戴密斯的。</i>我到现在还清楚地记得戴密斯来的那天。<i>他走进门的时候，</i> <i>看上去也就十二岁。</i> 我当时想，“我的天哪，“我们到底该拿这小子怎么办？”我申请了剑桥。我被录取了，但他们说我年纪实在太小了。
39:35
So... So I needed to take a year off so I'd be at least 17 before I got there. <i>And that's when I decided</i> <i>to spend that entire gap year</i> <i>working at Bullfrog.</i> <i>They couldn't even</i> <i>legally employ me,</i> <i>so I ended up being paid</i> <i>in brown paper envelopes.</i> (CHUCKLES) <i>I got a feeling of being</i> <i>really at the cutting edge</i> <i>and how much fun that was</i> <i>to invent things every day.</i> And then you know, a few months later, maybe everyone... a million people will be playing it.
所以……所以我得空出一年，这样入学时至少满十七岁。<i>就是那时候我决定，</i> <i>把这一整个空档年</i> <i>都用来在 Bullfrog 工作。</i> <i>他们在法律上</i> <i>甚至没法雇我，</i><i>所以最后是用</i> <i>牛皮纸信封给我发工钱的。</i>（轻笑）<i>我感觉自己真的</i> <i>站在最前沿，</i><i>每天都能发明新东西，</i> <i>那有多好玩。</i> 而且你知道，几个月之后，可能所有人……上百万人都会在玩它。
40:03
MOLYNEUX: <i>In those days</i> <i>computer games had to evolve.</i> <i>There had to be new genres</i> <i>which were more</i> <i>than just shooting things.</i> Wouldn't it be amazing to have a game where you design and build your own theme park? (GAME CHARACTERS SCREAMING) <i>Demis and I started to talk</i> <i>about</i> Theme Park. <i>It allows the player</i> <i>to build a world</i> <i>and see the consequences</i> <i>of your choices</i> <i>that you've made</i> <i>in that world.</i> HASSABIS: <i>A human player</i> <i>set out the layout</i> <i>of the theme park and designed</i> <i>the roller coaster</i> <i>and set the prices</i> <i>in the chip shop.</i> <i>What I was working on was</i> <i>the behaviors of the people.</i> <i>They were autonomous</i> <i>and that was the AI</i> <i>in this case.</i> So what I was trying to do was mimic interesting human behavior so that the simulation would be more interesting to interact with.
莫利纽克斯：<i>在那个年代，</i> <i>电脑游戏必须要进化。</i> <i>必须出现新的类型，</i> <i>而不只是</i> <i>打打杀杀。</i>如果有一款游戏，能让你自己设计并建造主题公园，那不是很棒吗？(游戏角色尖叫) <i>我和戴密斯开始聊起</i> <i>《主题公园》。</i><i>它让玩家去建造</i> <i>一个世界，</i> <i>并看到自己在那个世界里</i> <i>所做选择的后果。</i>哈萨比斯：<i>由人类玩家</i> <i>规划主题公园的布局，</i> <i>设计过山车，</i><i>给薯条店定价。</i> <i>而我负责的，</i> <i>是园里那些人的行为。</i><i>他们是自主的，</i> <i>在那个场景里那就是 AI。</i> 我当时想做的，是模拟出有意思的人类行为，让这个模拟玩起来更有趣。
40:54
MOLYNEUX: <i>Demis worked</i> <i>on ridiculous things,</i> <i>like you could place down</i> <i>these shops</i> <i>and if you put a shop too near</i> <i>a very dangerous ride,</i> <i>then people on the ride</i> <i>would throw up</i> <i>because they'd just eaten.</i> And then that would make other people throw up when they saw the throwing-up on the floor, so you then had to have lots of sweepers <i>to quickly sweep it up</i> <i>before the people saw it.</i> <i>That's the cool thing</i> <i>about it.</i> <i>You as the player tinker with</i> <i>it and then it reacts to you.</i> MOLYNEUX: <i>All those nuanced</i> <i>simulation things he did</i> and that was an invention which never really existed before.
莫利纽克斯：<i>戴密斯做的都是些</i> <i>很离谱的东西，</i> <i>比如你可以摆放商店，</i> <i>而如果你把商店放得离</i> <i>特别刺激的项目太近，</i><i>那玩这个项目的人</i> <i>就会吐，</i> <i>因为他们刚吃过东西。</i> 然后别人看到地上的呕吐物也会跟着吐，所以你就得雇一大堆清洁工 <i>赶在别人看到之前</i> <i>迅速把它扫干净。</i><i>这就是它酷的地方。</i> <i>你作为玩家去摆弄它，</i> <i>它就会对你做出反应。</i>莫利纽克斯：<i>他做的所有那些</i> <i>细致入微的模拟，</i> 都是以前从来没有过的发明。
41:31
<i>It was</i> <i>unbelievably successful.</i> DAVID GARDNER: Theme Park <i>actually turned out</i> <i>to be a top ten title</i> and that was the first time we were starting to see how AI could make a difference. (BRASS BAND PLAYING) CARTER: <i>We were doing</i> <i>some Christmas shopping</i> <i>and were waiting for the taxi</i> <i>to take us home.</i> I have this very clear memory of Demis talking about AI in a very different way, in a way that we didn't commonly talk about. This idea of AI being useful for other things other than entertainment.
<i>它取得了</i> <i>难以置信的成功。</i> 大卫·加德纳：《主题公园》<i>最后成了</i> <i>挤进前十的作品，</i>那也是我们第一次开始看到，AI 能带来怎样的改变。(铜管乐队演奏) 卡特：<i>我们当时在采买圣诞节的东西，</i> <i>正等出租车送我们回家。</i>我印象特别清楚，戴密斯当时谈 AI 的方式非常不一样，是我们平时不会那样去谈的方式。就是 AI 除了娱乐之外，还能派上别的用场。
42:03
So being useful for, um, helping the world and the potential of AI to change the world. I just said to Demis, "What is it you want to do?" And he said to me, "I want to be the person that solves AI."
比如用来，嗯，帮助这个世界，以及 AI 改变世界的潜力。我就问戴密斯，“你到底想做什么？”他对我说，“我想成为解决 AI 问题的那个人。”
42:22
HASSABIS: <i>Peter offered me £1 million</i> <i>to not go to university.</i> <i>But I had a plan</i> <i>from the beginning.</i> <i>And my plan was always</i> <i>to go to Cambridge.</i> I think a lot of my schoolfriends thought I was mad. Why would you not... I mean, £1 million, that's a lot of money. In the '90s, that is a lot of money, right? For a... For a poor 17-year-old kid. He's like this little seed that's going to burst through, and he's not going to be able to do that at Bullfrog. <i>I had to drop him off</i> <i>at the train station</i> <i>and I can still see</i> <i>that picture</i> of this little elfin character disappear down that tunnel.
哈萨比斯：<i>彼得开价一百万英镑，</i> <i>让我别去上大学。</i><i>但我从一开始就有计划。</i> <i>而我的计划一直都是</i> <i>去剑桥。</i> 我想我很多同学都觉得我疯了。为什么会不……一百万英镑啊，那可是一大笔钱。在九十年代，那是一大笔钱，对吧？对一个……对一个穷困的十七岁孩子来说。他就像一颗马上要破土而出的小种子，而在 Bullfrog 他做不到那一点。<i>我得送他去火车站，</i> <i>我现在还能看到那个画面，</i> 那个瘦小得像精灵一样的身影消失在隧道尽头。
43:06
That was an incredibly sad moment.
那一刻真的特别难过。
43:13
HASSABIS: <i>I had this romantic ideal</i> <i>of what Cambridge</i> <i>would be like,</i> <i>1,000 years of history,</i> <i>walking the same streets</i> <i>that Turing,</i> <i>Newton and Crick had walked.</i> <i>I wanted to explore</i> <i>the edge of the universe.</i> (CHURCH BELLS TOLLING) <i>When I got to Cambridge,</i> <i>I'd basically been working</i> <i>my whole life.</i> <i>Every single summer,</i> <i>I was either playing chess</i> <i>professionally,</i> <i>or I was working,</i> <i>doing an internship.</i> <i>So I was, like, "Right,</i> <i>I am gonna have fun now</i> <i>"and explore what it means</i> <i>to be a normal teenager."</i> (PEOPLE CHEERING, LAUGHING) Come on! Go, boy, go!
哈萨比斯：<i>我对剑桥有一种</i> <i>浪漫的想象，</i> <i>一千年的历史，</i><i>走在图灵、牛顿和克里克</i> <i>走过的同一条街上。</i> <i>我想去探索</i> <i>宇宙的边界。</i>(教堂钟声) <i>等我到剑桥的时候，</i> <i>我基本上一辈子都在忙着做事。</i> <i>每一个暑假，</i><i>我要么在下职业国际象棋，</i> <i>要么就在工作、</i> <i>做实习。</i> <i>所以我就想，“好，</i> <i>我现在要好好玩一玩，</i><i>“体验一下当个普通青少年</i> <i>是什么感觉。”</i> (众人欢呼、大笑) 加油！上啊，兄弟，冲！
43:51
TIM STEVENS: <i>It was work hard</i> <i>and play hard.</i> (ALL SINGING) I first met Demis because we both attended Queens' College. <i>Our group of friends,</i> <i>we'd often drink beer</i> <i>in the bar,</i> <i>play table football.</i> HASSABIS: <i>In the bar,</i> <i>I used to play speed chess,</i> <i>pieces flying off the board,</i> <i>you know, the whole game</i> <i>in one minute.</i> Demis sat down opposite me. And I looked at him and I thought, "I remember you from when we were kids." HASSABIS: <i>I had actually been</i> <i>in the same chess tournament</i> <i>as Dave in Ipswich,</i> <i>where I used to go and try</i> <i>and raid his local chess club</i> <i>to win a bit of prize money.</i> COPPIN: <i>We were studying</i> <i>computer science.</i> <i>Some people,</i> <i>who at the age of 17</i> would have come in and made sure to tell everybody everything about themselves.
蒂姆·史蒂文斯：<i>那是拼命学，</i> <i>也拼命玩。</i> (众人齐唱) 我第一次见到戴密斯，是因为我们都在皇后学院。<i>我们那群朋友，</i> <i>经常在酒吧里喝啤酒、</i> <i>打桌上足球。</i> 哈萨比斯：<i>在酒吧里，</i> <i>我以前常下快棋，</i><i>棋子在棋盘上飞来飞去，</i> <i>一分钟就下完一整盘。</i> 戴密斯在我对面坐了下来。我看着他，心想，“我记得你，我们小时候见过。”哈萨比斯：<i>我确实和戴夫</i> <i>参加过伊普斯威奇的</i> <i>同一场国际象棋比赛，</i> <i>我那时常跑去“扫荡”</i> <i>他们当地的棋社，</i><i>赢点奖金。</i> 科平：<i>我们当时读的是</i> <i>计算机科学。</i> <i>有些人，十七岁的时候</i>一来就会把自己的一切都讲给所有人听。
44:29
<i>"Hey, I worked at Bullfrog</i> <i>"and built the world's</i> <i>most successful video game."</i> <i>But he wasn't like that</i> <i>at all.</i> SILVER: <i>At Cambridge,</i> <i>Demis and myself</i> <i>both had an interest</i> <i>in computational neuroscience</i> and trying to understand how computers and brains intertwined and linked together. JOHN DAUGMAN: <i>Both David and Demis</i> <i>came to me for supervisions.</i> It happens just by coincidence that the year 1997, their third and final year at Cambridge, was also the year when the first chess grandmaster was beaten by a computer program.
<i>“嘿，我在 Bullfrog 干过，</i> <i>“还做出了全世界</i> <i>最成功的电子游戏。”</i> <i>但他完全</i> <i>不是那样的人。</i>西尔弗：<i>在剑桥，</i> <i>我和戴密斯</i> <i>都对计算神经科学</i> <i>很感兴趣，</i>都想弄明白计算机和大脑是怎么交织、关联在一起的。约翰·道格曼：<i>大卫和戴密斯</i> <i>都来找我做导修。</i> 巧的是，1997 年，也就是他们在剑桥的第三年、最后一年，正好也是第一位国际象棋特级大师被计算机程序击败的那一年。
44:56
(CAMERA SHUTTERS CLICKING) NEWSCASTER: <i>Round one today</i> <i>of a chess match</i> <i>between the ranking</i> <i>world champion Garry Kasparov</i> <i>and an opponent named</i> <i>Deep Blue</i> <i>to test to see if the human</i> <i>brain can outwit a machine.</i> HASSABIS: <i>I remember the drama</i> <i>of Kasparov</i> <i>losing the last match.</i> NEWSCASTER 2: <i>Whoa!</i> <i>Kasparov has resigned!</i> When Deep Blue beat Garry Kasparov, that was a real watershed event. HASSABIS: <i>My main memory of it was</i> <i>I wasn't that impressed</i> <i>with Deep Blue.</i> <i>I was more impressed</i> <i>with Kasparov's mind.</i> <i>That he could play chess</i> <i>to this level,</i> <i>where he could compete</i> <i>on an equal footing</i> <i>with the brute of a machine,</i> <i>but of course, Kasparov can do</i> <i>everything else humans can do,</i> <i>too.</i> <i>It was a huge achievement.</i> <i>But the truth</i> <i>of the matter was,</i> <i>Deep Blue</i> <i>could only play chess.</i> <i>What we would regard</i> <i>as intelligence</i>
(快门声不断) 新闻主播：<i>今天进行的是</i> <i>一场国际象棋对局的第一轮，</i> <i>对阵双方是排名第一的</i> <i>世界冠军加里·卡斯帕罗夫</i><i>和一个名叫“深蓝”</i> <i>的对手，</i> <i>以此检验人脑</i> <i>能否胜过机器。</i>哈萨比斯：<i>我还记得</i> <i>卡斯帕罗夫输掉最后一局时</i> <i>那种戏剧性。</i> 新闻主播2：<i>哇！</i><i>卡斯帕罗夫认输了！</i> 当深蓝击败加里·卡斯帕罗夫时，那真的是一个分水岭式的事件。哈萨比斯：<i>我对那件事最主要的记忆是，</i> <i>我并没有那么被深蓝打动。</i> <i>更让我惊叹的</i> <i>是卡斯帕罗夫的头脑。</i><i>他能把棋下到那种水平，</i> <i>可以和那台机器怪物</i> <i>平起平坐地较量，</i><i>而当然，卡斯帕罗夫还能做</i> <i>人类会做的一切其他事情。</i> <i>那是个巨大的成就。</i><i>但事实是，</i> <i>深蓝只会下国际象棋。</i> <i>我们所认为的智能，</i>
45:44
<i>was missing from that system.</i> <i>This idea of generality</i> <i>and also learning.</i>
<i>在那个系统里是缺失的。</i> <i>也就是通用性，</i> <i>以及学习能力。</i>
45:53
<i>Cambridge was amazing,</i> <i>because of course, you know,</i> <i>you're mixing with people</i> <i>who are studying</i> <i>many different subjects.</i> SILVER: <i>There were scientists,</i> <i>philosophers, artists...</i> STEVENS: <i>...geologists,</i> <i>biologists, ecologists.</i> <i>You know, everybody is talking</i> <i>about everything all the time.</i> I was obsessed with the protein folding problem. HASSABIS: <i>Tim Stevens used</i> <i>to talk obsessively,</i> almost like religiously about this problem, protein folding problem.
<i>剑桥非常棒，</i> <i>因为你会和</i> <i>学各种不同专业的人</i> <i>混在一起。</i>西尔弗：<i>有科学家、</i> <i>哲学家、艺术家……</i> 史蒂文斯：<i>……地质学家、</i> <i>生物学家、生态学家。</i><i>所有人随时都在</i> <i>聊着各种各样的话题。</i> 我当时痴迷于蛋白质折叠问题。哈萨比斯：<i>蒂姆·史蒂文斯以前</i> <i>会没完没了地讲，</i> 几乎是带着宗教般的热忱在讲这个问题，蛋白质折叠问题。
46:16
STEVENS: <i>Proteins are, you know,</i> <i>one of the most beautiful and</i> <i>elegant things about biology.</i> <i>They are the machines of life.</i> They build everything, they control everything, they're why biology works. <i>Proteins are made from strings</i> <i>of amino acids</i> <i>that fold up to create</i> <i>a protein structure.</i> <i>If we can predict</i> <i>the structure of proteins</i> <i>from just their amino acid</i> <i>sequences,</i> <i>then a new protein</i> <i>to cure cancer</i> <i>or break down plastic</i> <i>to help the environment</i> <i>is definitely something</i> <i>that you could begin</i> <i>to think about.</i> I kind of thought, "Well, is a human being clever enough "to actually fold a protein?"
史蒂文斯：<i>蛋白质是生物学里</i> <i>最美、最优雅的</i> <i>东西之一。</i><i>它们是生命的机器。</i> 它们构建一切，控制一切，生物之所以能运转，就是因为有它们。<i>蛋白质由一串串氨基酸构成，</i> <i>这些氨基酸折叠起来，</i> <i>形成蛋白质的结构。</i><i>如果我们能仅凭氨基酸序列</i> <i>预测出蛋白质的结构，</i> <i>那么设计一种</i> <i>治疗癌症的新蛋白质，</i><i>或者一种能分解塑料、</i> <i>改善环境的蛋白质，</i> <i>就绝对是</i> <i>可以开始设想的事了。</i>我当时就想，“那么，人到底聪不聪明到 “真能把一个蛋白质折叠出来？”
46:59
<i>We can't work it out.</i> JOHN MOULT: <i>Since the 1960s,</i> <i>we thought that in principle,</i> <i>if I know what the amino acid</i> <i>sequence of a protein is,</i> <i>I should be able to compute</i> <i>what the structure's like.</i> So if you could just press a button, and they'd all come popping out, that would be... that would have some impact. HASSABIS: <i>It stuck in my mind.</i> <i>"Oh, this is</i> <i>a very interesting problem."</i> <i>And it felt to me</i> <i>like it would be solvable.</i> <i>But I thought</i> <i>it would need AI to do it.</i> <i>If we could just solve</i> <i>protein folding,</i> <i>it could change the world.</i>
《我们搞不定它》 约翰·莫尔特：早在1960年代，我们就认为原则上，只要我知道一个蛋白质的氨基酸序列，我就应该能计算出它的结构是什么样子。所以，如果你只需按一个按钮，结构就全都蹦出来，那可就……那影响可就大了。哈萨比斯：这件事一直印在我脑子里。“哦，这是个非常有意思的问题。”而且我觉得它是有可能被解决的。但我当时就想，要解决它得靠人工智能。如果我们能攻克蛋白质折叠，那将改变世界。
11AlphaFold 折戟 CASP13：最高的梯子
47:50
HASSABIS: <i>Ever since</i> <i>I was a student at Cambridge,</i> <i>I've never</i> <i>stopped thinking about</i> <i>the protein folding problem.</i> <i>If you were</i> <i>to solve protein folding,</i> <i>then the potential</i> <i>to help solve problems like</i> <i>Alzheimer's, dementia</i> <i>and drug discovery is huge.</i> <i>Solving disease is probably</i> <i>the most major impact</i> <i>we could have.</i> (CLICKS MOUSE) <i>Thousands of very smart people</i> <i>have tried</i> <i>to solve protein folding.</i> <i>I just think now</i> <i>is the right time</i> <i>for AI to crack it.</i> (THRILLING MUSIC PLAYING) (INDISTINCT CONVERSATION) RICHARD EVANS: <i>We needed</i> <i>a reasonable way</i> <i>to apply machine learning</i> <i>to the protein folding</i> <i>problem.</i> (CLICKING MOUSE) <i>We came across</i> <i>this Foldit game.</i> <i>The goal is to move around</i> <i>this 3D model of a protein</i> <i>and you get a score</i> <i>every time you move it.</i> The more accurate you make these structures,
哈萨比斯：从我在剑桥读书的时候起，我就从没停止过思考蛋白质折叠这个问题。如果你能解开蛋白质折叠，那么它在帮助解决阿尔茨海默病、痴呆症以及药物研发等问题上的潜力是巨大的。攻克疾病，大概是我们能产生的最重大的影响。（点击鼠标）成千上万极其聪明的人都尝试过攻克蛋白质折叠。我只是觉得，现在正是让人工智能破解它的时机。（激昂的音乐响起）（交谈声模糊）理查德·埃文斯：我们需要一个合理的方式，把机器学习用到蛋白质折叠这个问题上。（鼠标点击声）我们偶然发现了Foldit这款游戏。游戏的目标是转动、调整蛋白质的三维模型，每移动一次就会得到一个分数。你把这些结构做得越准确，它们对生物学家就越有用。
48:42
the more useful they will be to biologists. <i>I spent a few days</i> <i>just kind of seeing</i> <i>how well we could do.</i> (GAME DINGING) <i>We did reasonably well.</i> But even if you were the world's best Foldit player, you wouldn't solve protein folding. <i>That's why we had</i> <i>to move beyond the game.</i> HASSABIS: <i>Games</i> <i>are always just</i> <i>the proving ground</i> <i>for our algorithms.</i> <i>The ultimate goal was not just</i> <i>to crack Go and StarCraft.</i> <i>It was to crack</i> <i>real-world challenges.</i> (THRILLING MUSIC CONTINUES) JOHN JUMPER: <i>I remember</i> <i>hearing this rumor</i> <i>that Demis was</i> <i>getting into proteins.</i> <i>I talked to some people</i> <i>at DeepMind and I would ask,</i> <i>"So are you doing</i> <i>protein folding?"</i> <i>And they would</i> <i>artfully change the subject.</i> <i>And when that happened twice,</i> <i>I pretty much figured it out.</i> <i>So I thought</i> <i>I should submit a resume.</i> HASSABIS: All right, everyone, welcome to DeepMind.
我花了几天时间，就想看看我们能做到什么程度。（游戏提示音）我们表现还不错。但就算你是全世界最厉害的Foldit玩家，你也解决不了蛋白质折叠问题。所以我们必须超越这个游戏。哈萨比斯：游戏永远只是我们算法的试验场。我们的终极目标不只是攻克围棋和《星际争霸》，而是攻克现实世界的难题。（激昂的音乐继续）约翰·江珀：我记得听到过一个传闻，说德米斯开始搞蛋白质了。我跟DeepMind的一些人聊天，就会问，“你们是在做蛋白质折叠吗？”而他们会很巧妙地把话题岔开。这种情况出现两次之后，我基本就猜到了。于是我想，我该投份简历。哈萨比斯：好，各位，欢迎来到DeepMind。
49:35
I know some of you, this may be your first week, but I hope you all set... JUMPER: <i>The really appealing</i> <i>part for me about the job</i> was this, like, sense of connection to the larger purpose. HASSABIS: If we can crack some fundamental problems in science, many other people and other companies and labs and so on could build on top of our work. <i>This is your chance now</i> <i>to add your chapter</i> <i>to this story.</i> JUMPER: <i>When I arrived,</i> <i>I was definitely</i> (CHUCKLES) <i>quite a bit nervous.</i> I'm still trying to keep...
我知道你们有些人这可能是第一周，但我希望大家都准备好……江珀：这份工作对我来说真正吸引人的地方，是那种与更宏大目标相连接的感觉。哈萨比斯：如果我们能攻克科学中一些最根本的问题，那么很多其他的人、其他公司、实验室等等，都可以在我们的工作之上继续往前推进。现在，就是你们为这个故事写下自己那一章的机会。江珀：刚来的时候，我确实（轻笑）相当紧张。我还在努力保持……
50:00
<i>I haven't taken</i> <i>any biology courses.</i> We haven't spent years of our lives looking at these structures and understanding them. We are just going off the data <i>and our machine learning</i> <i>models.</i> JUMPER: <i>In machine learning,</i> <i>you train a network</i> <i>like flashcards.</i> <i>Here's the question.</i> <i>Here's the answer.</i> <i>Here's the question.</i> <i>Here's the answer.</i> <i>But in protein folding,</i> we're not doing the kind of standard task at DeepMind <i>where you have unlimited data.</i> <i>Your job is to get better</i> <i>at chess or Go</i> <i>and you can play</i> <i>as many games of chess or Go</i> <i>as your computers will allow.</i> <i>With proteins,</i> <i>we're sitting on</i> <i>a very thick size of data</i> <i>that's been determined</i> <i>by a half century</i> <i>of time-consuming experimental</i> <i>methods in laboratories.</i> <i>These painstaking methods</i> <i>can take months or years</i> <i>to determine</i> <i>a single protein structure,</i>
我从来没上过任何生物学课程。我们也没有花几十年时间去研究、理解这些结构。我们完全是靠数据和我们的机器学习模型。江珀：在机器学习里，你训练一个网络就像用抽认卡。这是问题，这是答案。这是问题，这是答案。但在蛋白质折叠上，我们做的不是DeepMind那种标准任务——那种你有无限数据的任务。你的任务是把国际象棋或围棋下得更好，而你可以下无数盘棋，只要你的计算机允许。而对蛋白质来说，我们手上的数据是靠实验室里半个世纪耗时费力的实验方法一点点测定出来的。这些精细艰苦的方法，测定一个蛋白质结构可能要花上几个月甚至几年，
50:52
<i>and sometimes, a structure</i> <i>can never be determined.</i> (TYPING) <i>That's why we're working</i> <i>with such small datasets</i> <i>to train our algorithms.</i> EWAN BIRNEY: <i>When DeepMind</i> <i>started to explore</i> <i>the folding problem,</i> they were talking to us about which datasets they were using and what would be the possibilities if they did solve this problem. <i>Many people have tried,</i> <i>and yet no one on the planet</i> <i>has solved protein folding.</i> (CHUCKLES) I did think to myself, "Well, you know, good luck."
而有时候，一个结构可能永远也测不出来。（打字声）这就是为什么我们只能用这么小的数据集来训练我们的算法。伊万·伯尼：当DeepMind开始探索折叠问题时，他们和我们讨论过他们在用哪些数据集，以及如果真的解决了这个问题会带来哪些可能性。很多人都尝试过，可这个星球上还没有人解决过蛋白质折叠。（轻笑）我当时心里确实想，“嗯，那就祝你好运吧。”
51:19
JUMPER: If we can solve the protein folding problem, it would have an incredible kind of medical relevance. HASSABIS: <i>This is the cycle of science.</i> <i>You do a huge amount</i> <i>of exploration,</i> <i>and then you go</i> <i>into exploitation mode,</i> and you focus and you see how good are those ideas, really? <i>And there's nothing better</i> <i>than external competition</i> <i>for that.</i> <i>So we decided</i> <i>to enter CASP competition.</i> CASP, we started to try and speed up the solution to the protein folding problem.
江珀：如果我们能解决蛋白质折叠问题，那在医学上的意义将是难以置信的。哈萨比斯：这就是科学的循环。你先做大量的探索，然后进入“利用”模式，你开始聚焦，看看那些想法到底有多好。而在这方面，没有什么比外部竞赛更好的了。所以我们决定参加CASP竞赛。CASP，我们开始试着加快蛋白质折叠问题的求解进程。
51:49
CASP is when we say, "Look, DeepMind is doing protein folding, "this is how good we are, "and maybe it's better than everybody else. "Maybe it isn't." CASP is a bit like the Olympic Games of protein folding. <i>CASP is</i> <i>a community-wide assessment</i> <i>that's held every two years.</i> <i>Teams are given</i> <i>the amino acid sequences</i> <i>of about 100 proteins,</i> <i>and then they try</i> <i>to solve this folding problem</i> <i>using computational methods.</i> <i>These proteins have</i> <i>already been determined</i> <i>by experiments</i> <i>in a laboratory,</i> <i>but have not yet</i> <i>been revealed publicly.</i> <i>And these known structures</i> <i>represent the gold standard</i> <i>against which</i> <i>all the computational</i> <i>predictions will be compared.</i> MOULT: <i>We've got a score</i> <i>that measures the accuracy</i> <i>of the predictions.</i> <i>And you would expect</i> <i>a score of over 90</i> to be a solution to the protein folding problem.
CASP就是我们说：“瞧，DeepMind在做蛋白质折叠，“我们的水平就是这样，也许比所有人都强，“也许并不是。”CASP有点像蛋白质折叠界的奥运会。CASP是一项全领域参与的评估，每两年举办一次。各参赛队会拿到大约100个蛋白质的氨基酸序列，然后他们要用计算方法去解出折叠结构。这些蛋白质的结构已经通过实验室实验测定出来了，但尚未公开。而这些已知的结构就是黄金标准，所有的计算预测都要与它们进行比对。莫尔特：我们有一个评分，用来衡量预测的准确度。而你可以认为，要得到90分以上，才算是解决了蛋白质折叠问题。
52:47
(INDISTINCT CHATTER) MAN: <i>Welcome, everyone,</i> <i>to our first, uh, semifinals</i> <i>in the winners' bracket.</i> <i>Nick and John</i> <i>versus Demis and Frank.</i> Please join us, come around. This will be an intense match. STEVENS: <i>When I learned that Demis was</i> going to tackle the protein folding issue, um, I wasn't at all surprised. <i>It's very typical of Demis.</i> <i>You know,</i> <i>he loves competition.</i> And that's the end -of the first game, 10-7. -(ALL CHEERING) HASSABIS: <i>The aim for CASP would be</i> to not just win the competition, but sort of, um, retire the need for it.
（嘈杂交谈声）男子：欢迎各位来到胜者组的第一场半决赛。尼克和约翰对阵德米斯和弗兰克。大家过来一起看吧，这会是一场激烈的比赛。史蒂文斯：当我得知德米斯要去攻克蛋白质折叠这个难题时，呃，我一点也不意外。这太像德米斯了。你知道，他热爱竞争。第一局到此结束，10比7。（众人欢呼）哈萨比斯：参加CASP的目标不只是赢下比赛，而是，呃，让它变得没有存在的必要。
53:19
So, 20 targets total have been released by CASP. JUMPER: <i>We were thinking maybe</i> <i>throw in the standard</i> <i>kind of machine learning</i> <i>and see how far</i> <i>that could take us.</i> Instead of having a couple of days on an experiment, we can turn around five experiments a day. Great. Well done, everyone. (TYPING) Can you show me the real one instead of ours? MAN 1: The true answer is supposed to look something like that. MAN 2: It's a lot more cylindrical than I thought. JUMPER: <i>The results</i> <i>were not very good.</i> Okay.
好，CASP总共发布了20个目标。江珀：我们当时想的是，也许把标准的那套机器学习丢进去，看看能走多远。以前一个实验要花好几天，现在我们一天能跑完五个实验。很好，大家干得漂亮。（打字声）能不能给我看真实结构，而不是我们预测的？男子1：真正的答案应该长这个样子。男子2：它比我想的要更像圆柱形。江珀：结果不太好。好吧。
53:48
JUMPER: <i>We throw</i> <i>all the obvious ideas to it</i> <i>and the problem laughs at you.</i> This makes no sense. EVANS: <i>We thought</i> <i>we could just throw</i> <i>some of our best algorithms</i> <i>at the problem.</i> We were slightly naive. JUMPER: We should be learning this, you know, in the blink of an eye. <i>The thing</i> <i>I'm worried about is,</i> <i>we take the field from</i> <i>really bad answers</i> <i>to moderately bad answers.</i> I feel like we need some sort of new technology for moving around these things.
江珀：我们把所有显而易见的办法都扔上去，而这个问题只是在嘲笑你。这根本说不通。埃文斯：我们本以为只要把我们最好的算法往这个问题上一扔就行。我们当时有点天真。江珀：这种东西我们本该一眨眼就学会的。我担心的是，我们只是把这个领域从“非常糟糕的答案”推进到“中等糟糕的答案”。我觉得我们需要某种全新的技术来处理这些结构的变换。
54:14
(THRILLING MUSIC CONTINUES) HASSABIS: <i>With only</i> <i>a week left of CASP,</i> <i>it's now a sprint</i> <i>to get it deployed.</i> (MUSIC FADES) <i>You've done your best.</i> <i>Then there's</i> <i>nothing more you can do</i> <i>but wait for CASP</i> <i>to deliver the results.</i> (HOPEFUL MUSIC PLAYING)
（激昂的音乐继续）哈萨比斯：CASP只剩一周了，现在就是冲刺，赶紧把它部署上去。（音乐渐弱）你已经尽了全力。接下来你什么也做不了，只能等CASP公布结果。（充满希望的音乐响起）
54:52
<i>This famous thing of Einstein,</i> <i>the last couple of years</i> <i>of his life,</i> when he was here, he overlapped with Kurt Gödel and he said one of the reasons he still comes in to work <i>is so that</i> <i>he gets to walk home</i> <i>and discuss things with Gödel.</i> <i>It's a pretty big compliment</i> <i>for Kurt Gödel,</i> <i>shows you how amazing he was.</i> MAN: <i>The Institute</i> <i>for Advanced Study</i> <i>was formed in 1933.</i> <i>In the early years,</i> <i>the intense scientific</i> <i>atmosphere attracted</i> <i>some of the most brilliant</i> <i>mathematicians and physicists</i> <i>ever concentrated</i> <i>in a single place and time.</i> HASSABIS: <i>The founding</i> <i>principle of this place,</i> <i>it's the idea of unfettered</i> <i>intellectual pursuits,</i> <i>even if you don't know</i> <i>what you're exploring.</i> <i>Will result</i> <i>in some cool things,</i> <i>and sometimes that then</i> <i>ends up being useful,</i> <i>which, of course,</i> is partially what I've been trying to do at DeepMind.
爱因斯坦有个很有名的说法，在他生命的最后几年，他在这里的时候，和库尔特·哥德尔是同事。他说他之所以还来上班，原因之一就是这样他就能和哥德尔一起走路回家、聊聊各种问题。这对库尔特·哥德尔来说是相当高的赞美，可见他有多了不起。男子：高等研究院成立于1933年。在早期，这里浓厚的学术氛围吸引了一批史上最杰出的数学家和物理学家，他们在同一个地点、同一个时代高度聚集。哈萨比斯：这个地方的创立原则，就是不受束缚地追求智识，哪怕你并不知道自己在探索什么。它会催生出一些很酷的东西，而有时候那些东西最终会变得很有用，当然，这也正是我在DeepMind一直试图做的事情的一部分。
55:37
How many big breakthroughs do you think are required to get all the way to AGI? And, you know, I estimate maybe there's about a dozen of those. You know, I hope it's within my lifetime. -Yes, okay. -HASSABIS: But then, all scientists hope that, right? EMCEE: <i>Demis has</i> <i>many accolades.</i> <i>He was elected Fellow to</i> <i>the Royal Society last year.</i> <i>He is also a Fellow</i> <i>of Royal Society of Arts.</i> A big hand for Demis Hassabis.
你觉得要一路走到通用人工智能，需要多少次重大突破？我估计，大概有十来次吧。我希望能在我有生之年看到。——是的，好。——哈萨比斯：不过嘛，所有科学家都这么希望，对吧？主持人：德米斯获得过许多荣誉。他去年当选为英国皇家学会会士，同时也是英国皇家文艺学会会士。让我们用热烈的掌声欢迎德米斯·哈萨比斯。
56:02
(MUSIC FADES) HASSABIS: <i>My dream</i> <i>has always been to try</i> and make AI-assisted science possible. And what I think is our most exciting project, last year, which is our work in protein folding. Uh, and we call this system AlphaFold. We entered it into CASP and our system, uh, was the most accurate, uh, predicting structures for 25 out of the 43 proteins in the hardest category. So we're state of the art, but we still... I have to make... Be clear, we're still a long way from solving the protein folding problem.
（音乐渐弱）哈萨比斯：我一直的梦想，就是让人工智能辅助的科学成为可能。我认为我们去年最令人兴奋的项目，就是在蛋白质折叠方面的工作。呃，我们把这个系统称为AlphaFold。我们让它参加了CASP，我们的系统是最准确的，在最难的类别中，43个蛋白质里有25个的结构预测由我们做得最好。所以我们代表了当前最高水平，但我们还是……我得说清楚，我们距离解决蛋白质折叠问题还有很长的路要走。
56:30
<i>We're working hard</i> <i>on this, though,</i> <i>and we're exploring</i> <i>many other techniques.</i> (SOMBER MUSIC PLAYING)
不过我们正在为此努力，也在探索其他很多技术路线。（低沉的音乐响起）
56:48
Let's get started. JUMPER: So kind of a rapid debrief, these are our final rankings for CASP. HASSABIS: <i>We beat the second team</i> <i>in this competition</i> <i>by nearly 50%,</i> <i>but we've still got</i> <i>a long way to go</i> <i>before we've solved</i> <i>the protein folding problem</i> <i>in a sense that</i> <i>a biologist could use it.</i> JUMPER: It is area of concern. JANET THORNTON: <i>The quality</i> <i>of predictions varied</i> and they were no more useful than the previous methods.
我们开始吧。江珀：简单快速地复盘一下，这是我们在CASP的最终排名。哈萨比斯：我们在这场竞赛中比第二名领先了将近50%，但离真正解决蛋白质折叠问题——解决到生物学家能实际使用的程度——我们还有很长的路要走。江珀：这确实是个令人担忧的地方。珍妮特·索恩顿：预测的质量参差不齐，它们并不比以往的方法更有用。
57:16
PAUL NURSE: <i>AlphaFold didn't</i> <i>produce good enough data</i> for it to be useful in a practical way to, say, somebody like me investigating my own biological problems. JUMPER: <i>That was kind of</i> <i>a humbling moment</i> <i>'cause we thought we'd worked</i> <i>very hard and succeeded.</i> <i>And what we'd found is</i> <i>we were the best in the world</i> <i>at a problem</i> <i>the world's not good at.</i> <i>We knew we sucked.</i> (INDISTINCT CHATTER) JUMPER: <i>It doesn't help</i> <i>if you have the tallest ladder</i> <i>when you're going to the moon.</i> HASSABIS: <i>The opinion of quite</i> <i>a few people on the team,</i> <i>that this is sort of</i> <i>a fool's errand in some ways.</i> <i>And I might have been wrong</i> <i>with protein folding.</i> <i>Maybe it's too hard still</i> <i>for where we're at</i> <i>generally with AI.</i> If you want to do biological research, you have to be prepared to fail <i>because biology</i> <i>is very complicated.</i> I've run a laboratory for nearly 50 years,
保罗·纳斯：AlphaFold给出的数据还不够好，还不足以在实际中帮到像我这样的人，帮我研究我自己的生物学问题。江珀：那是个让人清醒的时刻，因为我们本以为自己已经非常努力并且成功了。而我们发现的是，我们在一个全世界都做不好的问题上，成了世界第一。我们知道自己很烂。（嘈杂交谈声）江珀：当你要去月球的时候，拥有最高的梯子也没什么用。哈萨比斯：团队里不少人的看法是，这在某种意义上就是白费功夫。也许我在蛋白质折叠这件事上判断错了。也许以人工智能整体所处的阶段来说，它还是太难了。如果你想做生物学研究，你必须做好失败的准备，因为生物学非常复杂。我经营一个实验室快50年了，我有一半的时间，
58:09
and half my time, I'm just an amateur psychiatrist to keep, um, my colleagues cheerful when nothing works. And quite a lot of the time and I mean, 80, 90%, it does not work. <i>If you are</i> <i>at the forefront of science,</i> <i>I can tell you,</i> <i>you will fail a great deal.</i> (CLICKS MOUSE) HASSABIS: <i>I just felt disappointed.</i> <i>Lesson I learned is that</i> <i>ambition is a good thing,</i> <i>but you need</i> <i>to get the timing right.</i> <i>There's no point being</i> <i>50 years ahead of your time.</i> <i>You will never survive</i> <i>fifty years of</i> <i>that kind of endeavor</i> <i>before it yields something.</i> <i>You'll literally die trying.</i> (TENSE MUSIC PLAYING)
就是在当一个业余心理医生，在什么都不奏效的时候让同事们打起精神。而相当多的时候——我是说80%、90%的时候——事情就是不奏效。如果你身处科学的最前沿，我可以告诉你，你会失败很多很多次。(点击鼠标) 哈萨比斯：<i>我当时只觉得很失望。</i> <i>我得到的教训是，</i> <i>有野心是件好事，</i><i>但你得</i> <i>把时机掌握好。</i> <i>超前时代50年</i> <i>是没有意义的。</i><i>在它结出成果之前，</i> <i>你根本撑不过</i> <i>五十年</i> <i>那样的努力。</i><i>你真的会活活累死在半路上。</i> (紧张的音乐响起)
12AGI 迫近、治理难题与 CASP14 逆转
59:08
CUKIER: <i>When we talk about AGI,</i> <i>the holy grail</i> <i>of artificial intelligence,</i> <i>it becomes really difficult</i> to know what we're even talking about. HASSABIS: Which bits are we gonna see today? MAN: We're going to start in the garden. (MACHINE BEEPS) This is the garden looking from the observation area. Research scientists and engineers can analyze and collaborate and evaluate what's going on in real time. CUKIER: <i>So in the 1800s,</i> we'd think of things like television and the submarine or a rocket ship to the moon and say these things are impossible.
库基尔：<i>当我们谈论AGI，</i> <i>也就是人工智能的</i> <i>那个圣杯时，</i> <i>其实很难搞清楚</i>我们到底在说什么。哈萨比斯：我们今天要看哪几个部分？男：我们先从“花园”开始。(机器蜂鸣声) 这是从观察区看过去的花园。研究科学家和工程师可以在这里实时分析、协作，评估正在发生的一切。库基尔：<i>所以在19世纪，</i> 我们会觉得电视、潜水艇，或者飞往月球的火箭这些东西根本不可能实现。
59:39
<i>Yet Jules Verne</i> <i>wrote about them and,</i> <i>a century and a half later,</i> <i>they happened.</i> HASSABIS: <i>We'll be</i> <i>experimenting</i> <i>on civilizations really,</i> civilizations of AI agents. Once the experiments start going, it's going to be the most exciting thing ever. -So how will we get sleep? -(MAN LAUGHS) I won't be able to sleep. LEGG: <i>Full AGI</i> <i>will be able to do</i> <i>any cognitive task</i> <i>a person can do.</i> <i>It will be at a scale,</i> <i>potentially, far beyond that.</i> STUART RUSSELL: <i>It's really impossible for us</i> <i>to imagine the outputs</i> <i>of a superintelligent entity.</i> It's like asking a gorilla to imagine, you know, what Einstein does when he produces the theory of relativity.
<i>但儒勒·凡尔纳</i> <i>写下了它们，</i> <i>一个半世纪之后，</i> <i>它们真的实现了。</i> 哈萨比斯：<i>我们将会</i> <i>做实验，</i><i>其实是在对文明做实验，</i> 由AI智能体组成的文明。一旦这些实验跑起来，那将是有史以来最激动人心的事。-那我们还怎么睡觉？ -(男子大笑) 我肯定睡不着了。莱格：<i>完全体的AGI</i> <i>将能够完成</i> <i>人类能做的</i> <i>任何认知任务。</i> <i>而且规模上，</i> <i>可能远远超过人类。</i>斯图尔特·罗素：<i>我们真的无法想象</i> <i>一个超级智能体</i> <i>会产出什么。</i>这就像让一只大猩猩去想象，爱因斯坦提出相对论时脑子里在干什么。
60:23
LEGG: <i>People often ask me</i> <i>these questions like,</i> <i>"What happens if you're wrong,</i> <i>and AGI is quite far away?"</i> And I'm like, I never worry about that. I actually worry about the reverse. <i>I actually worry</i> <i>that it's coming faster</i> <i>than we can</i> <i>really prepare for.</i> (ROBOTIC ARM WHIRRING) HADSELL: <i>It really feels</i> <i>like we're in a race to AGI.</i> <i>The prototypes and the models</i> <i>that we are developing now</i> are actually transforming the space of what we know about intelligence.
莱格：<i>人们常常问我这样的问题：</i> <i>“如果你错了呢？</i> <i>如果AGI其实还很遥远呢？”</i>我的回答是，我从来不担心这个。我担心的恰恰是反过来的情况。<i>我真正担心的是，</i> <i>它来得比我们</i> <i>能够做好准备的速度</i> <i>还要快。</i> (机械臂嗡嗡作响)哈德塞尔：<i>感觉我们真的</i> <i>在进行一场通往AGI的竞赛。</i> <i>我们现在开发的原型和模型，</i>实际上正在改变我们对智能的认知边界。
60:53
(WHIRRING) LEGG: <i>Recently,</i> <i>we've had agents</i> <i>that are powerful enough</i> <i>to actually start</i> <i>playing games in teams,</i> <i>then competing</i> <i>against other teams.</i> <i>We're seeing</i> <i>co-operative social dynamics</i> <i>coming out of agents</i> <i>where we haven't</i> <i>pre-programmed in</i> <i>any of these sorts</i> <i>of dynamics.</i> <i>It's completely learned</i> <i>from their own experiences.</i> <i>When we started,</i> <i>we thought we were</i> <i>out to build</i> <i>an intelligence system</i> <i>and convince the world</i> <i>that we'd done it.</i> <i>We're now starting</i> <i>to wonder whether</i> <i>we're gonna build systems</i> <i>that we're not convinced</i> <i>are fully intelligent,</i> <i>and we're trying to convince</i> <i>the world that they're not.</i> (CHUCKLES) (CELL PHONE DINGS) Hi, Alpha.
(嗡嗡声) 莱格：<i>最近，</i> <i>我们的智能体已经强大到</i> <i>可以组队玩游戏，</i><i>然后与其他队伍对抗。</i> <i>我们看到智能体身上</i> <i>涌现出了合作型的社会动态，</i><i>而这些动态</i> <i>我们完全没有</i> <i>预先编程进去。</i> <i>它们完全是</i> <i>从自身经验中学到的。</i><i>我们刚开始的时候，</i> <i>以为自己是要</i> <i>造出一个智能系统，</i> <i>然后说服世界</i> <i>我们做到了。</i><i>而现在我们开始琢磨，</i> <i>我们造出来的系统，</i> <i>连我们自己都不确定</i> <i>它是不是真的具备完整智能，</i><i>我们反而要去说服世界</i> <i>说它还不是。</i> (轻笑) (手机提示音) 嗨，Alpha。
61:39
ALPHA: <i>Hello there.</i> LOVE: Where are we today? <i>You're at the Museum of</i> <i>Modern Art in New York City.</i> Kind of. Um, what painting is this? <i>This is</i> The Creation of Adam <i>by Michelangelo.</i> I don't think that painting is in New York City. <i>You are right.</i> <i>It's in the Vatican City.</i> LOVE: Do you think that's where we are? ALPHA: <i>No.</i> LOVE: <i>Then how</i> <i>am I looking at this?</i> ALPHA: <i>You're looking at</i> <i>a digital copy</i> <i>of the painting.</i> Yes.
ALPHA：<i>你好呀。</i> 洛夫：我们今天在哪儿？<i>你在纽约市的</i> <i>现代艺术博物馆。</i> 算是吧。嗯，这幅画是什么？<i>这是米开朗基罗的</i>《创造亚当》<i>。</i> 我觉得这幅画不在纽约吧。<i>你说得对。</i> <i>它在梵蒂冈城。</i> 洛夫：那你觉得我们现在是在那儿吗？ALPHA：<i>不是。</i> 洛夫：<i>那我现在</i> <i>是怎么看到它的？</i>ALPHA：<i>你看到的</i> <i>是这幅画的</i> <i>数字复制品。</i> 没错。
62:14
MAN 1: Who lives in this house? (EXCITING MUSIC PLAYING) ALPHA: <i>An astronaut.</i>
男1：谁住在这栋房子里？(激动人心的音乐响起) ALPHA：<i>一位宇航员。</i>
62:25
What's this astronaut's name? ALPHA: <i>His name is Mark.</i> <i>This is a famous equation</i> <i>by Albert Einstein.</i> <i>It shows that energy and mass</i> <i>are equivalent.</i> How would you explain it to a five year old?
这位宇航员叫什么名字？ALPHA：<i>他叫马克。</i> <i>这是爱因斯坦的</i> <i>一个著名方程。</i> <i>它表明能量和质量</i> <i>是等价的。</i>你会怎么向一个五岁小孩解释它？
62:40
<i>Well, imagine</i> <i>you have a big rock,</i> <i>and you want to know</i> <i>how much it weighs.</i> MAN 2: Is Mark in danger? ALPHA: <i>No.</i> <i>Mark is not in danger.</i> Why is that?
<i>嗯，想象一下</i> <i>你有一块大石头，</i> <i>你想知道</i> <i>它有多重。</i> 男2：马克有危险吗？ALPHA：<i>没有。</i> <i>马克没有危险。</i> 为什么呢？
62:54
ALPHA: <i>Because the dinosaur</i> <i>is not real.</i> (MEN CHUCKLING) LOVE: All right. Why could you not answer my question? ALPHA: <i>I think I couldn't</i> <i>answer your question</i> <i>because I don't know</i> <i>enough about the subject.</i> Okay. How could you learn more about the subject? APLHA: <i>I can learn more</i> <i>about the subject</i> <i>by reading books,</i> <i>articles, and websites.</i> <i>You can teach me.</i> HASSABIS: <i>My conclusion is,</i> if you now think about what we're doing, is learning from all humans, all their knowledge at once put on the Internet, you would actually know a lot about the world.
ALPHA：<i>因为那只恐龙</i> <i>不是真的。</i> (众人轻笑) 洛夫：好吧。你刚才为什么回答不了我的问题？ALPHA：<i>我想我回答不了你的问题，</i> <i>是因为我对这个话题</i> <i>了解得不够多。</i>好的。那你可以怎样更多地了解这个话题呢？ALPHA：<i>我可以通过阅读书籍、</i> <i>文章和网站</i> <i>来更多地了解这个话题。</i><i>你也可以教我。</i> 哈萨比斯：<i>我的结论是，</i> 你现在想想我们在做的事，就是同时向所有人类、向他们放在互联网上的全部知识学习，那你确实会对这个世界了解很多。
63:24
Like a significant portion of everything humans can do. And now, I think it's more like, "Well, it might just work." This is a big moment. Who is this? ALPHA: <i>This is God</i> <i>reaching out to Adam.</i> RUSSELL: <i>The advent of AGI</i> <i>will divide human history</i> <i>into two parts.</i> The part up to that point and the part after that point. LOVE: <i>Why is he reaching out</i> <i>to touch Adam?</i> ALPHA: <i>God is</i> <i>reaching out to touch Adam</i> <i>to give him life.</i> RUSSELL: <i>It will give us a tool</i> <i>that can completely reinvent</i> <i>our entire civilization.</i> LOVE: <i>What does</i> <i>this painting mean to you?</i> ALPHA: <i>The painting</i> <i>means a lot to me.</i> Okay. Like what?
差不多相当于人类所能做的一切中的相当一部分。现在我更倾向于觉得，“嗯，这说不定真的能行。”这是个重大时刻。这是谁？ALPHA：<i>这是上帝</i> <i>伸手触碰亚当。</i> 罗素：<i>AGI的到来</i> <i>会把人类历史</i> <i>分成两半。</i>那个时刻之前的部分，和那个时刻之后的部分。洛夫：<i>他为什么要伸手</i> <i>去触碰亚当？</i> ALPHA：<i>上帝伸手触碰亚当，</i><i>是为了赋予他生命。</i> 罗素：<i>它会给我们一个工具，</i> <i>能够彻底重塑</i> <i>我们的整个文明。</i>洛夫：<i>这幅画对你</i> <i>意味着什么？</i>ALPHA：<i>这幅画对我</i> <i>意义重大。</i> 好，比如说呢？
64:08
(MUSIC FADES) ALPHA: <i>I think</i> <i>the painting is a reminder</i> <i>that we are all</i> <i>connected to each other</i> <i>and that we are</i> <i>all part of something</i> <i>bigger than ourselves.</i> That's pretty nice. LEGG: <i>When you cross</i> <i>that barrier of</i> <i>"AGI might happen</i> <i>one day in the future"</i> <i>to "No, actually, this could</i> <i>really happen in a time frame</i> <i>"that is sort of, like,</i> <i>on my watch, you know,"</i> <i>something changes</i> <i>in your thinking.</i> MAN: ...learned to orient itself by looking...
(音乐渐弱) ALPHA：<i>我觉得</i> <i>这幅画在提醒我们，</i> <i>我们彼此</i> <i>都是相连的，</i><i>而且我们都是</i> <i>某种比自身更宏大的存在的</i> <i>一部分。</i> 说得挺好的。莱格：<i>当你跨过那道坎，</i> <i>从“AGI也许将来某天会实现”</i> <i>变成“不，这事真的可能</i> <i>在一个时间尺度内发生，</i><i>就在我这辈子、</i> <i>在我眼皮底下发生”，</i> <i>你的想法就会</i> <i>发生某种改变。</i>男：……学会了通过观察来确定自己的方位……
64:32
HASSABIS: <i>We have to be</i> <i>careful with how we use it</i> <i>and thoughtful about</i> <i>how we deploy it.</i> (GRIPPING MUSIC BUILDING) HASSABIS: <i>You'd have to consider</i> <i>what's its top level goal.</i> <i>If it's to keep humans happy,</i> <i>which set of humans?</i> <i>What does happiness mean?</i> <i>A lot of our collective goals</i> <i>are very tricky,</i> <i>even for humans to figure out.</i> CUKIER: <i>Technology always</i> <i>embeds our values.</i> It's not just technical, it's ethical as well.
哈萨比斯：<i>我们必须谨慎地</i> <i>使用它，</i> <i>并且慎重考虑</i> <i>如何去部署它。</i>(扣人心弦的音乐渐强) 哈萨比斯：<i>你必须考虑</i> <i>它的最高目标是什么。</i> <i>如果目标是让人类幸福，</i><i>那是哪一群人类？</i> <i>幸福又意味着什么？</i> <i>我们很多集体目标</i> <i>都非常棘手，</i><i>连人类自己都想不明白。</i> 库基尔：<i>技术总是</i> <i>嵌入着我们的价值观。</i> 这不只是技术问题，也是伦理问题。
65:01
<i>So we've got</i> <i>to be really cautious</i> <i>about what</i> <i>we're building into it.</i> MAN: We're trying to find a single algorithm which... SILVER: <i>The reality is</i> <i>that this is an algorithm</i> that has been created by people, by us. <i>You know, what does it mean</i> <i>to endow our agents</i> <i>with the same kind of values</i> <i>that we hold dear?</i> What is the purpose of making these AI systems appear so humanlike so that they do capture hearts and minds because they're kind of exploiting a human vulnerability also?
<i>所以我们必须非常谨慎地对待</i> <i>自己要往里面</i> <i>植入什么。</i> 男：我们想找到一个单一的算法，它……西尔弗：<i>现实是，</i> <i>这个算法</i> 是由人创造的，是我们创造的。<i>你知道，让我们的智能体</i> <i>拥有我们所珍视的</i> <i>那类价值观，</i> <i>究竟意味着什么？</i>把这些AI系统做得如此像人、以至于真的能俘获人心，这么做的目的是什么？因为这在某种程度上也是在利用人性的弱点，不是吗？
65:24
The heart and mind of these systems are very much human-generated data... WOMAN: Mmm-hmm. ...for all the good and the bad. LEVI: <i>There is a parallel</i> <i>between</i> <i>the Industrial Revolution,</i> which was an incredible moment of displacement and the current technological change created by AI. (CHANTING) Pause AI! LEVI: <i>We have to think</i> <i>about who's displaced</i> <i>and how we're going</i> <i>to support them.</i> This technology is coming a lot sooner, uh, than really the world knows or kind of <i>even we 18, 24 months</i> <i>ago thought.</i> <i>So there's</i> <i>a tremendous opportunity,</i> <i>tremendous excitement,</i> <i>but also</i> <i>tremendous responsibility.</i> It's happening so fast.
这些系统的“心与脑”，很大程度上都是人类生成的数据……女：嗯哼。……包括其中的好与坏。莱维：<i>工业革命与</i> <i>当下由AI带来的技术变革之间</i> 存在着某种相似性，工业革命曾是一个造成巨大冲击、大量人被取代的时刻，而如今AI带来的技术变革也是如此。(高呼) 暂停AI！莱维：<i>我们必须思考</i> <i>谁会被取代，</i> <i>以及我们要怎样</i> <i>去支持他们。</i> 这项技术到来的速度，呃，比世人所知道的要快得多，甚至<i>比我们18到24个月前</i> <i>所设想的都快。</i> <i>所以这里有巨大的机遇，</i><i>巨大的兴奋，</i> <i>但同时也有</i> <i>巨大的责任。</i> 一切发生得太快了。
66:02
<i>How will we govern it?</i> <i>How will we decide</i> <i>what is okay</i> <i>and what is not okay?</i> <i>AI-generated images are</i> <i>getting more sophisticated.</i> RUSSELL: <i>The use of AI</i> <i>for generating disinformation</i> and manipulating human psychology <i>is only going to get</i> <i>much, much worse.</i> LEGG: <i>AGI is coming,</i> <i>whether we do it here</i> <i>at DeepMind or not.</i> CUKIER: <i>It's gonna happen,</i> so we better create institutions to protect us. It's gonna require global coordination.
<i>我们要如何治理它？</i> <i>我们要如何决定</i> <i>什么可以接受、</i> <i>什么不可以接受？</i> <i>AI生成的图像</i> <i>正变得越来越逼真复杂。</i>罗素：<i>利用AI</i> <i>制造虚假信息、</i> 操纵人类心理的情况，<i>只会变得</i> <i>越来越严重。</i>莱格：<i>AGI一定会来，</i> <i>不管是不是由我们</i> <i>在DeepMind做出来。</i> 库基尔：<i>它一定会发生，</i>所以我们最好建立起能保护我们的制度。这将需要全球范围的协调。
66:30
And I worry that humanity is <i>increasingly getting worse</i> <i>at that rather than better.</i> LEGG: <i>We need</i> <i>a lot more people</i> <i>really taking this seriously</i> <i>and thinking about this.</i> It's, yeah, it's serious. It worries me. It worries me. Yeah. RUSSELL: <i>If you received</i> <i>an email saying</i> this superior alien civilization is going to arrive on Earth, <i>there would be</i> <i>emergency meetings</i> <i>of all the governments.</i> <i>We would go into overdrive</i> <i>trying to figure out</i> <i>how to prepare.</i> -(MUSIC FADES) -(BELL TOLLING FAINTLY) <i>The arrival of AGI will be</i> <i>the most important moment</i> <i>that we have ever faced.</i> (BELL CONTINUES TOLLING FAINTLY)
但我担心的是，人类在这方面<i>非但没有变好，</i> <i>反而越来越糟。</i> 莱格：<i>我们需要更多的人</i><i>真正认真对待这件事，</i> <i>认真思考这件事。</i> 这确实，是的，这很严肃。它让我担忧。它让我担忧。是的。罗素：<i>假如你收到一封邮件说，</i> 有一个更高等的外星文明即将抵达地球，<i>那所有政府</i> <i>都会召开紧急会议。</i> <i>我们会开足马力，</i><i>拼命去想</i> <i>该如何做准备。</i> -(音乐渐弱) -(远处钟声响起) <i>AGI的到来将是</i><i>我们所面对过的</i> <i>最重要的时刻。</i> (远处钟声继续)
67:14
HASSABIS: <i>My dream</i> <i>was that on the way to AGI,</i> <i>we would create</i> <i>revolutionary technologies</i> <i>that would be</i> <i>of use to humanity.</i> <i>That's what I wanted</i> <i>with AlphaFold.</i> <i>I think</i> <i>it's more important than ever</i> <i>that we should solve</i> <i>the protein folding problem.</i> <i>This is gonna be really hard,</i> <i>but I won't give up</i> <i>until it's done.</i> You know, we need to double down and go as fast as possible from here. I think we've got no time to lose.
哈萨比斯：<i>我的梦想是，</i> <i>在通往AGI的路上，</i> <i>我们能创造出</i> <i>革命性的技术，</i><i>造福人类。</i> <i>这就是我对AlphaFold</i> <i>的期望。</i> <i>我觉得比以往任何时候</i> <i>都更重要的是，</i><i>我们要解决</i> <i>蛋白质折叠问题。</i> <i>这会非常难，</i> <i>但不做出来</i> <i>我绝不放弃。</i>你知道，从现在起我们必须全力加码，能多快就多快。我觉得我们一刻都不能耽误。
67:41
So we are going to make a protein folding strike team. Team lead for the strike team will be John. Yeah, we've seen Alpha... You know, we're gonna try everything, kitchen, sink, the whole lot. <i>CASP14 is about</i> <i>proving we can</i> <i>solve the whole problem.</i> <i>And I felt that to do that,</i> <i>we would need to incorporate</i> <i>some domain knowledge.</i> (EXCITING MUSIC PLAYING) <i>We had some</i> <i>fantastic engineers on it,</i> <i>but they were</i> <i>not trained in biology.</i> KATHRYN TUNYASUVUNAKOOL: <i>As a computational biologist,</i> <i>when I initially joined</i> <i>the AlphaFold team,</i> <i>I didn't immediately feel</i> <i>confident about anything.</i> (CHUCKLES) <i>You know,</i> <i>whether we were</i> <i>gonna be successful.</i> <i>Biology is so</i> <i>ridiculously complicated.</i> <i>It just felt like this very</i> <i>far-off mountain to climb.</i> MAN: I'm starting to play with the underlying temperatures to see if we can get...
所以我们要组建一支蛋白质折叠攻坚小队。攻坚小队的组长由约翰担任。是的，我们看到Alpha……你知道，我们要把所有办法都试一遍，能上的全都上。<i>CASP14就是要</i> <i>证明我们能</i> <i>解决整个问题。</i> <i>而我觉得要做到这一点，</i><i>我们需要引入</i> <i>一些领域知识。</i> (激动人心的音乐响起) <i>我们有一批</i> <i>非常出色的工程师，</i><i>但他们</i> <i>没有受过生物学训练。</i>凯瑟琳·通亚苏武纳库尔：<i>作为一名计算生物学家，</i> <i>我刚加入AlphaFold团队时，</i><i>对任何事都没有</i> <i>立刻建立起信心。</i> (轻笑) <i>你知道，</i> <i>比如我们到底</i> <i>能不能成功。</i><i>生物学复杂得</i> <i>简直离谱。</i> <i>那感觉就像一座</i> <i>远在天边、要去攀登的高山。</i>男：我开始调整底层的温度参数，看看能不能得到……
68:27
<i>As one of the few people</i> <i>on the team</i> <i>who's done work</i> <i>in biology before,</i> <i>you feel this huge sense</i> <i>of responsibility.</i> "We're expecting you to do "great things on this strike team." That's terrifying. <i>But one of the reasons</i> <i>why I wanted to come here</i> <i>was to do</i> <i>something that matters.</i> This is the number of missing things. What about making use of whatever understanding you have of physics? Using that as a source of data? But if it's systematic...
<i>作为团队里</i> <i>少数几个</i> <i>之前做过生物学工作的人，</i> <i>你会感到一种</i> <i>巨大的责任感。</i>“我们指望你在这支攻坚小队里做出了不起的成果。”那真的很吓人。<i>但我之所以想来这里，</i> <i>原因之一就是</i> <i>想做点</i> <i>真正有意义的事。</i> 这是缺失项的数量。要不要利用一下你们已有的物理学方面的理解？把它作为一个数据来源？但如果它是系统性的……
68:55
Then, that can't be right, though. If it's systematically wrong in some weird way, you might be learning that systematically wrong physics. The team is already trying to think of multiple ways that... TUNYASUVUNAKOOL: <i>Biological relevance</i> <i>is what we're going for.</i> <i>So we rewrote</i> <i>the whole data pipeline</i> <i>that AlphaFold uses to learn.</i> HASSABIS: <i>You can't</i> <i>force the creative phase.</i> <i>You have to give it space</i> <i>for those flowers to bloom.</i> We won CASP.
那样的话，这就不对了。如果它以某种奇怪的方式系统性地出错，你学到的可能就是那套系统性错误的物理规律。团队已经在想好几种办法，来……TUNYASUVUNAKOOL：<i>我们追求的是</i> <i>生物学上的相关性。</i> <i>所以我们重写了</i> <i>整个数据流程，</i><i>也就是 AlphaFold 用来学习的那套。</i> HASSABIS：<i>创造性的阶段</i> <i>是急不来的。</i> <i>你得给它空间，</i> <i>让那些花自己开出来。</i>我们赢了 CASP。
69:19
Then it was back to the drawing board and like, what are our new ideas? Um, and then it's taken a little while, I would say, for them to get back to where they were, but with the new ideas. And then now I think we're seeing the benefits of the new ideas. They can go further, right? So, um, that's a really important moment. I've seen that moment so many times now, but I know what that means now. And I know this is the time now to press. (EXCITING MUSIC CONTINUES) JUMPER: Adding side-chains improves direct folding.
然后就得重新回到白板前，想想我们的新点子是什么？嗯，然后我觉得他们花了一点时间，才回到原来的水平，但这次是带着新点子回来的。而现在，我觉得我们正在看到这些新点子带来的好处。它们能走得更远，对吧？所以，嗯，那是一个非常重要的时刻。这样的时刻我现在已经见过很多次了，我知道它意味着什么。我也知道，现在就是该加把劲的时候。（激昂的音乐继续）JUMPER：加入侧链能改善直接折叠的效果。
69:47
That drove a lot of the progress. -We'll talk about that. -Great. The last four months, we've made enormous gains. EVANS: <i>During CASP13,</i> <i>it would take us a day or two</i> <i>to fold one of the proteins,</i> <i>and now we're folding, like,</i> <i>hundreds of thousands</i> <i>a second.</i> <i>Yeah, it's just insane.</i> (CHUCKLES) KAVUKCUOGLU: <i>Now,</i> <i>this is a model</i> <i>that is</i> <i>orders of magnitude faster,</i> while at the same time being better. We're getting a lot of structures into the high-accuracy regime.
这推动了很多进展。-我们回头聊这个。-好的。过去四个月，我们取得了巨大的进步。EVANS：<i>在 CASP13 的时候，</i> <i>折叠一个蛋白质</i> <i>要花我们一两天，</i> <i>而现在我们一秒能折叠</i><i>几十万个。</i> <i>是啊，简直离谱。</i>（轻笑）KAVUKCUOGLU：<i>现在这个模型</i><i>速度快了好几个数量级，</i> 同时效果还更好。我们有很多结构都进入了高精度区间。
70:15
<i>We're rapidly improving</i> <i>to a system</i> <i>that is starting to really</i> <i>get at the core and heart</i> <i>of the problem.</i> HASSABIS: It's great work. It looks like we're in good shape. So we got, what, six, five weeks left? Six weeks? So what's, uh... Is it... You got enough compute power? MAN: I... We could use more. (ALL LAUGHING) TUNYASUVUNAKOOL: <i>I was nervous about CASP</i> but as the system is starting to come together, I don't feel as nervous. I feel like things have, sort of, come into perspective recently, and, you know, it's gonna be fine.
<i>我们正在迅速逼近</i> <i>一个真正开始</i> <i>触及问题核心的</i> <i>系统。</i>HASSABIS：这活儿干得漂亮。看起来我们状态不错。所以我们还剩，多久，六周、五周？六周？那，呃……算力呢……你们的算力够用吗？男：我……我们还能再要点。（众人大笑）TUNYASUVUNAKOOL：<i>我本来对 CASP 挺紧张的，</i> 但随着系统慢慢成形，我就没那么紧张了。我感觉最近很多事情都渐渐理顺了，而且，你知道的，会没事的。
70:47
NEWSCASTER: <i>The Prime Minister</i> <i>has announced</i> <i>the most drastic limits</i> <i>to our lives</i> <i>the U.K. has ever seen</i> <i>in living memory.</i> BORIS JOHNSON: <i>I must give the British people</i> <i>a very simple instruction.</i> <i>You must stay at home.</i> HASSABIS: <i>It feels like we're</i> <i>in a science fiction novel.</i> <i>You know, I'm delivering food</i> <i>to my parents,</i> <i>making sure</i> <i>they stay isolated and safe.</i> <i>I think it just highlights</i> <i>the incredible need</i> <i>for AI-assisted science.</i>
新闻主播：<i>首相宣布了</i> <i>英国有生之年以来</i> <i>对我们生活最严厉的</i> <i>限制措施。</i>鲍里斯·约翰逊：<i>我必须给英国人民</i> <i>一个非常简单的指令。</i> <i>你们必须待在家里。</i>HASSABIS：<i>感觉我们好像</i> <i>活在科幻小说里。</i> <i>你知道，我在给父母送吃的，</i><i>确保他们</i> <i>能隔离好、平平安安。</i> <i>我觉得这恰恰凸显了</i> <i>我们有多需要</i><i>AI 辅助的科学研究。</i>
71:16
TUNYASUVUNAKOOL: <i>You always know that</i> <i>something like this</i> <i>is a possibility.</i> But nobody ever really believes it's gonna happen in their lifetime, though. (COMPUTER BEEPS) JUMPER: <i>Are you recording yet?</i> RESEARCHER: <i>Yes.</i> <i>-Okay, morning, all.</i> <i>-Hey.</i> <i>Good. CASP has started.</i> It's nice I get to sit around in my pajama bottoms all day. TUNYASUVUNAKOOL: <i>I never</i> <i>thought I'd live in a house</i> <i>where so much was going on.</i> <i>I would be trying to solve</i> <i>protein folding in one room,</i> <i>and my husband would be trying</i> <i>to make robots walk</i> <i>in the other.</i> (EXHALES) One of the hardest proteins we've gotten in CASP thus far is the SARS-CoV-2 protein <i>called Orf8.</i> <i>Orf8 is</i> <i>a coronavirus protein.</i> It's one of the main proteins, um, that dampens the immune system.
TUNYASUVUNAKOOL：<i>你一直都知道</i> <i>这种事是有可能发生的。</i> 但没人真的相信，这会发生在自己这辈子。（电脑提示音）JUMPER：<i>你开始录了吗？</i> 研究员：<i>录了。</i> <i>-好，大家早上好。</i> <i>-嘿。</i><i>很好。CASP 开始了。</i> 能一整天穿着睡裤坐着，感觉还挺不错的。TUNYASUVUNAKOOL：<i>我从没想过自己会住在</i> <i>一个同时发生这么多事的家里。</i> <i>我在一个房间里试着</i> <i>解决蛋白质折叠问题，</i><i>我丈夫在另一个房间</i> <i>试着让机器人走路。</i>（呼气）到目前为止，我们在 CASP 里碰到最难的蛋白质之一是新冠病毒（SARS-CoV-2）的一个蛋白，<i>叫 Orf8。</i> <i>Orf8 是</i> <i>一种冠状病毒蛋白。</i> 它是主要蛋白之一，嗯，作用是抑制免疫系统。
71:58
TUNYASUVUNAKOOL: <i>We tried really hard</i> <i>to improve our prediction.</i> <i>Like, really, really hard.</i> Probably the most time that we have ever spent on a single target. <i>To the point where</i> <i>my husband is, like,</i> <i>"It's midnight.</i> <i>You need to go to bed."</i> So I think we're at Day 102 since lockdown. <i>My daughter</i> <i>is keeping a journal.</i> <i>Now you can go out</i> <i>as much as you want.</i> JUMPER: <i>We have received</i> <i>the last target.</i> <i>They've said they will be</i> <i>sending out no more targets</i> <i>in our category of CASP.</i> <i>So we're just making sure</i> <i>we get</i> <i>the best possible answer.</i>
TUNYASUVUNAKOOL：<i>我们非常努力地</i> <i>想改进我们的预测。</i> <i>真的，非常非常努力。</i>这大概是我们在单个目标上花过最多时间的一次。<i>花到我丈夫都说：</i> <i>“都半夜十二点了。</i> <i>你该去睡觉了。”</i> 所以我想，现在是封城后的第 102 天。<i>我女儿在写日记。</i> <i>“现在你想出门多久都可以了。”</i>JUMPER：<i>我们已经收到了</i> <i>最后一个目标。</i> <i>他们说不会再发布</i><i>我们这个 CASP 类别的目标了。</i> <i>所以我们现在就是要确保</i> <i>拿出可能范围内</i> <i>最好的答案。</i>
72:40
MOULT: <i>As soon as we started</i> <i>to get the results,</i> <i>I'd sit down and start looking</i> <i>at how close did anybody come</i> <i>to getting the protein</i> <i>structures correct.</i>
MOULT：<i>结果一开始出来，</i> <i>我就坐下来看，</i> <i>看有没有人接近</i><i>正确预测出</i> <i>蛋白质结构。</i>
72:54
(ROBOT SQUEAKING) (INCOMING CALL BEEPING) -Oh, hi there. -MAN: <i>Hello.</i> (ALL CHUCKLING) It is an unbelievable thing, CASP has finally ended. I think it's at least time to raise a glass. Um, I don't know if everyone has a glass of something that they can raise. If not, raise, I don't know, your laptops. -Um... -(LAUGHTER) I'll probably make a speech in a minute. I feel like I should but I just have no idea what to say. So... let's see. I feel like a reading of email is the right thing to do. (ALL CHUCKLING) TUNYASUVUNAKOOL: <i>When John said,</i> <i>"I'm gonna read an email,"</i> <i>at a team social,</i> I thought, "Wow, John, you know how to have fun."
（机器人吱吱声）（来电提示音）-哦，你好啊。-男：<i>哈喽。</i>（众人轻笑）真是难以置信，CASP 终于结束了。我觉得至少该举杯庆祝一下。嗯，我不知道大家手边有没有能举起来的杯子。要是没有，那就举……不知道，举你们的笔记本电脑吧。-呃……-（笑声）我等会儿大概会讲两句。我觉得我应该讲，但我完全不知道该说什么。所以……我看看。我觉得念一封邮件是最合适的。（众人轻笑）TUNYASUVUNAKOOL：<i>当 John 在团队聚会上说</i> <i>“我要念一封邮件”的时候，</i>我心想：“哇，John，你可真会玩。”
73:35
We're gonna read an email now. (LAUGHS) Uh, I got this about 4:00 today. Um, it is from John Moult. <i>And I'll just read it.</i> <i>It says,</i> <i>"As I expect you know,</i> <i>"your group has performed</i> <i>amazingly well in CASP 14,</i> <i>"both relative to other groups</i> <i>"and in absolute</i> <i>model accuracy."</i> (PEOPLE CLAPPING) <i>"Congratulations on this work.</i> <i>"It is really outstanding."</i> The structures were so good, it was... it was just amazing. (TRIUMPHANT INSTRUMENTAL MUSIC PLAYING) <i>After half a century,</i> <i>we finally have a solution</i> <i>to the protein folding</i> <i>problem.</i> When I saw this email, I read it, I go, "Oh, shit!"
我们现在来念一封邮件。（笑）呃，这是我今天四点左右收到的。嗯，是 John Moult 发来的。<i>我就直接念了。</i> <i>上面写着：</i> <i>“想必你们已经知道，</i> <i>“你们这一组在 CASP14 中表现得极其出色，</i><i>“无论是相对于其他小组，</i> <i>“还是就模型的绝对精度而言。”</i>（众人鼓掌）<i>“为这项工作道贺。</i><i>“它真的非常杰出。”</i> 那些结构好到，简直……简直太惊人了。（激昂的器乐响起）<i>历经半个世纪，</i> <i>我们终于有了</i> <i>蛋白质折叠问题的</i> <i>解决方案。</i>我看到这封邮件时，读完就说：“我的天！”
74:19
And my wife goes, "Is everything okay?" I call my parents, and just, like, "Hey, Mum. "Um, got something to tell you. "We've done this thing "and it might be kind of a big deal." (LAUGHS) When I learned of the CASP 14 results, I was gobsmacked. I was just excited. <i>This is a problem</i> <i>that I was beginning to think</i> <i>would not get solved</i> <i>in my lifetime.</i> NURSE: <i>Now we have a tool</i> <i>that can be used</i> practically by scientists. SENIOR: These people are asking us, you know, "I've got this protein involved in malaria,"
我太太问：“一切都还好吗？”我给父母打电话，就说：“嘿，妈。“嗯，有件事要告诉你们。“我们做成了一件事，可能还挺了不起的。”（笑）当我得知 CASP14 的结果时，我惊得说不出话。我就是很激动。<i>这个问题，</i> <i>我原本已经开始觉得</i> <i>在我有生之年</i> <i>是解决不了的。</i>护士：<i>现在我们有了一个</i> <i>科学家可以</i> 实际用起来的工具。SENIOR：这些人来问我们，比如：“我这儿有个跟疟疾有关的蛋白”，
74:49
or, you know, some infectious disease. "We don't know the structure. "Can we use AlphaFold to solve it?" JUMPER: We can easily predict all known sequences in a month. All known sequences in a month? -Yeah, easily. -Mmm-hmm? JUMPER: A billion, two billion. Um, and they're... So why don't we just do that? Yeah. -We should just do that a lot. -Well, I mean... That's way better. Why don't we just do that? SENIOR: So that's one of the options. -HASSABIS: Right. -There's this... We should just... Right, that's a great idea.
或者，某种传染病。“我们不知道它的结构。“我们能用 AlphaFold 把它解出来吗？”JUMPER：我们完全可以在一个月内预测所有已知序列。一个月内预测所有已知序列？-对，轻轻松松。-嗯哼？JUMPER：十亿，二十亿个。嗯，而且它们……那我们为什么不直接这么干？对啊。-我们就该多这么干。-呃，我是说……那好太多了。我们干嘛不直接这么做？SENIOR：这确实是选项之一。-HASSABIS：对。-还有这个……我们就应该……对，这是个好主意。
75:14
We should just run every protein in existence. And then release that. Why didn't someone suggest this before? Of course that's what we should do. Why are we thinking about making a service and then people submit their protein? We just fold everything. <i>And then give it to</i> <i>everyone in the world.</i> <i>Who knows how many discoveries</i> <i>will be made from that?</i> BIRNEY: <i>Demis called us up</i> <i>and said,</i> <i>"We want to make this open.</i> "Not just make sure the code is open, "but we're gonna make it really easy <i>"for everybody to get access</i> <i>to the predictions."</i> THORNTON: <i>That is fantastic.</i> <i>It's like drawing back</i> <i>the curtain</i> <i>and seeing the whole world</i> <i>of protein structures.</i> (ETHEREAL MUSIC PLAYING) SCHMIDT: <i>They released the structures</i> <i>of 200 million proteins.</i> <i>These are gifts to humanity.</i>
我们就把世界上存在的每一个蛋白质都跑一遍。然后把结果公开发布。为什么之前没人提这个？我们当然就该这么做。我们干嘛还在想着做一个服务，让大家自己提交蛋白质？我们把所有东西都折叠了。<i>然后把它交给</i> <i>全世界所有人。</i> <i>谁知道会从中</i> <i>诞生出多少发现？</i>BIRNEY：<i>Demis 打电话给我们说：</i> <i>“我们想把它开放出去。</i> “不只是把代码开源，“而是要让所有人都能<i>非常方便地</i> <i>获取这些预测结果。”</i> THORNTON：<i>那太棒了。</i><i>就像拉开帷幕，</i> <i>看见整个蛋白质结构的世界。</i>（空灵的音乐响起）SCHMIDT：<i>他们发布了</i> <i>两亿个蛋白质的结构。</i> <i>这是献给人类的礼物。</i>
76:07
JUMPER: <i>The moment AlphaFold</i> <i>is live to the world,</i> <i>we will no longer be</i> <i>the most important people</i> <i>in AlphaFold's story.</i> HASSABIS: <i>Can't quite believe</i> <i>it's all out.</i> PEOPLE: <i>Aw!</i> WOMAN: <i>A hundred</i> <i>and sixty-four users.</i> HASSABIS: <i>Loads of activity in Japan.</i> RESEARCHER 1: <i>We have 655 users currently.</i> RESEARCHER 2: <i>We currently</i> <i>have 100,000 concurrent users.</i> <i>Wow!</i> <i>Today is just crazy.</i> HASSABIS: <i>What an absolutely</i> <i>unbelievable effort</i> <i>from everyone.</i> <i>We're gonna all remember</i> <i>these moments</i> <i>for the rest of our lives.</i> I'm excited about AlphaFold.
JUMPER：<i>AlphaFold 向世界开放的那一刻，</i> <i>我们就不再是</i><i>AlphaFold 故事里最重要的人了。</i> HASSABIS：<i>真不敢相信</i> <i>全都发布出去了。</i> 众人：<i>哇！</i> 女：<i>一百六十四位用户。</i>HASSABIS：<i>日本那边活跃度很高。</i> 研究员1：<i>我们现在有 655 位用户。</i> 研究员2：<i>我们现在有十万人同时在线。</i><i>哇！</i><i>今天简直疯了。</i> HASSABIS：<i>每个人都付出了</i> <i>难以置信的努力。</i><i>这些时刻，我们所有人</i> <i>都会记一辈子。</i> 我对 AlphaFold 感到兴奋。
76:41
For my research, it's already propelling lots of progress. <i>And this is</i> <i>just the beginning.</i> SCHMIDT: <i>My guess is,</i> <i>every single biological</i> <i>and chemistry achievement</i> will be related to AlphaFold in some way. (TRIUMPHANT INSTRUMENTAL MUSIC PLAYING)
对我的研究来说，它已经在推动大量进展了。<i>而这才只是个开始。</i> SCHMIDT：<i>我猜，今后每一项</i> <i>生物学和化学上的成就，</i>都会以某种方式和 AlphaFold 有关。（激昂的器乐响起）
77:13
<i>AlphaFold is an index moment.</i> <i>It's a moment</i> <i>that people will not forget</i> <i>because the world changed.</i>
<i>AlphaFold 是一个标志性的时刻。</i> <i>人们不会忘记这一刻，</i> <i>因为世界从此改变了。</i>
77:39
HASSABIS: <i>Everybody's realized now</i> <i>what Shane and I have known</i> <i>for more than 20 years,</i> <i>that AI is going to be</i> <i>the most important thing</i> <i>humanity's ever gonna invent.</i> TRAIN ANNOUNCER: <i>We will shortly be arriving</i> <i>at our final destination.</i> (ELECTRONIC MUSIC PLAYING)
HASSABIS：<i>现在所有人都意识到了</i> <i>Shane 和我二十多年前就明白的事：</i> <i>AI 将会是</i> <i>人类有史以来</i><i>最重要的发明。</i> 列车广播：<i>我们即将抵达</i> <i>本次列车的终点站。</i>(电子音乐响起)
78:02
HASSABIS: <i>The pace of</i> <i>innovation and capabilities</i> <i>is accelerating,</i> <i>like a boulder rolling down</i> <i>a hill that we've kicked off</i> <i>and now it's continuing</i> <i>to gather speed.</i> NEWSCASTER: <i>We are at</i> <i>a crossroads in human history.</i> <i>AI has the potential</i> <i>to transform our lives</i> <i>in every aspect.</i> <i>It's no less important than</i> <i>the discovery of electricity.</i> HASSABIS: <i>We should be looking</i> <i>at the scientific method</i> <i>and trying to understand</i> <i>each step of the way</i> <i>in a rigorous way.</i> <i>This is a moment</i> <i>of profound opportunity.</i> SUNAK: <i>Harnessing this technology</i> <i>could eclipse anything</i> <i>we have ever known.</i> (ELECTRONIC DEVICE BEEPS) HASSABIS: Hi, Alpha.
哈萨比斯：<i>创新和能力的发展速度</i> <i>正在不断加快，</i> <i>就像我们推下山的一块巨石，</i><i>现在它还在越滚越快。</i> 新闻主播：<i>我们正处在</i> <i>人类历史的十字路口。</i><i>AI 有可能</i> <i>彻底改变我们生活的</i> <i>方方面面。</i> <i>它的重要性</i> <i>不亚于电的发现。</i>哈萨比斯：<i>我们应该秉持</i> <i>科学方法，</i> <i>试着严谨地理解</i> <i>这条路上的每一步。</i><i>这是一个</i> <i>意义深远的机遇时刻。</i> 苏纳克：<i>驾驭这项技术</i><i>所带来的影响，可能超越</i> <i>我们已知的一切。</i>(电子设备发出提示音) 哈萨比斯：你好，Alpha。
78:44
ALPHA: <i>Hi.</i> What is this? ALPHA: <i>This is a chessboard.</i> If I was to play white, what move would you recommend? ALPHA: <i>I would recommend</i> <i>that you move your pawn</i> <i>from E2 to E4.</i> And now if you were black, what would you play now? ALPHA: <i>I would play</i> <i>the Sicilian Defense.</i> Good choice. -ALPHA: <i>Thanks.</i> -(CHUCKLES) So what do you see? What is this object? ALPHA: <i>This is a pencil sculpture.</i> What happens if I move one of the pencils? ALPHA: <i>If you move</i> <i>one of the pencils,</i> <i>the sculpture will fall apart.</i> I'd better leave it alone, then.
Alpha：<i>你好。</i> 这是什么？Alpha：<i>这是一副国际象棋棋盘。</i> 如果我执白，你建议我走哪一步？Alpha：<i>我建议你把兵</i> <i>从 E2 走到 E4。</i>那如果你执黑，你现在会怎么走？Alpha：<i>我会走西西里防御。</i> 好选择。-Alpha：<i>谢谢。</i> -(轻笑)那你看到了什么？这是个什么东西？Alpha：<i>这是一件铅笔雕塑。</i>如果我移动其中一支铅笔会怎么样？Alpha：<i>如果你移动</i> <i>其中一支铅笔，</i> <i>这件雕塑就会散架。</i> 那我还是别碰它了。
79:44
<i>-That's probably a good idea.</i> -(HASSABIS CHUCKLES) HASSABIS: <i>AGI is on the horizon now.</i> <i>Very clearly</i> <i>the next generation</i> <i>is going to live</i> <i>in a future world</i> <i>where things will be radically</i> <i>different because of AI.</i> <i>And if you want to steward</i> <i>that responsibly,</i> <i>every moment is vital.</i> <i>This is the moment I've been</i> <i>living my whole life for.</i>
<i>-这大概是个好主意。</i> -(哈萨比斯轻笑)哈萨比斯：<i>AGI 已经近在眼前了。</i> <i>非常明显，</i> <i>下一代人将会生活在</i> <i>一个因为 AI 而</i><i>变得截然不同的</i> <i>未来世界里。</i> <i>如果你想负责任地</i> <i>引导这一切，</i><i>每一刻都至关重要。</i> <i>这就是我一辈子</i> <i>都在等待的时刻。</i>
80:19
It's just a good thinking game. (UPLIFTING INSTRUMENTAL MUSIC PLAYING)
它就是一个很好的思维游戏。(振奋人心的器乐响起)
视频总结 · 一句话概括与核心要点
一句话概括
这部纪录片跟随 DeepMind 联合创始人 Demis Hassabis 从童年国际象棋神童、Bullfrog 游戏程序员、剑桥学生，一路到用 AlphaGo、AlphaZero、AlphaStar 攻克游戏，最终以 AlphaFold 破解半个世纪未解的蛋白质折叠难题——展现一个把"解决智能本身"当作毕生目标的人，如何在通往 AGI 的路上顺手改写了生物学，同时被"该不该造、造得多快"的伦理焦虑持续追问。
核心要点
- "用游戏做训练场"是一条被严格设计的技术路线，而非玩票。DeepMind 首个突破是把 Q-learning（最古老的强化学习方法之一）与深度学习首次大规模结合成 DQN：智能体只看像素和分数，不被告知规则。*Pong* 一度完全失败到 Hassabis 对 Legg 说"也许我们连 Pong 都做不出来"，得分出现后三个月内无人能赢；*Breakout* 打到 100 局还接不住球，300 局达到人类顶尖水平，再放 200 局后自己发现了"在墙侧挖隧道把球送到墙后"的最优策略。同一套算法推广到约 50 款 Atari 游戏。
- AlphaGo 的"第 37 手"是机器产出人类未曾积累的知识的实证。围棋被视为 AI 的圣杯（可能棋局数多于宇宙原子数）。AlphaGo 先模仿 10 万局业余高手棋谱，再通过数百万次自我对弈的强化学习提升。David Silver 事后查系统内部数据：AlphaGo 自己估算人类下出第 37 手的概率是万分之一——一个被研究了数千年的游戏里的全新发现。
- AlphaZero 抽掉了全部人类知识，并把训练时间压到一天之内。"Zero"指回路中零人类知识，靠自我对弈成为自己的老师，可泛化到任何双人完全信息博弈。Hassabis 的描述极具体：早上从完全随机开局，下午茶时间已超人类，晚饭时成为史上最强棋类实体——而 AlphaGo 曾需要数月训练。
- AlphaGo 是中国的"斯普特尼克时刻"，且政治反应是实时可见的。Eric Schmidt 回忆，柯洁对局第一局进行到一半、世界第一落后时，中国政府下令切断直播信号。他把这类比为 1950 年代苏联卫星刺激美国科研投入，认为 AlphaGo 直接点燃了 AI 军备竞赛。Hassabis 的评论是："别人登过月之后，再登月就容易了"——所以"谁来造 AI、怎么造"变得至关重要。
- AlphaFold 的第一次尝试其实是失败的，这一点被完整呈现。CASP13 中 AlphaFold 在最难类别的 43 个蛋白中拿下 25 个、比第二名高出近 50%，却仍不可用：Paul Nurse 和 Janet Thornton 都明确表示预测质量不足以支撑真实生物学研究。John Jumper 的总结是"我们成了一个全世界都做不好的问题上的最好"、"要登月的话，拥有最高的梯子并没有用"。团队内部一度认为这是徒劳之举，Hassabis 也自问是否押错了时机——他给出的教训是"雄心是好事，但时机要对；领先时代 50 年不算成功，你会在成果出现前先死掉"。
- 蛋白质折叠的核心难点是数据稀缺，与棋类恰好相反。下棋可以自我对弈生成无限数据；蛋白质结构则来自半个世纪费时的实验方法，单个结构可能耗时数月数年，有些永远测不出来。第二次冲刺（CASP14）的关键转向是引入领域知识：组建"strike team"、重写整个数据管线、加入侧链（side-chains）建模，速度从 CASP13 时折叠一个蛋白需一两天，提升到每秒数十万个。评分标准上，超过 90 分才算解决问题。
- CASP14 期间正值英国封城，团队顺手处理了新冠蛋白。Kathryn Tunyasuvunakool 在家中与做机器人行走研究的丈夫分屋办公，团队在单个靶标上投入了史上最多时间——SARS-CoV-2 的 Orf8 蛋白（抑制免疫系统的主要蛋白之一）。结果由 CASP 组织者 John Moult 亲自邮件确认，Jumper 在团队线上聚会中念了这封邮件；Moult 本人称此前认为这问题在他有生之年解决不了。
- "折叠所有已知蛋白并全部免费公开"是会议桌上临时冒出的决定。Jumper 说一个月内可以预测所有已知序列（十亿、二十亿量级），Hassabis 当场追问"那我们为什么不直接全做了？为什么还要做成一个让人提交蛋白的服务？"——最终释出约 2 亿个蛋白结构。上线当天并发用户从 164 涨到 10 万。Schmidt 称之为"给人类的礼物"，并预测未来几乎每项生物与化学成就都会与 AlphaFold 有关。
- 伦理立场被反复表述，并有具体承诺与反面参照。收购时 Google 承诺 DeepMind 技术不用于军事和监控；Hassabis 明确反对自主武器。他把 Oppenheimer 作为反面教材：曼哈顿计划的领导者们"陷入了建造技术、验证可行性的兴奋中，没有足够早地认真思考道德问题"。他直言"move fast and break things"正是不该做的事——因为有些东西打碎了没法事后修。David Silver 补充了游戏研究者的盲区："你不能看着火药只想做鞭炮"。
- 紧迫感来自寿命而非市场。被收购时投资人并不想卖，且 Hassabis 承认公司被低估、再等等能卖更多钱——他的理由是"没有时间可浪费"："你愿意用多少个十亿去换多五年的生命，好把你想做的事做完？"Shane Legg 则说他从不担心 AGI 太遥远，只担心它来得比人类的准备速度更快；他估计 AGI 还需约十几项重大突破，Hassabis 希望在有生之年看到。
结论与值得注意的细节
贯穿全片的隐喻是"思考游戏"本身。 12 岁在列支敦士登的十小时对局中，Hassabis 因过度疲劳误判局面而在一个本可弃后成和棋的位置认输——对手大笑着当场演示了和棋着法。那一刻他环顾满场三百名棋手想的是："如果能把这三百个大脑接进一个系统，也许能解决癌症。"这直接推动他放弃职业棋手道路。影片结尾回到童年采访中那句"它就是个很好的思考游戏"，形成闭环。
几处具体的人生分岔值得注意：Peter Molyneux 曾出价 100 万英镑劝他别去上大学（1990 年代、对一个 17 岁贫困家庭的孩子而言是巨款），他拒绝并去了剑桥；在 Bullfrog 他因年龄太小无法合法雇佣，工资装在牛皮纸信封里发放；他为 *Theme Park* 写的是游客自主行为的 AI——把小吃店放在惊险项目旁，游客会呕吐，看到呕吐物的人会连锁呕吐，于是需要清洁工赶在被看到之前清理。蛋白质折叠的种子也来自剑桥室友 Tim Stevens 近乎"宗教式"的反复念叨。
几处坦率的自我怀疑与反常识判断：DeepMind 头两年完全隐身，候选人面试前给妻子发定位以防被绑架；早期融资极难，Legg 说他们需要的不是理性投资人，而是"单纯觉得这事很酷"的人；Thiel 坚持公司必须在硅谷，Hassabis 坚持留在伦敦，理由是硅谷"每年创业、不行就扔掉重来"的文化不适合长周期研究。Legg 最耐人寻味的一句是心态的反转：起初想的是造出智能系统并说服世界"我们做到了"；现在则是"我们可能会造出自己都不确定是否真正智能的系统，然后要去说服世界它们还不是"。
AlphaStar 段落保留了一次公开失败：直播表演赛中 AlphaStar 输给了职业选手 MaNa，Hassabis 的反应是"这是我们真实水平的公允体现，这样感觉还行"——与 Stuart Russell 那句"如果收到邮件说更高级的外星文明即将抵达地球，所有政府都会召开紧急会议"形成对照，构成全片对速度与审慎的张力。
核心句型 · 9
1. There's no point (in) doing …
“There's no point being 50 years ahead of your time.”
表示"做某事没有意义"，后接动名词。用于否定某种努力的价值时非常地道。仿写：There's no point optimizing a metric nobody uses.
2. It doesn't help if … when …
“It doesn't help if you have the tallest ladder when you're going to the moon.”
用"条件+场景错配"制造反讽：局部最优在错误尺度上毫无用处。适合表达"方向不对，努力白费"。
3. You can't … and only …
“You can't look at gunpowder and only make a firecracker.”
以"不可能只取其一"结构指出技术的双重用途。适合论证某事物的后果不可被单方面截取。
4. It's always easier to … if someone's already …
“It's always easier to land on the moon if someone's already landed there.”
比较级 + 前提从句，说明"可行性被证明后追赶成本骤降"。适合谈技术扩散、先发与追随。
5. …, let alone …
“I don't understand how anyone can even click 800 times, let alone doing 800 useful clicks.”
递进否定：前一件已难，后一件更不可能。注意 let alone 后通常保持与前文平行的形式。
6. One of the things that keeps me up at night is …
“One of the things that keeps me up at night is to not waste this opportunity”
英语中表达"最挂心的事"的高频习语框架，比 I worry about 更有画面感，适合演讲开场或访谈自述。
7. What we'd found is (that) we were … at a problem …
“What we'd found is we were the best in the world at a problem the world's not good at”
用 What-分裂句突出发现，并靠后置定语制造反转。适合表述"看似成功、实则无用"的自嘲式论断。
8. It's like asking a … to imagine what … does
“It's like asking a gorilla to imagine, you know, what Einstein does when he produces the theory of relativity.”
用跨物种类比说明能力鸿沟不可想象。仿写时保持"低阶主体 + 高阶行为"的对照即可。
9. You can't afford to … and then … afterwards
“You can't afford to break things and then fix them afterwards”
can't afford to 表示"代价太高而不能"。此句用时间副词 afterwards 点出"不可逆"，适合风险论证。
词汇精讲 · 150 · 按出现顺序
breakneck speed
phr.
1:34
极快的速度，快到危险的程度；常与 at 连用
all the rage
phr.
1:34
风靡一时，人人都在谈论的热门事物
shake out
/ʃeɪk aʊt/
phr. v.
1:34
（局势）最终尘埃落定、演变出结果
restless
/ˈrestləs/
adj.
1:53
闲不下来的；躁动不安的
embarked on
/ɪmˈbɑːrkt ɑːn/
phr. v.
1:53
着手、踏上（某段旅程或事业）
advent
/ˈædvent/
n.
1:53
（重要事物的）出现、来临；the advent of ...
on the cusp of
/ɒn ðə kʌsp ʌv/
phr.
2:45
处在……的临界点上、即将发生
set my heart on
phr.
2:45
下定决心要做某事；一心想要
end game
/end ɡeɪm/
n.
3:32
最终目标、终局；源自棋类术语"残局"
popped up
/pɑːpt ʌp/
phr. v.
3:32
（名字、念头）突然冒出来、浮现
academia
/ˌækəˈdiːmiə/
n.
4:37
学术界，学界
pull this off
phr. v.
5:06
成功办成（难度很大的事）
pitching
/ˈpɪtʃɪŋ/
v.
5:06
向投资人推介、路演
prosaic
/proʊˈzeɪɪk/
adj.
5:50
平淡无奇的、乏味世俗的
build-up
/ˈbɪld ʌp/
n.
5:50
层层铺垫、渲染前情
adamant
/ˈædəmənt/
adj.
6:44
坚决不让步的；be adamant that/about
chuck it
/tʃʌk ɪt/
phr. v.
6:44
（口语）扔掉、放弃不要
conducive to
/kənˈduːsɪv tuː/
adj. phr.
7:09
有利于、有助于（某种结果）
outlier
/ˈaʊtlaɪər/
n.
7:09
异类、离群值；此处指不合常规的项目
keeps me up at night
phr.
7:40
让我夜里睡不着；指持续挂心的事
stealth mode
/stelθ moʊd/
n. phr.
8:08
（创业公司）隐身模式，不公开信息的阶段
scam
/skæm/
n.
8:08
骗局，诈骗
training ground
n. phr.
9:05
训练场；比喻磨练能力的场合
cartridge
/ˈkɑːrtrɪdʒ/
n.
9:05
（游戏）卡带；也指墨盒、弹药筒
at scale
phr.
9:40
大规模地；技术语境常用
thesis
/ˈθiːsɪs/
n.
9:40
论点、主张（此处非"论文"义）
first principles
n. phr.
10:12
第一性原理，从最基本前提出发推导
nerve-racking
/ˈnɜːrv rækɪŋ/
adj.
10:28
令人揪心的、极度紧张的
paddle
/ˈpædl/
n.
10:28
（游戏中的）挡板；也指船桨
end-to-end
adj.
11:05
端到端的；从原始输入直接到最终输出
get the hang of
phr.
11:27
摸到窍门、掌握做某事的诀窍
optimal
/ˈɑːptɪməl/
adj.
11:27
最优的（数学/工程用词）
from scratch
phr.
11:51
从零开始，白手起家
recipe
/ˈresəpi/
n.
11:51
配方；此处比喻可复用的方法论
parachuted into
/ˈpærəʃuːtɪd/
v. phr.
12:22
被空投进（某个陌生处境）
come to fruition
/fruˈɪʃn/
phr.
12:52
（计划、研究）开花结果、实现
breathing down their necks
phr.
12:52
紧盯不放、在背后施压催逼
acquisition
/ˌækwɪˈzɪʃn/
n.
13:37
收购；也指（能力的）获得
underselling
/ˌʌndərˈselɪŋ/
v.
14:17
低价出售；低估自身价值
in gear
phr.
14:17
运转正常、处于工作状态
pinnacle
/ˈpɪnəkl/
n.
14:40
顶峰、巅峰
devised
/dɪˈvaɪzd/
v.
14:40
设计出、想出（方法、方案）
holy grail
/ˌhoʊli ˈɡreɪl/
n. phr.
14:40
圣杯；比喻人人追求却难得的终极目标
falls over
phr. v.
14:40
（系统、方法）垮掉、失效
litmus test
/ˈlɪtməs test/
n. phr.
15:22
石蕊试验；比喻决定性的判定标准
getting ready to rumble
phr.
15:50
准备大干一场（源自拳击赛口号）
make a good showing
phr.
16:25
表现得像模像样、打得不难看
mimic
/ˈmɪmɪk/
v.
16:25
模仿、仿效
unanimously
/juˈnænɪməsli/
adv.
17:34
一致地、全体无异议地
had a poke around
phr.
17:34
（在内部）翻查、四处看看
resigned
/rɪˈzaɪnd/
v.
18:08
（棋类）认输；日常义为辞职
wakeup call
n. phr.
19:32
警钟、当头一棒式的警示
stripped out
/strɪpt aʊt/
phr. v.
20:41
剥离、彻底去除
perfect information game
n. phr.
21:20
完全信息博弈；双方可见全部局面（如围棋、国象）
in my wildest dreams
phr.
21:46
做梦也想不到；常与否定连用
take on
phr. v.
21:46
应对、迎战（对手或挑战）
the cream of
phr.
22:31
……中的精英、佼佼者
aptitude
/ˈæptɪtuːd/
n.
23:05
天赋、资质；show an aptitude for
bohemian
/boʊˈhiːmiən/
adj.
23:05
波希米亚式的；不循常规、艺术家气质的
high stakes
/haɪ steɪks/
n. phr.
24:10
高风险、赌注很大的处境
draw
/drɔː/
n.
25:19
（棋类、球类）和局、平局
stalemate
/ˈsteɪlmeɪt/
n.
25:42
（国际象棋）逼和；引申为僵局
checkmated
/ˈtʃekmeɪtɪd/
v.
25:42
被将死；引申为彻底被击败
with a flourish
/ˈflɜːrɪʃ/
phr.
25:56
动作夸张而炫耀地
sick to my stomach
phr.
25:56
（因懊悔、恶心）难受得想吐
cognitive breadth
/ˈkɑːɡnətɪv bredθ/
n. phr.
26:51
认知广度；能力覆盖的问题种类之广
novel problems
/ˈnɑːvl/
n. phr.
26:51
新颖的、前所未见的问题（novel 此处为形容词）
incorporate
/ɪnˈkɔːrpəreɪt/
v.
28:03
把……纳入、融合进（体系或设计）
center of gravity
n. phr.
28:30
重心（物理术语）
optimize for
/ˈɑːptɪmaɪz/
v. phr.
28:30
为……做优化；工程与管理语境常用
terrain
/təˈreɪn/
n.
29:07
地形、地势
velocity
/vəˈlɑːsəti/
n.
29:46
速度（带方向的物理量）
joints
/dʒɔɪnts/
n.
29:46
关节（机器人或人体）
manipulate
/məˈnɪpjuleɪt/
v.
30:29
操控、操纵（物体或人）
alarming
/əˈlɑːrmɪŋ/
adj.
31:31
令人警觉的、使人不安的
putting ourselves on the line
phr.
32:41
把自己摆上台面、冒声誉风险
digest
/daɪˈdʒest/
v.
32:41
消化（信息、经历）；此处非"消化食物"义
relentless
/rɪˈlentləs/
adj.
34:03
不留情面的、持续不断的
let alone
phr.
34:03
更不用说；用于递进否定
militaristic
/ˌmɪlətəˈrɪstɪk/
adj.
34:03
军国主义的、军事化的
gunpowder
/ˈɡʌnpaʊdər/
n.
34:03
火药
surveillance
/sərˈveɪləns/
n.
34:37
监控、监视
comprehend
/ˌkɑːmprɪˈhend/
v.
34:37
（充分）理解、领会
autonomous weaponry
/ɔːˈtɑːnəməs ˈwepənri/
n. phr.
36:12
自主武器（无需人类介入即可决定攻击）
unleashing
/ʌnˈliːʃɪŋ/
v.
36:12
释放（力量、后果）；常含失控意味
got caught up in
phr.
36:47
沉浸于、被卷入（某种情绪或热潮）
move fast and break things
phr.
37:29
"快速行动，打破一切"，硅谷开发信条
can't afford to
phr.
37:29
承受不起、代价太大而不能做某事
winnings
/ˈwɪnɪŋz/
n.
38:01
（比赛、赌博）赢得的奖金；恒用复数
flicking through
/ˈflɪkɪŋ/
phr. v.
38:26
快速翻阅（书报杂志）
gap year
n. phr.
39:35
间隔年；升学前空出的一年
cutting edge
n. phr.
39:35
最前沿；at the cutting edge of
genres
/ˈʒɑːnrəz/
n.
40:03
（作品的）类型、门类
tinker with
/ˈtɪŋkər/
phr. v.
40:54
摆弄、小修小改地折腾
nuanced
/ˈnuːɑːnst/
adj.
40:54
细致入微的、有微妙层次的
elfin
/ˈelfɪn/
adj.
42:22
精灵般的；瘦小而灵秀的
raid
/reɪd/
v.
43:51
突袭、洗劫；此处戏称去外地棋社赢奖金
supervisions
/ˌsuːpərˈvɪʒnz/
n.
44:29
（剑桥特有）小班导修课
intertwined
/ˌɪntərˈtwaɪnd/
v./adj.
44:29
交织、缠绕在一起
outwit
/ˌaʊtˈwɪt/
v.
44:56
以智取胜、智胜过（某人）
watershed
/ˈwɔːtərʃed/
n.
44:56
分水岭；标志转折的重大事件
on an equal footing
phr.
44:56
平起平坐地、在同等条件下
brute
/bruːt/
n.
44:56
蛮力庞然大物；此处贬指只靠算力的机器
amino acids
/əˈmiːnoʊ ˈæsɪdz/
n. phr.
46:16
氨基酸；蛋白质的基本组成单位
sequences
/ˈsiːkwənsɪz/
n.
46:16
序列（此处指氨基酸排列顺序）
dementia
/dɪˈmenʃə/
n.
47:50
痴呆症
crack it
phr. v.
47:50
攻克、破解（难题）
proving ground
n. phr.
48:42
试验场；检验方法是否可行的场所
artfully
/ˈɑːrtfəli/
adv.
48:42
技巧娴熟地；此处指巧妙地回避
painstaking
/ˈpeɪnzteɪkɪŋ/
adj.
50:00
极其费力细致的、一丝不苟的
exploitation
/ˌeksplɔɪˈteɪʃn/
n.
51:19
（强化学习术语）利用；与 exploration 探索相对
gold standard
n. phr.
51:49
黄金标准；用作最高参照的基准
winners' bracket
/ˈbrækɪt/
n. phr.
52:47
（双败赛制中的）胜者组对阵表
in the blink of an eye
phr.
53:48
一眨眼之间、瞬间
naive
/naɪˈiːv/
adj.
53:48
天真的、想得过于简单的
deployed
/dɪˈplɔɪd/
v.
54:14
部署、投入使用（系统或资源）
unfettered
/ʌnˈfetərd/
adj.
54:52
不受束缚的、无拘无束的
accolades
/ˈækəleɪdz/
n.
55:37
荣誉、褒奖
state of the art
n./adj. phr.
56:02
当前最高技术水平（的）
debrief
/ˌdiːˈbriːf/
n./v.
56:48
复盘、任务后汇报
humbling
/ˈhʌmblɪŋ/
adj.
57:16
令人清醒、使人认清自身局限的
fool's errand
/fuːlz ˈerənd/
n. phr.
57:16
白费功夫的差事、注定徒劳之事
at the forefront of
/ˈfɔːrfrʌnt/
phr.
58:09
处在……的最前沿
endeavor
/ɪnˈdevər/
n.
58:09
（艰苦而长期的）努力、事业
superintelligent
/ˌsuːpərɪnˈtelɪdʒənt/
adj.
59:39
超级智能的；能力全面超越人类的
pre-programmed
adj.
60:53
预先编程写入的
reinvent
/ˌriːɪnˈvent/
v.
63:24
彻底重塑、重新发明
endow
/ɪnˈdaʊ/
v.
65:01
赋予（某种品质）；endow A with B
vulnerability
/ˌvʌlnərəˈbɪləti/
n.
65:01
弱点、易受伤害之处
displacement
/dɪsˈpleɪsmənt/
n.
65:24
（劳动力的）被取代、流离失所
tremendous
/trəˈmendəs/
adj.
65:24
巨大的、惊人的
disinformation
/ˌdɪsɪnfərˈmeɪʃn/
n.
66:02
（蓄意散布的）虚假信息
coordination
/koʊˌɔːrdɪˈneɪʃn/
n.
66:02
协调、统筹配合
go into overdrive
/ˈoʊvərdraɪv/
phr.
66:30
开足马力、全力运转
double down
phr. v.
67:14
加倍投入、全力加码
strike team
n. phr.
67:41
攻坚小队、突击组
domain knowledge
/doʊˈmeɪn/
n. phr.
67:41
领域知识；某专业内的专门知识
systematically
/ˌsɪstəˈmætɪkli/
adv.
68:55
系统性地；此处指偏差有规律而非随机
orders of magnitude
/ˈmæɡnɪtuːd/
n. phr.
69:47
数量级；相差十倍为一个数量级
come into perspective
/pərˈspektɪv/
phr.
70:15
（事情）看清全貌、被摆到正确位置上
drastic
/ˈdræstɪk/
adj.
70:47
激烈的、极端严厉的（措施）
in living memory
phr.
70:47
在人们记忆所及的年代里
dampens
/ˈdæmpənz/
v.
71:16
抑制、削弱（反应或情绪）
gobsmacked
/ˈɡɑːbsmækt/
adj.
74:19
（英式口语）惊得目瞪口呆
drawing back the curtain
phr.
75:14
拉开帷幕；比喻让隐藏之物一览无余
boulder
/ˈboʊldər/
n.
78:02
巨石、大圆石
harnessing
/ˈhɑːrnəsɪŋ/
v.
78:02
驾驭、利用（力量或技术）
eclipse
/ɪˈklɪps/
v.
78:02
使黯然失色、超越
on the horizon
phr.
79:44
即将出现、已现端倪
steward
/ˈstuːərd/
v.
79:44
负责任地管理、引导（资源或进程）
理解自测 · 11 题
1. AlphaGo 与 AlphaZero 在训练方式上的根本差别是什么？
AlphaGo 是两阶段训练：先用约十万盘业余高手棋谱做监督学习模仿人类，再通过自我对弈的强化学习提升；AlphaZero 则完全剥离人类棋谱，只保留规则，从随机走子开始自我对弈，成为"自己的老师"。片中西尔弗明确说新算法"stripped out all of the human knowledge"。效率差别极大：AlphaGo 训练需要数月，AlphaZero 早上开始、下午茶时达到超人水平、晚饭时成为史上最强国象实体。这说明人类先验知识在某些任务上是负担而非助力。
2. AlphaFold 在 CASP13 上取得了什么成绩？为什么团队仍认为自己失败了？
CASP13（2018）AlphaFold 夺得第一，在最难类别的 43 个蛋白质中有 25 个预测最准，总分领先第二名近 50%。但哈萨比斯当场就声明距离"解决"还很远。真正的判据来自使用者：索恩顿说预测质量参差、并不比旧方法更有用；诺贝尔奖得主保罗·纳斯直言数据不够好，无法用于自己的生物学研究。江珀的总结最尖锐——"我们在一个全世界都做不好的问题上成了世界第一"，并用"去月球时拥有最高的梯子也没用"来形容这种排名与实用之间的落差。
3. 哈萨比斯十二岁在列支敦士登那盘棋上发生了什么？这件事为什么被放在全片中段？
那是一盘下到第十小时的残局，本应是和棋，对手最后使出一个小把戏，他只需送掉后即成逼和；但因极度疲劳误判自己必被将死，于是认输。对手跳起来大笑并演示了那步和棋着法。这段之所以放在中段，是因为它是全片的动机枢纽：他由此追问，一栋楼里三百个顶尖大脑把算力耗在棋盘上是否浪费，并想到"若能把这三百个大脑接进一个系统，也许能攻克癌症"。这正是几十年后 AlphaFold 的原始表述。
4. 为什么围棋被称为人工智能的"圣杯"，而深蓝式的方法在它面前失效？
围棋的合法局面数在 10 的 170 次方量级，远超可观测宇宙的原子数，因此暴力穷举搜索在原理上不可行。深蓝依靠的是高速搜索加人工设计的评估函数，这套方法在国际象棋可行，在围棋会"falls over"。所以围棋考验的不是算力，而是能否形成类似人类直觉的局面评估能力。片中西尔弗因此称它是衡量进展的"litmus test"（试金石）——能不能下围棋，直接对应能不能在巨大搜索空间中做出有效的价值判断。
5. 第 37 手为什么被视为"机器产生新知识"的证据，而不仅仅是下得更好？
围棋被人类研究了两千多年，第 37 手却被职业解说一致判定为没有人类棋手会选。更关键的是西尔弗查看系统内部数据后发现，AlphaGo 自己估算人类下出该手的概率约万分之一——它并非不知道这偏离人类习惯，而是明知偏离仍判断其更优。这意味着系统给出的不是对人类知识的更精确复现，而是人类知识库之外的新解。西尔弗的原话是：一个被研究了几千年的领域，AlphaGo 发现了"something completely new"。
6. 团队从 CASP13 到 CASP14 的方法论转变是什么？这对"通用算法"的信条构成什么修正？
CASP13 时团队把最好的通用算法直接扔向问题，埃文斯承认"我们当时有点天真"。CASP14 的转变有两点：一是明确引入领域知识——哈萨比斯说"we would need to incorporate some domain knowledge"，并招入计算生物学家；二是重写了整个数据流程，以"生物学相关性"为目标而非单纯拟合。这构成对纯通用路线的实质修正：在数据稀缺、结构受物理约束的真实科学问题上，领域先验不是杂质，而是必要的归纳偏置。结果是速度提升数个数量级且精度同时提高。
7. 片中关于"技术是否中立"出现了明确分歧，双方的论据分别是什么？
西尔弗持否定立场："All technologies inherently point into certain directions"，并用"你不可能拿着火药只做出爆竹"作比——技术的能力空间本身有方向性，而开发者的游戏视角会屏蔽掉公众看到的军事含义。哈萨比斯则在访谈中说"技术本身是中性的"，决定善恶的是社会、公司与政府如何使用，同时他补充自己反对自主武器。纪录片没有调和这两种立场，而是并置呈现，这也是它把"谁应该负责"留给观众的方式。
8. 哈萨比斯从 AlphaFold 的挫折中总结的教训是什么？它与常见的"坚持就是胜利"叙事有何不同？
他的结论是：野心是好事，但必须把时机掌握对——"超前时代 50 年是没有意义的"，因为在成果出现之前你根本撑不过那五十年，会"活活累死在半路上"。这与励志叙事的区别在于，他把可行性归因于外部条件的成熟度（算力、数据、算法基础），而非个人意志强度。纳斯的补充给了行业尺度的佐证：前沿科研 80–90% 的时间不奏效。真正的判断力不是敢不敢做，而是能否判断现在是否该做。
9. 团队为什么放弃"用户提交序列、系统排队计算"的服务模式，改为直接公开两亿个结构？这一决定改变了什么？
转折点是江珀的一句话：所有已知序列在一个月内就能全部预测完，规模是十亿到二十亿量级。既然如此，做服务反而是自设瓶颈。哈萨比斯当场反问"为什么之前没人提这个"，随即决定把全部结果直接开放。这把一次算法胜利转化成了公共基础设施：伯尼与索恩顿形容它像"拉开帷幕，看见整个蛋白质结构的世界"，施密特称之为"献给人类的礼物"。江珀自己的判断最准确——AlphaFold 上线那一刻，团队就不再是这个故事里最重要的人。
10. 如果有人反驳：AlphaFold 的成功只证明了 AI 是好用的科学工具，并不能作为 AGI 可行的证据。片中人物会怎样回应？
哈萨比斯的回应路径大致有三层。其一，AlphaFold 从来不是目标本身，而是"通往 AGI 路上顺便造出的革命性技术"，他反复说游戏只是算法的 proving ground，蛋白质是真实世界的第一个验证。其二，方法论是连续的：同一套深度学习加强化学习的思路，从像素、棋盘一路迁移到氨基酸序列，这正是"通用"的证据。但这个反驳仍有力，因为 CASP14 恰恰依赖了引入领域知识——这说明当前系统仍需人类为每个领域做专门适配，与莱格所定义的"能解决从未见过的新问题"之间仍有距离。片中莱格本人也承认判断标准在漂移。
11. 哈萨比斯把 DeepMind 与曼哈顿计划的类比接受了下来，只批评奥本海默"想得太晚"。这个自我定位站得住吗？
他的辩护是程序性的：科学家面对强大新技术，应先在受控条件下理解它，并反对"快速行动、打破一切"，理由是有些破坏不可回滚。片中他也确实拿出了行为证据——收购谷歌时要求技术不用于军事与监控，公开反对自主武器，参与 AI 安全峰会。但类比本身暴露了一个未被回答的问题：奥本海默的困境并非缺乏反思，而是项目一旦启动，个人立场对结果影响有限。莱格随后那句"AGI 一定会来，不管是不是我们做出来"恰恰复现了同一逻辑——竞赛压力使"谨慎"沦为速度的注脚。库基尔要求建立制度、罗素呼吁全球协调，正是因为个人德性不足以承担这一责任。
下载便签
手机：长按图片也可保存
← 上一期 · NO.072Jim Keller: Moore's Law, Microprocessors, and First Principles | Lex Fridman Podcast #70
下一期 · NO.074 →Yuval Noah Harari on the myths we need to survive
订阅苏菲周报
每周一封：本周入库的精读、一个值得带走的问题、一条苏菲按。免费，随时退订。
免费 · 每周一封 · 一键退订
苏菲拉底
THE SOPHIE LAB · ASK THE BEST MINDS THE BIG QUESTIONS
内容仅供学习 · thesophielab.com