苏菲拉底 THE SOPHIE LAB
文库

Jeff Dean: The 1% Rule for Building in AI

当通用模型持续变强,创业者还能在哪里建立持久优势?能耗与数据搬运如何暗中决定 AI 产品的可能性边界? 节目发布 2026-07-30 JJeff Dean 主持人
来源:https://www.youtube.com/watch?v=CxXgV54KzpQ · 内容由苏菲拉底翻译整理,仅供个人学习使用
本期讲者
Jeff DeanGoogle 首席科学家,1999 年加入当时仅 20 人的 Google,是 MapReduce、Bigtable、TensorFlow、TPU 等奠基性系统的核心设计者,现领导 Google DeepMind 的 Gemini 模型研发。
主持人本场大会的访谈主持人,面向约 6000 名创业者与工程师听众,围绕 Jeff Dean 的过往系统与当下 AI 判断展开提问。

这期还没有生成总结。

核心句型 · 8
1. depending on (exactly) your definition of …, it seems …
“Depending on exactly your definition of junior engineer it seems pretty spot-on”
先限定前提再下判断,是回应争议性问题的稳妥句式。适合在结论依赖于概念界定时使用,显得严谨而不武断。仿写:Depending on your definition of success, the project seems on track.
2. Imagine what you could do with something where …
“Imagine what you could do with something where the latency is, you know, 50x better”
用祈使句邀请听者想象一个量化改变后的世界,是展示技术愿景的经典开场。where 引导定语从句描述新条件。适合 pitch 和演讲中激发听众想象。
3. people don't quite realize how … it is to …
“People don't quite realize how possible it is to have agent-based systems that can run … for days or weeks”
指出普遍认知盲区的委婉句式:don't quite realize 比 don't know 语气缓和,how + 形容词 + it is to 结构突出被低估的程度。表达反共识观点时好用。
4. not (necessarily) being anchored on …, but how you would solve it from first principles
“Not necessarily being anchored on exactly how that problem is solved today, but how you would solve it from first principles”
not…but… 对比结构承载方法论:否定现状锚定,肯定第一性原理。anchored on 是形象的认知隐喻。适合论述创新思维方式的场景。
5. The clearer you are on …, the more …
“The clearer you are on what it is you want, the more the agent will have sort of guidelines”
「the 比较级, the 比较级」表示同步递进关系。注意嵌入的 what it is you want 是强调性名词从句(比 what you want 更突出)。可仿写:The earlier you test, the fewer surprises you'll get.
6. look for something where … 0% or 1% of the time, not 20%
“Look for something where the model succeeds 0% or 1% of the time not 20%”
用具体数字对比代替抽象形容词,把「选完全做不到的事」这一反直觉建议说得精确可执行。where 从句限定筛选条件,not + 数字构成简洁的排除。给建议时值得模仿的量化表达。
7. it's good to not take as a given things that most people seem to take as a given
“Sometimes it's good to not take as a given things that most people seem to take as a given”
take … as a given 意为「视为理所当然」;此句宾语后置(take as a given + things that…),并用同一短语前后呼应形成修辞张力。表达质疑常识的立场时非常地道。
8. ask yourself: if … and the best possible outcome happens, will …?
“Ask yourself if I work on this problem and the best possible outcome happens you know will the world be a lot better in some way”
自我拷问式的决策框架句:用最好情形(best possible outcome)做思想实验来检验选题上限。适合写决策类文章或演讲结尾的行动号召。
本期生词 · 112
spot-on /ˌspɑːt ˈɑːn/ adj. 0:50
完全准确的,一语中的的(英式口语色彩,作表语)
decomposition /ˌdiːˌkɑːmpəˈzɪʃən/ n. 1:44
分解,拆解(problem decomposition 问题拆解)
shipped /ʃɪpt/ v. 2:40
上线,发布(科技行业用法:ship in production 推上生产环境)
inference /ˈɪnfərəns/ n. 3:21
推理(ML 术语:模型部署后的运行阶段,与训练相对)
latency /ˈleɪtənsi/ n. 3:21
延迟,时延(系统响应所需时间)
general purpose /ˌdʒenrəl ˈpɜːrpəs/ adj. 3:21
通用的(与 specialized 专用的相对)
inklings /ˈɪŋklɪŋz/ n. 4:27
端倪,模糊的迹象(see inklings of 看到…的苗头)
internalized /ɪnˈtɜːrnəlaɪzd/ v. 4:27
内化,真正消化理解(把认识变成自己思维的一部分)
napkin math phr. 6:00
餐巾纸计算,粗略的量级估算
fleet /fliːt/ n. 6:00
机群,(服务器)集群(原义为舰队)
halved /hævd/ v. 6:39
使减半(halve the error rate 把错误率降低一半)
fiddling with phr. 6:39
摆弄,反复调试(fiddle with the model 调模型)
back of the envelope calculation phr. 6:39
信封背面式估算,粗略推算(与 napkin math 同义)
dictate /ˈdɪkteɪt/ v. 6:39
口述(dictate emails 用语音口述邮件)
at the heart of phr. 7:47
处于…的核心
low precision phr. 7:47
低精度(ML 硬件术语:用更少比特表示数值以换取速度和能效)
interconnect /ˌɪntərkəˈnekt/ n. 8:48
互连(芯片间的高速连接通道)
brought many many chips to bear on phr. 8:48
bring…to bear on:把(资源、力量)投入运用于
consequential /ˌkɑːnsəˈkwenʃəl/ adj. 8:48
影响重大的,举足轻重的
bottlenecks /ˈbɑːtlneks/ n. 9:39
瓶颈
order of magnitude phr. 9:39
数量级(十倍为一个数量级)
squint at /skwɪnt/ phr. 9:39
眯起眼看;引申为换个角度、模糊细节地重新审视问题
anchored on /ˈæŋkərd/ phr. 9:39
被…锚定、束缚(认知科学中的锚定效应)
first principles phr. 9:39
第一性原理(抛开现有方案,从基本事实出发推导)
cache miss phr. 10:25
缓存未命中(数据不在高速缓存中、须访问更慢存储的情形)
disk seek phr. 10:25
磁盘寻道(磁头移动到目标数据位置的操作,毫秒级耗时)
bandwidth /ˈbændwɪdθ/ n. 11:09
带宽(单位时间可传输的数据量)
fall off n./phr. 11:09
衰减,下降幅度(the fall off in network bandwidth 带宽的衰减)
amortize /ˈæmərtaɪz/ v. 12:51
摊销,摊薄(把一次性开销分摊到多次操作上)
batching /ˈbætʃɪŋ/ n. 12:51
批处理(把多个样本打包一起计算以提高硬件效率)
epochs /ˈepəks/ n. 13:51
轮次(ML 术语:完整过一遍训练数据集为一个 epoch)
lossy /ˈlɔːsi/ adj. 15:02
有损的(lossy compression 有损压缩,与 lossless 无损相对)
analogy /əˈnælədʒi/ n. 15:02
类比(a core analogy 一个核心类比)
retrieval /rɪˈtriːvəl/ n. 16:07
检索(RAG 中的 R,即从外部知识库取回相关信息)
consolidated /kənˈsɑːlɪdeɪtɪd/ v. 16:07
整合,归并(get consolidated into 被整合为)
stirred together into a soup phr. 16:42
搅成一锅汤(比喻信息混杂交融、无法分辨来源)
orchestration /ˌɔːrkɪˈstreɪʃən/ n. 17:47
编排,协调调度(原指管弦乐配器,引申为对多组件系统的统筹)
decompose /ˌdiːkəmˈpoʊz/ v. 17:47
分解,拆解(decompose a problem into… 把问题拆成…)
harnesses /ˈhɑːrnɪsɪz/ n. 18:50
(智能体的)运行脚手架、驾驭框架(原义为马具,AI 行业指包裹模型的执行环境)
microbenchmark /ˌmaɪkroʊˈbentʃmɑːrk/ n. 19:46
微基准测试(测量单个小操作性能的测试)
populate /ˈpɑːpjuleɪt/ v. 19:46
填充(populate a data structure 向数据结构填入数据)
cache footprint phr. 20:48
缓存占用(程序运行时占用高速缓存的量)
iterate /ˈɪtəreɪt/ v. 20:48
迭代,反复改进(iterate on that 在此基础上不断迭代)
go off the rail phr. 22:01
(原为 go off the rails)脱轨,失控跑偏
shaky /ˈʃeɪki/ adj. 22:01
不稳的,摇摇欲坠的(gets shaky 开始不稳)
compound /kəmˈpaʊnd/ v. 22:01
(误差、利息)复利式累积放大(errors that compound 不断累积的误差)
openloop /ˈoʊpən luːp/ adj. 22:01
(open-loop)开环的(控制论术语:无反馈校正的系统)
off the distribution phr. 22:41
偏离(训练数据的)分布(ML 术语,即 out-of-distribution)
degrade /dɪˈɡreɪd/ v. 22:41
退化,性能下降
plausible /ˈplɔːzəbl/ adj. 23:43
貌似可行的,说得通的(plausible ways 可能可行的路径)
discard /dɪˈskɑːrd/ v. 23:43
丢弃,舍弃
proprietary /prəˈpraɪəteri/ adj. 24:30
专有的,私有的(proprietary system 公司内部专有系统)
tooling /ˈtuːlɪŋ/ n. 24:30
工具链,成套工具(internal tooling 内部工具)
compounding /kəmˈpaʊndɪŋ/ v. 25:37
复利式积累,不断叠加增强
surface /ˈsɜːrfɪs/ n. 25:37
(产品的)交互界面、承载面(行业用法:product surface)
delightful /dɪˈlaɪtfl/ adj. 25:37
令人愉悦的(硅谷产品话语:delightful product 体验极佳的产品)
caution /ˈkɔːʃən/ v. 26:49
告诫,提醒注意(I would caution that… 我要提醒的是…)
durable /ˈdʊrəbl/ adj. 26:49
持久的,经得起时间考验的(a durable thing 能长期站得住的事)
at the forefront phr. 26:49
处于最前沿(models at the forefront 前沿模型)
weigh /weɪ/ v. 26:49
权衡,掂量(weigh that 权衡这一点)
niche /nɪtʃ/ adj./n. 29:04
小众的(细分市场);a niche model 小众专用模型
building block phr. 29:04
构建模块,基础组件
protein folding phr. 30:04
蛋白质折叠(由氨基酸序列预测三维结构的生物学难题)
crisp /krɪsp/ adj. 31:07
清晰利落的(crisp design docs 简明清晰的设计文档)
specs /speks/ n. 31:07
规格说明(specification 的缩写,软件行业常用)
infer /ɪnˈfɜːr/ v. 31:45
推断,推测(infer what it is you meant 推断你的本意)
handing it off phr. 32:50
hand off:移交,交接(把任务交给别人)
scarce /skers/ adj. 33:51
稀缺的(the scarce skill 稀缺技能)
crux /krʌks/ n. 33:51
症结,最关键之处(the crux of… …的核心)
steering /ˈstɪrɪŋ/ v. 33:51
掌舵,引导方向
esoteric /ˌesəˈterɪk/ adj. 35:02
玄奥的,只有内行才懂的
cobbling together /ˈkɑːblɪŋ/ phr. 35:02
cobble together:草草拼凑,攒出来
take as a given phr. 36:10
视为理所当然,当作默认前提
fabrication /ˌfæbrɪˈkeɪʃən/ n. 36:10
(芯片)制造(chip fabrication,简称 fab)
error margins phr. 37:25
误差余量(为容错预留的设计空间)
racks /ræks/ n. 37:25
机架(数据中心中安放服务器的柜架)
redundant /rɪˈdʌndənt/ adj. 38:30
冗余的(redundant paths 冗余路径;工程中冗余是容错手段)
question assumptions phr. 38:30
质疑假设(question 作动词:对…提出质疑)
rhyme with /raɪm/ phr. 39:28
与…押韵;引申为与…惊人地相似(源自「历史不重复但押韵」)
neuromorphic /ˌnʊroʊˈmɔːrfɪk/ adj. 39:28
神经形态的(neuromorphic computing 模仿大脑结构的计算)
checkpointing /ˈtʃekpɔɪntɪŋ/ n. 40:09
检查点机制(定期保存状态以便故障后恢复)
intermixed /ˌɪntərˈmɪkst/ v. 40:09
混杂在一起(be intermixed with 与…交织混杂)
obscured /əbˈskjʊrd/ v. 41:16
被遮蔽,被淹没(get obscured by 被…掩盖)
abstraction /æbˈstrækʃən/ n. 41:16
抽象(层)(计算机科学核心概念:隐藏底层细节的接口)
robust /roʊˈbʌst/ adj. 41:16
稳健的,健壮的(能承受故障和异常)
lays out phr. 42:03
lay out:布局,排布(芯片设计中的布局规划)
computationally intensive phr. 44:12
计算密集的,算力开销极大的
neural approximation phr. 44:12
神经网络近似(用神经网络拟合昂贵计算过程的替代模型)
screen /skriːn/ v. 45:22
筛选(药物/材料研发术语:screen candidates 筛选候选物)
scrape together phr. 45:22
东拼西凑,勉强凑齐(scrape together enough compute 凑够算力)
endeavor /ɪnˈdevər/ n. 45:22
(费力的)事业,大工程(a six-month endeavor 一项半年的大工程)
recursively /rɪˈkɜːrsɪvli/ adv. 46:04
递归地(recursively self-improve 递归自我改进)
impediment /ɪmˈpedɪmənt/ n. 46:04
障碍,阻碍(no real impediment to… 没有实质障碍)
recipe /ˈresəpi/ n. 46:04
配方;ML 行业指训练方案的完整配置组合
nudge /nʌdʒ/ n. 47:15
轻推,小提示(with a nudge from some people 在人的一点提示下)
distillation /ˌdɪstɪˈleɪʃən/ n. 47:15
蒸馏(ML 术语:用大模型的输出训练小模型的技术)
fault /fɔːlt/ v. 48:30
指责,挑错(I don't fault them 我不怪他们)
distill /dɪˈstɪl/ v. 49:31
提炼,萃取(此处双关:从教训中「蒸馏」出结论)
vigorous /ˈvɪɡərəs/ adj. 50:09
精力充沛的,生机勃勃的
frontier lab phr. 50:09
前沿实验室(指 OpenAI、DeepMind、Anthropic 等顶级 AI 研究机构)
strive /straɪv/ v. 51:24
力求,奋力追求(strive to do 努力做到)
trade-off /ˈtreɪd ɔːf/ n. 51:24
权衡取舍(两者不可兼得时的抉择)
rewarding /rɪˈwɔːrdɪŋ/ adj. 52:36
有成就感的,值得付出的
low ego phr. 53:10
自我意识弱的,谦逊不居功的(招聘语境高频词)
complimentary skills phr. 53:10
互补技能(此处为 complementary 的常见误拼,二者发音相同)
tool belt phr. 54:22
工具腰带;比喻个人积累的技能与方法库
rattle off /ˈrætl ɔːf/ phr. 55:07
一口气流利地说出(rattle off a few 随口列举几个)
exhaustive /ɪɡˈzɔːstɪv/ adj. 55:07
详尽无遗的(not exhaustive 并非完整清单)
on par with phr. 56:09
与…相当,不相上下
continual learning phr. 56:09
持续学习(ML 术语:模型在部署后不断从新经验中学习)
discourse /ˈdɪskɔːrs/ n. 56:09
话语,公共讨论(better discourse 更良性的公共对话)
civil /ˈsɪvl/ adj. 56:09
文明礼貌的(civil conversations 文明的对话)
理解自测 · 8 题
1. Jeff 在 2025 年 AI Ascent 上做了什么预测?一年后他如何自评?

他预测 AI 达到初级工程师水平(段 0);一年后他认为基本准确,且低估了复杂任务能力的增速和智能体向编程之外领域的扩散(段 1)。

2. TPU 的诞生源于一笔怎样的「餐巾纸计算」?

2013 年估算:若每个 Google 用户每天用 3 分钟语音识别,服务器集群就得翻倍。为此不如造专用芯片——即 TPU,能效比当时 CPU/GPU 高 30~80 倍(段 7-9)。

3. 为什么机器学习训练必须做 batching?Jeff 认为这是模型问题吗?

不是模型问题而是系统能耗问题:数据搬运的能耗约是计算本身的一千倍,打成批次才能把搬运开销摊薄为「千分之批大小」(段 14-16)。

4. Jeff 建议创业者选择通用模型表现如何的问题?为什么 20% 成功率反而是坏信号?

选模型成功率 0%~1% 的问题。20% 说明该能力已在模型中涌现,随着数据和规模扩大很快会变好,创业空间会被通用模型吞没(段 33)。

5. 关于「一天出错 20 次的晶体管」的思想实验想说明什么?

示范如何质疑人人视为理所当然的假设:分布式系统早已用不可靠部件构建可靠系统(三副本、纠删码),晶体管层面或许也可以,即使结论未必成立,定期质疑假设本身有价值(段 41-43)。

6. 量子化学的例子中,神经近似模型带来了多大加速?这改变了什么?

把一整晚的密度泛函理论模拟加速约 30 万倍且精度接近,使筛选 1000 万个候选分子从半年工程变成午饭工夫——快速评估器彻底改变科研循环的节奏(段 49-50)。

7. 蒸馏论文被 NeurIPS 拒稿的理由是什么?Jeff 从中提炼的教训是?

审稿意见称其「不太可能有显著影响」。教训:审稿人可能缺乏工业视角;被拒不必气馁,放上 arXiv 让实践检验价值——Gemini Flash 正是靠蒸馏做出来的(段 52-54)。

8. 当智能体包揽写代码之后,Jeff 认为什么成为稀缺技能?如何培养?

对「让智能体做什么」的选题品味。培养方式:积累多样问题经验;写下未来 12 个月的重要事项预测并定期回看校准;做疯狂的思想实验(段 39-41)。

苏菲拉底 向最好的头脑提问 · ASK THE BEST MINDS 一人,一实验室 · 关于 →