回应
按立场分组 · 点上方立场只看那一组
就该专门造机器学习的计算方式特殊，需要为它专门设计的硬件
硬件专用化是让推理更省电、延迟更低的关键手段，通用计算设备做不到同等水平
▶ 3:55杰夫·迪恩Jeff Dean: The 1% Rule for Building in AI2026
机器学习的访存时机可以提前调度，因此硬件缓存对机器学习芯片没有意义
▶ 28:59大卫·帕特森Turing Award Winner: TPU vs GPU vs CPU, Computer Architecture, RISC vs CISC | David Patterson2026
机器学习需要的是浮点数的动态范围，而不是高精度
▶ 29:29大卫·帕特森Turing Award Winner: TPU vs GPU vs CPU, Computer Architecture, RISC vs CISC | David Patterson2026
机器学习的计算方式与手写代码差别很大，需要专门设计的硬件而非通用CPU
▶ 2:31杰夫·迪恩Jeff Dean (Google): Exciting Trends in Machine Learning2024
太专的追不上硬件要两三年、模型三个月一换，做得太专的机器注定追不上
从想法到量产系统要两三年，而模型每三个月换一批，专用机器注定追不上
▶ 31:10诺姆·朱皮CHM Live | The Silicon Gold Rush: How AI is Driving the Development of New Chips2026
机器学习芯片要专用到足以获得显著性能收益，但不能过度专用化
▶ 8:48杰夫·迪恩Jeff Dean: The 1% Rule for Building in AI2026
自研 AI 芯片这条路所有人都会去试，但最后又都会放弃
▶ 46:44迪伦·帕特尔Why Hardware-Software Co-Design Is AI's Real 100x: Dylan Patel of SemiAnalysis2026
AI 加速器过度专用化会得不偿失，新算法一旦更优，专用芯片反而不如 GPU
▶ 1:15:05吉姆·凯勒Jim Keller: Moore's Law, Microprocessors, and First Principles | Lex Fridman Podcast #702020
整套系统真正的产品不是芯片，而是硬件软件配置合在一起的整套系统
AI 计算的产品不是芯片，而是包含全部硬件、软件与配置的整套系统
▶ 17:59比尔·戴利CHM Live | The Silicon Gold Rush: How AI is Driving the Development of New Chips2026
跨层协同设计的收益是相乘的：各层各 2 倍本该是 8 倍，实际能到 100 倍
▶ 28:20迪伦·帕特尔Why Hardware-Software Co-Design Is AI's Real 100x: Dylan Patel of SemiAnalysis2026
GPU 和 TPU 谁更好没有普遍答案，取决于模型与硬件如何协同设计
▶ 34:21迪伦·帕特尔Why Hardware-Software Co-Design Is AI's Real 100x: Dylan Patel of SemiAnalysis2026
苏菲周报 · THE WEEKLY
每周一封，
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]