回应
按立场分组 · 点上方立场只看那一组
可以看懂用现有手段能弄清网络内部在做什么
「神经网络只是无法看透的线性代数、无从知晓其运作方式」这一看法是错的
▶ 4:38尼尔·南达Understanding the inner thoughts of AI2026
神经网络内部激活里的信息是以线性方向的方式编码的
▶ 19:35尼尔·南达Understanding the inner thoughts of AI2026
复杂优美的可解释性方法往往没用，真正奏效的是引导模型、训练探针、读思维链这类简单手段
▶ 25:27尼尔·南达Understanding the inner thoughts of AI2026
不必知道系统的每一个细节也能判断涌现是否存在，用玩具设定自己做实验就能验证
▶ 1:05:50塞巴斯蒂安·布贝克CHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
从原子到数据中心，计算机工程的每一层抽象都被人理解得相当清楚
▶ 3:49吉姆·凯勒Jim Keller: Moore's Law, Microprocessors, and First Principles | Lex Fridman Podcast #702020
超出理解系统复杂到超出人的理解力，说不清它内部在做什么
指望有限的人类头脑一直把人工智能搞明白是一种自负，这样的日子已屈指可数
▶ 38:34史蒂夫·斯托加茨Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
神经网络的复杂程度堪比人脑，人的理解力存在上限，不可能被完全理解
▶ 6:16尼尔·南达Understanding the inner thoughts of AI2026
用最高层的架构标签解释一个系统为何有效，会掩盖真正起作用的部件
▶ 23:02约翰·江珀He won a Nobel here for AlphaFold. Then he left. - John Jumper2026
机器学习是在为我们并不理解的对象建模，造出的是人无法直觉把握的外星造物
▶ 35:25约翰·江珀He won a Nobel here for AlphaFold. Then he left. - John Jumper2026
只看程序本身永远无法透彻理解它的行为，只能靠真的运行它才能知道
▶ 3:00:11乔尔·大卫·哈姆金斯Infinity, Paradoxes, Gödel Incompleteness & the Mathematical Multiverse | Lex Fridman Podcast #4882025
除非能完全公开访问训练数据，否则关于机器学习系统涌现行为的说法是不科学的
▶ 1:05:14艾米莉·本德CHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
苏菲周报 · THE WEEKLY
每周一封，
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]