回应
按立场分组 · 点上方立场只看那一组
原则不能理解不是计算过程，机器原则上做不到
人的理解力能够超越任何一套被信任的形式证明规则
▶ 2:36罗杰·彭罗斯Roger Penrose - What is Consciousness?2024
人的数学理解并不是一个计算过程
▶ 7:14罗杰·彭罗斯Roger Penrose - What is Consciousness?2024
神经网络识别物体靠的是像素与名称的统计关联，而非人类那样稳健的抽象概念
▶ 15:12梅拉妮·米切尔Melanie Mitchell - Abstraction and Analogy: The Keys to Robust Artificial Intelligence2023
人类的「桥」概念远丰富于神经网络从桥的照片中学到的东西，可无限延伸到隐喻用法
▶ 21:46梅拉妮·米切尔Melanie Mitchell - Abstraction and Analogy: The Keys to Robust Artificial Intelligence2023
创造新概念、给出新定义并添加新公理，无法由机械流程完成，只能依靠人类智慧
▶ 8:59贾斯汀·柯里MIT Godel Escher Bach Lecture 62012
人类根本上不是图灵机而计算机是，因此人工智能不可能实现
▶ 15:25贾斯汀·柯里MIT Godel Escher Bach Lecture 62012
还差得远眼下的系统只是复述与匹配，并没有在理解
大语言模型几乎在所有内容上都训练过，谈不上把本领迁移到训练领域之外
▶ 10:22梅拉妮·米切尔Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
能展示出会做什么不等于实际上能做什么：背下解法的人，题目稍改就做不出来
▶ 25:41梅拉妮·米切尔Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
深层理解意味着在很多个维度上同时理解，而语言模型常常只在部分维度上理解
▶ 27:40梅拉妮·米切尔Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
大语言模型被设计来产出看起来像逻辑正确的论证，而不是真正正确的论证
▶ 3:40:54乔尔·大卫·哈姆金斯Infinity, Paradoxes, Gödel Incompleteness & the Mathematical Multiverse | Lex Fridman Podcast #4882025
在素描理解上，视觉模型彼此之间的差异远小于模型与人之间的差距
▶ 34:49朱迪·范Prof. Judy Fan: Cognitive Tools for Making the Invisible Visible2025
用黑白棋走法序列训练出的小模型规模小、世界封闭，其内部表征结果未必能推广到大语言模型
▶ 12:10梅拉妮·米切尔The Debate Over “Understanding” in AI’s Large Language Models2024
正在长出该有的能力正从大规模训练中自然长出来
许多被认为是智能必需的能力，是在把下一个词预测做到极好的过程中自然长出来的
▶ 47:35约翰·江珀He won a Nobel here for AlphaFold. Then he left. - John Jumper2026
大语言模型确实从文本中提取到了某种意义，但比人从文本中提取到的肤浅得多
▶ 14:06亚当·布朗Do LLMs Understand? AI Pioneer Yann LeCun Spars with DeepMind’s Adam Brown.2025
要把预测下一个词做得足够好，就必须真正理解这个宇宙
▶ 48:00亚当·布朗Do LLMs Understand? AI Pioneer Yann LeCun Spars with DeepMind’s Adam Brown.2025
仅靠被动观看视频就能习得直觉物理，不需要具身或与世界互动
▶ 18:06德米斯·哈萨比斯Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games | Lex Fridman Podcast #4752025
理解不是二元的有或无，而是一个连续的程度量
▶ 32:43塞巴斯蒂安·布贝克CHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
大语言模型确实具有智能与理解，只是方式与人类不同，需要一套自己的词汇
▶ 53:51塞巴斯蒂安·布贝克CHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
人在补全看起来像理解，是人替它把话说通、把意义补上了
人们容易把类人特质投射到能用流利语言对话的系统上，而它们未必真的具备
▶ 14:43梅拉妮·米切尔Are We Thinking Correctly About AI Intelligence? | PODCAST: The Joy of Why2026
大语言模型看起来像在理解，是因为人类替它把话说通了
▶ 25:08艾米莉·本德CHM Live | The Great Chatbot Debate: Do LLMs Really Understand?2025
人非常容易把理解投射到任何用自然语言与自己交流的东西上
▶ 14:38梅拉妮·米切尔The Debate Over “Understanding” in AI’s Large Language Models2024
机器只要能产生连贯回应，人们就会过度认定它具有理解力
▶ 30:39梅拉妮·米切尔Melanie Mitchell - Abstraction and Analogy: The Keys to Robust Artificial Intelligence2023
真正改变人们对 AI 系统观感的是语言能力，而不是 AI 技术本身的进展
▶ 1:26:20温妮·斯特里特Melanie Mitchell - Abstraction and Analogy: The Keys to Robust Artificial Intelligence2023
人太容易从语言里读出意义并替它补上说得通的背景，因此不适合充当图灵测试的测试者
▶ 32:22艾米莉·本德Emily M. Bender — Language Models and Linguistics2021
问法错了「机器懂不懂」本身没定义清楚，这么问得不到答案
「这台机器到底有没有智能」要么是毫无意义的问题，要么就是问错了
▶ 48:00卢西亚诺·弗洛里迪The Philosophy of Information and Artificial Intelligence w/Dr. Luciano Floridi2023
「概念」与「智能」都没有明确定义，因此谈论距离 AGI 还有多远时并不知道目标是什么
▶ 1:17:27梅拉妮·米切尔Melanie Mitchell - Abstraction and Analogy: The Keys to Robust Artificial Intelligence2023
苏菲周报 · THE WEEKLY
每周一封，
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]