人物档案 · MIND_008
梅拉妮·米切尔
Melanie Mitchell美国计算机科学家与认知科学家，圣塔菲研究所教授。师从侯世达研究类比推理，共同开发类比程序 Copycat，早年与 Jim Crutchfield 合作以遗传算法演化元胞自动机。著有《AI 3.0》《复杂》，长期主张借鉴实验心理学的方法论评估人工智能的真实能力，是该领域最具影响力的公共评论者之一。
他在这些问题上说过什么
Ⅱ·02什么才算真正知道？11 段
把同一题换个朝向或改成反事实版本，成绩就塌，说明学到的是熟悉度不是概念。
机器学习系统常常学到的不是人想教的东西，比如用照片里有没有尺子来预测皮肤癌
The Debate Over “Understanding” in AI’s Large Language Models · 6:19 · 2024 · 追问 →
语言理解基准里存在词与词之间的统计捷径，模型无需类人理解也能预测出答案
The Debate Over “Understanding” in AI’s Large Language Models · 16:15 · 2024 · 追问 →
语言模型的标准化考试成绩可能来自数据污染，测试题本身就在训练数据里
The Debate Over “Understanding” in AI’s Large Language Models · 17:49 · 2024 · 追问 →
检验模型抽象是否稳健，应设计与训练数据不相似、但所需推理能力相同的反事实任务
The Debate Over “Understanding” in AI’s Large Language Models · 19:41 · 2024 · 追问 →
在所需推理能力完全相同的情况下，任务内容在训练数据中越不常见，模型表现越差
The Debate Over “Understanding” in AI’s Large Language Models · 22:11 · 2024 · 追问 →
能解出抽象推理任务不等于掌握了背后的概念，程序完全可能靠捷径通过
The Debate Over “Understanding” in AI’s Large Language Models · 37:55 · 2024 · 追问 →
这一问的全部回应 →
Ⅱ·05能给出正确答案，就意味着真正理解了吗？11 段
高分可由污染、标注伪迹与伊莱扎效应造出，得靠对照实验和独立重复才能分辨。
用黑白棋走法序列训练出的小模型规模小、世界封闭，其内部表征结果未必能推广到大语言模型
The Debate Over “Understanding” in AI’s Large Language Models · 12:10 · 2024 · 追问 →
人非常容易把理解投射到任何用自然语言与自己交流的东西上
The Debate Over “Understanding” in AI’s Large Language Models · 14:38 · 2024 · 追问 →
大语言模型几乎在所有内容上都训练过，谈不上把本领迁移到训练领域之外
Are We Thinking Correctly About AI Intelligence? · 10:22 · 2026 · 追问 →
人们容易把类人特质投射到能用流利语言对话的系统上，而它们未必真的具备
Are We Thinking Correctly About AI Intelligence? · 14:43 · 2026 · 追问 →
能展示出会做什么不等于实际上能做什么：背下解法的人，题目稍改就做不出来
Are We Thinking Correctly About AI Intelligence? · 25:41 · 2026 · 追问 →
深层理解意味着在很多个维度上同时理解，而语言模型常常只在部分维度上理解
Are We Thinking Correctly About AI Intelligence? · 27:40 · 2026 · 追问 →
这一问的全部回应 →
Ⅰ·12智能一定需要生命才能产生吗？6 段
要以类人的方式理解世界，AI 可能需要具备类似人类的核心知识系统及由此产生的概念
The Debate Over “Understanding” in AI’s Large Language Models · 43:32 · 2024 · 追问 →
若 AI 的理解方式不同于人类，这些系统就很难在人类世界中与人协作，也就无法可信赖
The Debate Over “Understanding” in AI’s Large Language Models · 44:14 · 2024 · 追问 →
仅靠海量人类生成的语言和图像数据训练，就足以让人工智能达到今天的能力水平
Are We Thinking Correctly About AI Intelligence? · 3:31 · 2026 · 追问 →
人工智能研究应当采纳认知科学与发展心理学的实验方法论，才能成为一门真正的科学
Are We Thinking Correctly About AI Intelligence? · 6:17 · 2026 · 追问 →
把人类心理学直接编进机器的路线没有成功，成功的是从数据中学习的神经网络
Are We Thinking Correctly About AI Intelligence? · 8:06 · 2026 · 追问 →
这一问的全部回应 →
Ⅱ·07一个词的意义究竟从哪里来？1 段
Ⅱ·01知识从哪里来？1 段
Ⅵ·04我们如何判断一项技术究竟改变了什么？1 段
苏菲周报 · THE WEEKLY
每周一封，
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
追问一个大问题。 苏菲拉底的每周来信，写这一周在追问的问题和看到的回应。
苏菲拉底
ASK THE BIG QUESTIONS · THINK DEEPLY · SEE THE WORLD DIFFERENTLY
微信公众号
© 2026 苏菲拉底 · 内容仅供学习
[email protected]