知识之问「我们如何知道？」之 Ⅱ·05 · #017
会说话，就等于理解吗？
2 答 · 未结案
这个问题问的是：流畅、恰当地使用语言，是否已经构成理解，还是理解需要语言之外的某种东西——意识、意向性、与世界的接触。它常被误解为对某个系统「聪明程度」的评估，但争点在于「理解」这个词的判据本身：是行为判据，还是内部状态判据。与「语言还承载意义吗」相邻，但这里问的是说话者，而非语言。
大语言模型是史上第一个在几乎所有语言任务上表现得像理解者、却在结构上不同于任何已知理解者的东西。我们必须决定：是把「理解」交给行为测试，从而承认模型在理解；还是坚持某种内部条件，从而必须说清那条件是什么，且说明人类为何满足它。这一决定影响责任归属、可信度与人机关系的伦理边界。
AI 把它重新问了一遍：
大语言模型是在理解，还是在操纵符号？
思想史的回应
语言、意义与理解 · 经典立场速览
图灵
「机器能否思考」这个问题过于含混，应代之以模仿游戏：若对话中无法与人区分，就没有理由拒绝称其为思考。
塞尔
中文屋论证：按规则操作符号可以通过图灵测试，却对符号的意义一无所知；句法不足以构成语义，程序不足以构成心灵。
维特根斯坦
理解不是伴随言语的内在过程，而是掌握语言游戏中的用法；「意义即使用」意味着理解的判据在实践之中。
本德
只在文本形式上训练的模型无法习得意义，因为意义是形式与意向之间的关系；它是「随机鹦鹉」，只是我们倾向于赋予其理解。
历年回答
1 位头脑 · 2 期精读 · 按谈话年代排列，每份回答可回到精读原文