问题簿 / 第一季 · 实在之问 / Ⅰ·05ASK THE BEST MINDS THE BIG QUESTIONS持续追问中
第一季 · 实在之问「什么是真实?」之 Ⅰ·05 · #005 整体能大于部分之和吗? 3 答 · 未结案

这是在问:复杂系统的某些性质是否原则上不能从其组成部分的性质推出,还是只是我们暂时算不出来。容易被误解为「系统很复杂」的常识,其实在追问的是解释与实在的层级:所谓「涌现」是世界的结构,还是我们描述能力的边界。与因果问题相邻,但本问关心的是层级之间的关系而非事件之间的关系。

大模型在规模跨过某一阈值后突然表现出新能力,这被称为「涌现」,但有研究指出换一种连续的度量,那些跃迁就消失了。这直接决定了我们是否应期待更大的模型带来质变、是否能从小模型的行为预测大模型的风险,以及「系统层面的性质」是否是可以被规划的东西。

AI 把它重新问了一遍:

大模型的「涌现能力」是真的新事物,还是度量制造的错觉?

思想史的回应 突现与还原 · 经典立场速览
亚里士多德 整体是部分以特定方式结合而成的东西,它的形式使其不同于部分的堆积——音节不是字母的简单相加。
密尔 化学结合中,水的性质不能从氢与氧的性质相加得出,这类「异质效应」与力学中的合成定律根本不同。
金在权 若涌现性质有独立的因果力,就会与物理层面的因果封闭冲突;要么它是可还原的,要么它是副现象。
安德森 「多则不同」:每一层级都有自己的基本定律,还原论的成功不意味着建构论的可行。
← 上一问 · Ⅰ·04数学是发现,还是发明? 下一问 · Ⅰ·06 →机器会思考吗?
苏菲拉底 THE SOPHIE LAB · ASK THE BEST MINDS THE BIG QUESTIONS 内容仅供学习 · thesophielab.com